Kentino AI 48 Rome L4 484TOPS — serveur IA edge 2x NVIDIA L4
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 48 Rome L4 484TOPS
Serveur edge silencieux 2x L4 passives
48 GB de VRAM ECC | EPYC Milan | 484 TOPS INT8
Boîtier d'inférence silencieux à 2 L4 passives — parcours de garantie de centre de données, 72 W par carte, 48 GB de VRAM ECC pour un déploiement edge en continu.
Un serveur d'inférence edge à 2 GPU bâti autour de cartes NVIDIA L4 passives — l'option silencieuse de classe centre de données du catalogue Kentino. 48 GB de VRAM ECC au total, 144 W de consommation GPU cumulée, cartes au format simple slot et flux d'air entièrement assuré par le châssis. Pour les agences, les régies de diffusion, la transcription en continu et tout déploiement où le profil acoustique et un parcours de garantie de centre de données comptent davantage que la puissance tensorielle brute.
Matériel
| Composant | Détail |
|---|---|
| GPU | 2x NVIDIA L4 24 GB GDDR6 passives (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| Pool de VRAM | 48 GB ECC |
| Processeur | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x lignes PCIe 4.0) |
| Carte mère | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM système | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Démarrage / stockage | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Alimentation | Une alimentation ATX unique de 2 kW |
| Châssis | Rack 4U, risers passifs Gen4 x16 |
| Refroidissement | Ventirad tour SP3, 3x 120 mm en aspiration frontale + 1x 120 mm en extraction arrière (PWM à bas régime) |
| Réseau | Double 10 GbE intégré (Intel X550) + IPMI |
Enveloppe de puissance
- Consommation GPU : 2 x 72 W = 144 W
- Total système en pleine charge : ~469 W
- Alimentation totale : 2 000 W — 76.55 % de marge
- Ventilateurs maintenus à bas régime (~35 dBA au repos, <45 dBA en inférence soutenue)
Topologie des lignes PCIe
PCIe Gen4 x16 sur les deux GPU. La L4 est nativement en Gen4 x16 ; la ROMED8-2T distribue 2x16 directement depuis le processeur. Pas de switch, pas de NVLink. Température GPU de 55-65 C en continu — les cartes passives dépendent entièrement du flux d'air du châssis.
Ce que vous pouvez faire tourner
Avec 48 GB de VRAM ECC répartis sur 2 cartes L4 passives, ce serveur assure l'inférence LLM en continu, les pipelines ASR + TTS 24/7, le traitement documentaire par VLM et les déploiements edge où le silence et la garantie centre de données font la différence.
LLM — texte / raisonnement / code
Modèles de pointe chinois
- Qwen3-32B dense Q6 avec contexte 32k (~15-20 tok/s en flux unique sur L4, référence publiée)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, contexte 256k)
- QwQ-32B Q6 ; DeepSeek-R2 32B MoE sparse Q4-Q6 (~18-24 tok/s en flux unique en Q4 sur L4, référence publiée)
- Hunyuan-A13B Q6 ou fp8 (~48 GB) — MoE 80B/13B, contexte 256k
- Seed-OSS-36B Q4-Q6 — contexte natif 512k
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Modèles de pointe occidentaux
- Llama 3.3 70B Q4_K_M (~43 GB) en tensor-parallel sur 2 cartes (~8-12 tok/s en flux unique sur 2x L4, référence publiée)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodal bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think — recherche sur le raisonnement entièrement ouverte
Vision-langage
Qwen3-VL-8B / 32B Q4-Q6 ; InternVL3.5-38B Q4 ; Pixtral 12B bf16 (24 GB) ; Llama 3.2 11B Vision bf16 ; Gemma 3 12B / 27B multimodal ; MiniCPM-V 2.6 / MiniCPM-o 2.6 ; Aya Vision 8B / 32B pour un VLM en 23 langues.
Génération d'images
La L4 est taillée pour l'inférence — exploitable pour des pipelines d'images en régime continu, pas pour de la génération par lots : FLUX.1 [dev] fp8 / Q4 — une image en 8-12 s ; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium ; HunyuanImage-2.1 NF4 (~14 GB) ; Kolors 2.0 fp8.
Génération vidéo
Déconseillé pour démarrer un projet vidéo sur L4 — préférez une configuration 4090/5090. Pour des pipelines T2V légers : Wan 2.2 TI2V-5B en bf16 — 5 s en 720p en ~6-10 minutes ; HunyuanVideo 1.5 (8.3B) via l'optimisation Wan2GP.
Audio / parole / TTS
Le véritable point fort de la L4 — piles ASR + TTS + voix temps réel en 24/7.
- ASR : Whisper v3 large / turbo (~30x le temps réel sur L4, référence publiée) ; NVIDIA Parakeet-TDT 1.1B ; Canary 1B
- TTS : CosyVoice 2.0 / Fun-CosyVoice 3.0 ; Kokoro 82M ; Stable Audio Open
- Temps réel / S2S : Kyutai Moshi (7B, 200 ms de latence en full-duplex) ; Step-Audio 2 mini / R1
- Traduction : Meta SeamlessM4T v2 (~100 langues)
Multi-modèle / multi-locataire
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 tous résidents sur la carte 1 (~18-20 GB) ; carte 2 réservée à un second locataire ou à un VLM
- 8 à 16 sessions ASR simultanées sur une seule L4, au rythme temps réel de Whisper-turbo
- Point d'accès RAG : Qwen3-14B / Llama 3.1 8B (~48-72 tok/s en flux unique sur L4, référence publiée) + embeddings BGE-M3 + reranker
Charges de travail visées
- Boîtier d'inférence silencieux pour agence ou régie de diffusion
- Pipeline ASR + traduction en continu (centres d'appels, transcription de cours, sous-titrage média)
- Point d'accès RAG en edge sur les documents de l'entreprise, avec parcours de garantie centre de données
- Assistant multimodal 24/7 (Qwen3-VL-8B + MiniCPM-o 2.6) pour un petit bureau
- Machine de préproduction pour des déploiements de classe centre de données — même silicium L4 que l'edge hyperscale
Références de performance publiées
Référence publiée | matériel comparable à 2x NVIDIA L4
| Benchmark | Résultat |
|---|---|
| Décodage Llama 3.1 8B Q4_K_M sous llama.cpp | ~30-40 tok/s en flux unique |
| Décodage Qwen3-14B Q6 sous vLLM | ~20-28 tok/s |
| Facteur temps réel de Whisper v3 large | ~15-20x par L4 |
| ASR anglais Parakeet-TDT 1.1B | ~40-60x le temps réel |
| Voix full-duplex Moshi 7B | 200 ms de latence, tient sur une seule L4 |
Valeurs publiées, non mesurées sur du matériel Kentino.
Moins adapté à
- Un modèle dense 70B en Q6 ou plus (même un pool de 48 GB reste juste — optez pour 4x4090 ou 2x5090)
- La génération d'images ou de vidéos par lots à grande échelle (la puissance tensorielle de la L4 est calibrée pour l'inférence)
- Les workflows de LoRA / fine-tuning — préférez une configuration 4090/5090
Garantie et délai de livraison
La L4 bénéficie du parcours de garantie centre de données de NVIDIA — un avantage réel sur les cartes grand public pour un déploiement 24/7 sous SLA. La configuration inclut l'assemblage, le paramétrage du BIOS, l'installation des pilotes, les tests de rodage et la vérification fonctionnelle.
Options recommandées
- Passer au Kentino AI 96 Rome L4 968TOPS (4x L4, pool de 96 GB) pour doubler le débit
- Passer le disque de démarrage à 2 TB NVMe
- Passer la RAM à 256 GB (4x 64 GB) pour servir plusieurs modèles en parallèle
- PDU rack + onduleur online de 2 kVA pour un déploiement en agence
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.