Kentino AI 64 Rome 5090 3352TOPS — serveur IA Blackwell 2x RTX 5090
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 64 Rome 5090 3352TOPS
Serveur Blackwell 2 GPU d'entrée de gamme
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Serveur Blackwell 2 GPU d'entrée de gamme — 64 GB de VRAM mutualisée, 3 352 TOPS INT8, fp8 natif. Le passage d'Ada à Blackwell depuis un 2x4090.
Un serveur IA Blackwell à deux GPU bâti sur ROMED8-2T / EPYC Milan. Deux RTX 5090 offrent une enveloppe de 64 GB de VRAM mutualisée avec du calcul tensoriel fp8 natif — soit environ le double des TOPS bruts de 2x RTX 4090 dans le même encombrement, et le premier palier 2 GPU qui fait tourner confortablement Llama 3.3 70B Q4, Qwen3.5-122B-A10B Q4 et HunyuanVideo en bf16 / fp8 avec de la marge.
Matériel
| Composant | Détail |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| Pool de VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 lignes PCIe 4.0) |
| Carte mère | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM système | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Démarrage / stockage | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Alimentation | Une alimentation ATX 2 kW |
| Châssis | Rack 4U, risers Gen4 x16 passifs |
| Refroidissement | Ventirad tower SP3, 3x 120 mm en aspiration frontale + 1x 120 mm en extraction arrière (ventilateurs industriels) |
| Réseau | Double 10 GbE intégré (Intel X550) + IPMI |
Enveloppe électrique
- Consommation GPU : 2 x 575 W = 1 150 W
- Total système en pleine charge : ~1 475 W
- Total alimentation : 2 000 W (une seule ATX 2 kW) — 26.25 % de marge
- Marge viable avec une seule alimentation ; passage en double alimentation possible pour plus de réserve
Topologie des lignes PCIe
La ROMED8-2T distribue 2x16 Gen4 depuis le root complex du CPU. Le 5090 est un silicium Gen5 qui tourne en Gen4 x16 sans pénalité de bande passante pour l'inférence. Pas de commutateur PCIe. Pas de NVLink sur la GeForce 5090 — le P2P tensor-parallel à deux voies passe par le PCIe.
Ce que vous pouvez faire tourner
Avec 64 GB de VRAM GDDR7 mutualisée sur 2 cartes Blackwell, ce serveur encaisse du 70B Q4 en tensor-parallel, les modèles MoE phares, la génération d'images fp8 native, l'IA vidéo et le service simultané de plusieurs modèles.
LLM — texte / raisonnement / code
Frontière chinoise
- Qwen3-32B Q8 / bf16 (qualité proche du fp16) (~40-55 tok/s en flux unique sur Blackwell fp8, référence publiée)
- QwQ-32B bf16 ; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB, ça passe)
- Qwen3.5-122B-A10B Q4 (~70-75 GB avec débordement en RAM) — le MoE phare passe en Q4
- Hunyuan-A13B fp8 (~80 GB, juste) ou Q6 (~36 GB, confortable)
- Seed-OSS-36B bf16 (~72 GB, juste — préférez fp8 ~36 GB)
- DeepSeek-R2 32B MoE sparse bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE avec de la marge
- ERNIE-4.5-47B-A3B Q6-Q8
Frontière occidentale
- Llama 3.3 70B Q4_K_M (~43 GB) — la charge de travail phare de ce palier (~20-28 tok/s en flux unique sur 2x 5090, référence publiée)
- Hermes 3 70B / Tulu 3 70B Q4 — dérivés de Llama à post-entraînement ouvert
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16 ; Mixtral 8x7B bf16
- Gemma 3 27B multimodal bf16 + marge de raisonnement
- Phi-4 14B bf16 ; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — passe tout juste avec un contexte court)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Vision-langage
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB tight); Gemma 3 27B multimodal bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Génération d'images
Le fp8 natif du 5090 est l'argument vitesse — FLUX.1 / SD 3.5 / HunyuanImage tournent nettement plus vite que sur Ada : FLUX.1 [dev] / [schnell] fp8 natif (~12 GB) avec 2x en parallèle sur les deux cartes (~8-12 secondes par image 1024x1024 sur Blackwell, référence publiée) ; FLUX.1 Kontext [dev] ; SD 3.5 Large (18 GB fp16 ou 11 GB fp8) ; SDXL 1.0 ; HunyuanImage-2.1 bf16 (~34 GB) ; HunyuanImage-3.0 NF4 ; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Génération vidéo
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB au total) — MoE à deux experts en pleine précision ; Wan 2.2 TI2V-5B bf16 par carte, 2 tenants en parallèle ; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 juste ; HunyuanVideo 1.5 (8.3B) bf16 par carte ; Open-Sora 2.0 (11B) bf16 ; CogVideoX-5B / 1.5 bf16 ; Mochi-1 bf16 (~42 GB, ça passe) ; LTX-Video 2B ; NVIDIA Cosmos Predict 2.
Audio / parole / TTS
La même pile vocale chinoise et occidentale complète que le palier 4090 tient ici avec plus de marge : Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Sur le 5090 fp8 natif, Whisper et Parakeet décodent avec un facteur temps réel nettement supérieur. Whisper v3 turbo tourne à ~75x le temps réel sur Blackwell (référence publiée).
Multi-modèle / multi-tenant
- Pile résidente : Llama 3.3 70B Q4 (~43 GB en tensor-parallel 2 voies) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2 à 4 tenants simultanés en classe 32B à Q6-Q8 par carte
- Fine-tuning LoRA / QLoRA confortable de 7 à 14B, juste de 24 à 32B
Charges de travail visées
- Station de travail développeur en petite équipe, avec de la marge pour servir du 70B Q4
- Montée en gamme Blackwell depuis une machine 2x RTX 4090 — même châssis, ~2.5x les TOPS, fp8 natif
- Station de génération d'images et de vidéo avec l'accélération fp8 native de FLUX
- Machine multi-modèle simultanée : 70B Q4 + FLUX + Whisper + Moshi résidents en même temps
- Point d'inférence pour 4 à 8 utilisateurs simultanés sur des LLM de classe 32B
Références de performance publiées
Référence publiée | matériel comparable 2x RTX 5090
| Benchmark | Résultat |
|---|---|
| Décodage llama.cpp de Llama 3.3 70B Q4_K_M | ~20-28 tok/s en flux unique |
| Qwen3-32B Q8 vLLM en flux unique | ~45-60 tok/s en décodage fp8 |
| FLUX.1 [dev] fp8 natif Blackwell | ~1.5-1.9 s par image 1024x1024 en 20 étapes |
| HunyuanVideo 13B Q5 TP-2 | 5 s de 720p en ~5-7 min |
Références publiées, non mesurées sur du matériel Kentino. Référence mesurée par Kentino sur 4x RTX 4090 : 647 TFLOPS fp16, 179 tok/s en agrégat batch-32.
Moins adapté à
- Les modèles denses de 100B+ en bf16 (DeepSeek-V3, Kimi K2, Mistral Large 3 — exigent un pool de 256 GB et plus)
- La génération vidéo de pointe en bf16, format long et pleine résolution
Garantie et délai de livraison
L'assemblage comprend le montage, la configuration du BIOS, l'installation des pilotes, les tests de rodage et la vérification fonctionnelle. Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Passer le disque de démarrage à 2 TB NVMe — ou 4 TB
- Passer la RAM à 256 GB (4x 64 GB) — marge pour le cache KV des MoE / service simultané de plusieurs modèles
- PDU rack (C13/C19 avec mesure) et onduleur en ligne 3 kVA
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.