Kentino AI 256 TurinDual 5090 — 8× RTX 5090 bi-socket Zen5c
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 256 TurinDual 5090 13408TOPS
Serveur d'inférence phare, 256 GB de VRAM
8x RTX 5090 | double EPYC Turin | 13 408 TOPS INT8
Le prix du CPU est arrêté à la commande — le marché des Turin série 9005 bouge chaque semaine au 2e trimestre 2026.
Références externes publiées. Non mesuré sur du matériel Kentino.
Serveur d'inférence phare au format rack 7U, équipé de huit GeForce RTX 5090 (32 GB GDDR7, Blackwell, fp8 natif) sur une plateforme EPYC Turin bi-socket (Zen5c, SP5) avec 768 GB de DDR5-4800 ECC répartis sur les 12 canaux, 2 TB de NVMe pour le démarrage et 5x alimentations serveur de 1200 W. PCIe Gen5 de bout en bout jusqu'au GPU grâce à des risers actifs à retimer/redriver. Exécute vLLM, SGLang, llama.cpp, ComfyUI et toutes les grandes piles d'inférence open-weight sans configuration particulière.
Matériel
| Composant | Détail |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, fp8 natif, 1676 TOPS INT8 par carte) |
| Pool de VRAM | 256 GB au total sur 8 cartes (pas de NVLink sur les RTX 5090 grand public) |
| CPU | 2x AMD EPYC Turin série 9005 (Zen5c, SP5, PCIe 5.0) — chiffrés à la commande |
| Carte mère | ASRock Rack TURIN2D24XGM/500W (double SP5, PCIe 5.0, 24x DIMM DDR5) |
| RAM système | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — les 12 canaux peuplés ; 12 emplacements libres pour monter à 1.5 TB) |
| Démarrage / stockage | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Alimentation | Jeu de 5x alimentations serveur de 1200 W (compatibles HP, 6 kW au total) |
| Châssis | 7U 8 GPU (jusqu'à 10 emplacements PCIe, baies d'alimentation séparées) |
| Refroidissement | 2x ventirads tour SP5 + flux d'air avant-arrière en rack (ventilateurs industriels) |
| Risers | 8x PCIe Gen5 x16 actifs (retimer/redriver) — Gen5 de bout en bout |
| Réseau | 10 GbE intégré (selon la carte) |
Enveloppe de puissance
- Consommation GPU : 8 x 575 W = 4 600 W
- Total système en pleine charge : ~5 520 W
- Total alimentations : 6 000 W (5x 1200 W) — 8% de marge au nominal
- Kentino livre avec un plafond de puissance GPU à 500 W — le total descend à ~4 920 W (~15% de marge)
Topologie des lignes PCIe
La plateforme Turin double fournit 2x 128 = 256 lignes PCIe Gen5 côté hôte. Les risers Gen5 actifs transportent du Gen5 x16 de bout en bout jusqu'à chaque GPU — aucun switch PCIe n'est nécessaire (un CPU par banc de 4 cartes). Pas de NVLink ; P2P inter-GPU en Gen5 x16 (~60 GB/s nominal par lien).
Ce que vous pouvez exécuter
Avec 256 GB de VRAM mutualisée sur 8 cartes Blackwell à fp8 natif, ce serveur vise les MoE de pointe de 235 à 480B en Q4 avec un contexte réel, la famille DeepSeek V3 en Q2 et Kimi-K2 en quantification dynamique 1.58 bit à débit réel.
LLM — texte / raisonnement / code
Modèles de pointe chinois
- Qwen3-235B-A22B (Instruct / Thinking / « 2507 ») Q4 (~132 GB) avec contexte long et traitement par lots multi-utilisateurs (~25-40 tok/s en flux unique sur 8x RTX 5090, référence publiée)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — raisonnement et code haut de gamme, contexte 200k à partir de la 4.6
- GLM-5 / GLM-5.1 Q2 (~260 GB) avec un léger débordement en RAM — code de pointe, proche de Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) à une vitesse d'inférence utile (~28 tok/s en flux unique sur 8x Blackwell, référence publiée)
- Kimi-K2 1.58 bit UD-TQ1_0 (~240 GB) — agent à mille milliards de paramètres à débit de tokens réel (~7-10 tok/s en flux unique, référence publiée)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB) ; ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, tout juste avec débordement en RAM) — référence du code en open source
- MiniMax-M1 / Text-01 Q4 (~260 GB), contexte 1M ; Qwen3.5-397B-A17B Q4 (~214 GB)
Modèles de pointe occidentaux
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB avec débordement) — poids ouverts de pointe côté occidental
- Llama 4 Maverick (400B/17B, 128 experts) Q4 (~232 GB), multimodal
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — égale DeepSeek-R1 pour une taille deux fois moindre
- gpt-oss-120b MXFP4 natif (80 GB) sans difficulté, avec de la place pour plusieurs modèles
- Devstral 2 123B (Modified MIT) Q6 — référence du code ouvert, contexte 256k
- Llama 3.3 70B bf16 (~142 GB) en service multi-locataire (~30-40 tok/s en flux unique par paire de RTX 5090 en TP2, référence publiée)
Modèles vision-langage
Qwen3-VL-235B-A22B en bf16 complet (~240 GB sur carte) ; InternVL3.5-241B-A28B (~135 GB en Q4) ; Llama 3.2 90B Vision bf16 ; Pixtral Large 124B bf16 (~248 GB, tout juste) ; Qwen3-Omni-30B-A3B ; Molmo 72B ; ERNIE-4.5-VL ; GLM-4.6V complet. Le chemin fp8 de Blackwell offre environ 2x plus de débit que l'architecture Ada sur l'inférence de la tour vision.
Génération d'images
FLUX.1 [dev] / Kontext / Tools en bf16 complet (~10-18 s/image en fp8 par carte, référence publiée) ; SD 3.5 Large ; HunyuanImage-2.1 (17B, 2K natif) ; HunyuanImage-3.0 80B/13B MoE ; AuraFlow ; OmniGen ; fermes ComfyUI multi-workers.
Génération de vidéos
Wan 2.2 T2V-A14B / I2V-A14B double expert bf16 (high-noise et low-noise résidents simultanément) ; HunyuanVideo 13B bf16, les deux experts ; Open-Sora 2.0 (11B) bf16 ; CogVideoX-5B ; Mochi-1 ; LTX-Video ; Pyramid Flow ; SVD / SV3D / SV4D ; NVIDIA Cosmos Predict 2.
Audio / parole / TTS
- ASR : Whisper v3 large / turbo (~50x le temps réel) ; Parakeet-TDT 1.1B ; Canary 1B ; Qwen3-ASR ; SenseVoice
- TTS : CosyVoice 2 / 3 ; Kokoro ; Stable Audio Open ; XTTS v2 ; Step-Audio-EditX
- Temps réel / S2S : Kyutai Moshi ; Step-Audio 2 mini / R1 ; Qwen2.5-Omni-7B
- Musique / bruitages : MusicGen ; AudioGen ; Bark ; SeamlessM4T v2
Service multi-modèles / multi-locataires
- Passerelle d'inférence de pointe — un MoE de 200B+, un 70B simultané, l'image et la vidéo, tous résidents
- Parallélisme tensoriel sur 8 voies pour Kimi-K2 / DeepSeek V3 à contexte réel
- API LLM multi-locataire — 50-100 utilisateurs simultanés sur un 235B Q4 via vLLM/SGLang
- Résidence simultanée des modèles de pointe chinois et occidentaux pour l'évaluation et le benchmarking
Charges de travail visées
- Backend d'inférence open-weight de pointe pour une organisation de 100 à 500 postes, mêlant Qwen3-235B, GLM-4.5+ et DeepSeek V3 Q2
- Plateforme d'agents Kimi-K2 1.58 bit à débit de production (utilisation d'outils, plus de 200 appels séquentiels)
- Service DeepSeek V3 / R1 en fp8 intégral sur silicium Blackwell
- Nœud de tête d'entraînement multi-nœuds avec fabric Gen5 100 GbE / InfiniBand
- Ferme mixte inférence + diffusion (Qwen3-235B + FLUX.1 + HunyuanVideo 13B simultanément)
Références de performance publiées
Références externes | Non mesuré sur du matériel Kentino
| Benchmark | Résultat |
|---|---|
| TOPS INT8 par carte RTX 5090 | 1 676 TOPS |
| Bande passante mémoire RTX 5090 | ~1 800 GB/s par carte |
| vLLM — Qwen3-235B Q4_K_M sur 4x RTX 5090 (flux unique) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M sur 4x RTX 5090 (lot de 32) | ~450 tok/s cumulés |
| SGLang — DeepSeek V3 Q2 sur 8x Blackwell (flux unique) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 sur 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino publiera ses propres mesures de tok/s après la première machine client équipée du SKU Turin définitif.
Ne convient pas pour
- Les déploiements au budget serré (surcoût Turin face aux alternatives Genoa ou Rome)
- Les charges 70B denses mono-locataire (surdimensionné — 4x RTX 5090 ou 4x RTX Pro 6000 est le bon niveau)
- Les modèles de pointe de 600B+ en Q4+ à contexte complet (il faut un pool de 576 GB+ — voir 6x RTX Pro 6000)
- L'entraînement soutenu depuis zéro (pas de NVLink sur les RTX 5090 grand public)
Garantie et délai de livraison
La prestation comprend l'assemblage, la configuration du BIOS, l'installation des pilotes, les tests de rodage et la vérification fonctionnelle. Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- Passer la RAM à 1.5 TB de DDR5 (24x 64 GB, population complète) — nécessaire pour Kimi-K2 Q4 ou DeepSeek V3 Q3 sans débordement en RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — fabric Gen5 pour nœuds de cluster
- Mellanox ConnectX-6 25 GbE SFP28 pour fabric de centre de données
- NVMe 4 TB Gen4 x4 pour le démarrage et la bibliothèque de modèles
- Baie rack 24U complète avec PDU managée
- Onduleur online 8-10 kVA (indispensable — 5.5 kW en pointe)
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.