Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — serveur IA Frontier 8× RTX Pro 6000 Blackwell Max-Q (Dual Turin)
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
Vaisseau amiral frontier — 768 GB de VRAM ECC
8x RTX Pro 6000 Max-Q | Double EPYC Turin | 16 000 TOPS INT8
Le prix des processeurs est fixé à la commande — le marché des Turin série 9005 bouge chaque semaine au T2 2026.
Références externes publiées. Non mesurées sur du matériel Kentino.
Le sommet de la gamme de serveurs IA Kentino. Une plateforme d'inférence de classe frontier au format rack 7U, avec huit cartes turbofan NVIDIA RTX Pro 6000 Blackwell Max-Q mutualisées à 768 GB de VRAM ECC, deux processeurs AMD EPYC Turin série 9005 (Zen5c, SP5), 1.5 TB de DDR5-4800 ECC (les 24 canaux peuplés), 4 TB de NVMe pour le démarrage et 5x alimentations serveur de 1200 W. PCIe Gen5 de bout en bout. DeepSeek V3 fp8 natif (~670 GB) entièrement en VRAM. Kimi-K2 Q4-Q5. 4 modèles de classe frontier résidents simultanément.
Matériel
| Composant | Détail |
|---|---|
| GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan, TDP annoncé 600 W, PCIe 5.0 x16, 2000 TOPS INT8 par carte, fp8 natif) |
| Pool de VRAM | 768 GB au total sur 8 cartes (pas de NVLink — P2P via PCIe Gen5 à ~55-60 GB/s au sein d'un socket, inter-socket par l'interconnexion CPU) |
| CPU | 2x AMD EPYC Turin série 9005 (Zen5c, SP5, PCIe 5.0) — en attente de cotation, référence exacte confirmée à la commande |
| Carte mère | ASRock Rack TURIN2D24XGM/500W (double SP5 Turin, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Mémoire système | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — les 24 canaux peuplés, ~920 GB/s cumulés) |
| Démarrage / stockage | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimensionné pour les checkpoints frontier |
| Alimentation | 5x 1200 W server PSU set (6 kW total) |
| Châssis | Rack 7U à 8 GPU, capacité de 10 slots PCIe, risers Gen5 actifs |
| Refroidissement | 2x refroidisseurs tour SP5 Turin + 8x ventilateurs de châssis Martech 120 mm. Turbines turbofan autonomes sur chaque GPU. |
| Réseau | Onboard dual 10 GbE (Intel X550) |
Enveloppe électrique
- Consommation GPU (spéc.) : 8 x 600 W = 4 800 W
- Consommation CPU : 2 x 360 W = 720 W (estimation Turin milieu de gamme)
- Total système à pleine charge annoncée : ~5 720 W
- Total alimentations : 6 000 W — ~4.7% de marge brute aux valeurs annoncées
- Dans les faits : les Max-Q tiennent 520-550 W en inférence, ce qui porte la marge en charge soutenue à ~20%+
- Plafonnement de puissance par firmware à 520 W disponible pour garantir la marge
Topologie des lignes PCIe
La double configuration Turin offre 2x 128 lignes PCIe Gen5. La TURIN2D24XGM/500W raccorde les 8 slots GPU directement aux processeurs en Gen5 x16 via des risers actifs — 4 slots par racine CPU. Aucun commutateur PCIe sur le chemin des GPU : une topologie à double racine propre. Un réglage NUMA est nécessaire pour un peer-to-peer inter-socket optimal. Pas de NVLink ; P2P à ~55-60 GB/s par direction au sein d'un socket.
Ce que vous pouvez faire tourner
Avec 768 GB de VRAM ECC mutualisée — le sommet de l'enveloppe Kentino — ce serveur exécute DeepSeek V3 fp8 natif (~670 GB) entièrement en VRAM, Kimi-K2 Q4-Q5 (~630 GB) sans forcer, et surtout son cas d'usage emblématique : 4 modèles de classe frontier résidents simultanément pour du service de production multi-locataire.
LLM — texte / raisonnement / code
Modèles frontier chinois en quantification de production
- Kimi-K2 (Base / Instruct / Thinking) en Q4_K_M / Q5_K_M (~630 GB) sans forcer (~15-25 tok/s en requête unique, référence publiée) — le fleuron chinois frontier sur une seule machine, en quantification de production
- DeepSeek V3 / R1 / V3.1 / V3.2 en fp8 natif (~670 GB) entièrement en VRAM (~30-50 tok/s en requête unique, référence publiée) — les cœurs tensoriels fp8 Blackwell l'exécutent nativement et vite
- DeepSeek V3 en Q4_K_M (~404 GB) avec plusieurs instances de service concurrentes en gros lots
- GLM-5 / GLM-5.1 (~745B/44B) en Q3-Q4 (~420-560 GB) sans forcer, entièrement en VRAM
- Intern-S1-Pro (1T/22B actifs, SAGE) en Q3-Q4 (~440-580 GB) sans forcer
- Qwen3-Coder-480B-A35B en Q5-Q6 (~340-400 GB) avec un contexte de 1M
- Qwen3-235B-A22B en bf16 (~470 GB) avec un cache KV généreux pour les longs contextes
- ERNIE-4.5-424B-A47B en Q6 (~360 GB) ; Hunyuan-Large en fp8 (~390 GB)
- MiniMax-Text-01 / M1 en Q5-Q6 (~325-390 GB)
Modèles frontier occidentaux en quantification de production
- Mistral Large 3 (675B/41B MoE, Apache 2.0) en Q3-Q4 (~317-404 GB) sans forcer (~20-30 tok/s en requête unique, référence publiée)
- Llama 4 Maverick (400B/17B, 128 experts) en Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B en bf16 (~506 GB) entièrement en VRAM
- Snowflake Arctic en Q5-Q6 (~350-420 GB) ; Grok-1 en Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B en bf16 (~264 GB) en multi-instance
Modèles vision-langage
Qwen3-VL-235B-A22B, VLM phare à long contexte ; InternVL3.5-241B-A28B en bf16 (~482 GB) ; GLM-4.5V / 4.6V 106B bf16 en multi-instance ; Llama 3.2 90B Vision bf16 en multi-instance ; Pixtral Large 124B bf16 ; Molmo 72B bf16 en multi-instance.
Génération d'images
Instances concurrentes de HunyuanImage-3.0 Instruct ; FLUX.1 en multi-instance (~15-20 s par image 1024x1024, référence publiée) ; SD 3.5 Large ; SDXL ; AuraFlow ; OmniGen ; HunyuanImage-2.1 ; Kolors 2.0 — toute la pile d'images chinoise et occidentale résidente en simultané.
Génération vidéo
Wan 2.2 T2V-A14B / I2V-A14B — de nombreux flux simultanés ; HunyuanVideo 13B bf16 en plusieurs flux simultanés ; Open-Sora 2.0 (11B) en multi-instance ; Mochi-1 (10B) en multi-instance ; NVIDIA Cosmos Predict 2 jusqu'à 14B.
Audio / parole / TTS
Pile complète résidente en traitement par lots : Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B en temps réel, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Service multi-modèle / multi-locataire (le cas d'usage emblématique)
- Production frontier multi-locataire : 4 modèles de classe frontier résidents simultanément — par exemple DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — avec VRAM partitionnée et SLO par locataire
- Inférence Blackwell fp8 native en simultané (famille DeepSeek V3 / R1, Hunyuan fp8) + service quantifié sur des domaines PCIe séparés
- Comparaisons A/B de recherche sur 4 à 5 modèles frontier à poids ouverts, en quantification de niveau recherche
- Plateforme agentique avec un modèle principal de 400B+ et plusieurs spécialistes de 30-70B résidents
Charges de travail visées
- Production multi-locataire de modèles frontier à poids ouverts — plusieurs modèles frontier résidents en simultané, avec isolation par locataire
- Déploiement d'IA frontier souveraine — accès sur site à DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, hébergement des données dans l'UE
- Laboratoire de recherche frontier avec évaluation A/B sur 4 modèles frontier à poids ouverts ou plus, en quantification de niveau recherche
- Plateforme agentique d'entreprise où un MoE de 400B+ pilote les outils et plusieurs modèles spécialisés
- Inférence à l'échelle frontier en milieu réglementé et isolé du réseau, avec ECC et PCIe Gen5
Références de performance publiées
Références externes | Non mesurées sur du matériel Kentino
| Benchmark | Résultat |
|---|---|
| TOPS INT8 par carte RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 sur 8x RTX Pro 6000 (requête unique) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 sur 8x RTX Pro 6000 (lot de 32) | 300-500 tok/s cumulés |
| Service de Kimi-K2 Q4 sur 8x RTX Pro 6000 (requête unique) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 sur une seule RTX Pro 6000 | ~15-20 s par image 1024x1024 |
Les chiffres exacts seront confirmés au stade du PoC. Kentino publiera ses propres mesures après la première machine client.
Moins adapté à
- Les déploiements à budget serré — c'est un modèle phare, à un prix de modèle phare
- L'entraînement de zéro de modèles de classe frontier — pas de NVLink, uniquement du P2P PCIe (à cette échelle, les H100/H200 SXM ou une fabric NVLink GB200 sont l'outil adapté)
- Un déploiement clé en main — servir des MoE frontier en multi-locataire exige une équipe MLOps expérimentée
Garantie et délai de livraison
La prestation comprend l'assemblage, la configuration du BIOS, l'installation des pilotes, le rodage, le memtest, la vérification fonctionnelle, le réglage NUMA et la mise en place de l'environnement LLM (pile vLLM / SGLang / llama.cpp / CUDA 13 avec noyaux fp8 Blackwell). Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- Carte réseau NVIDIA ConnectX-5 MCX555A-ECAT ou ConnectX-7 Gen5 100 GbE pour le passage à l'échelle multi-nœuds
- Mellanox ConnectX-6 25 GbE SFP28 pour la fabric de centre de données
- Second NVMe de 4 TB pour la bibliothèque de jeux de données et de modèles (les checkpoints frontier sont volumineux — Kimi-K2 bf16 pèse à lui seul ~1 TB)
- Baie rack 24U complète avec porte avant perforée et PDU managée
- Onduleur online 10 kVA (arrêt propre en cas de coupure)
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.