Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS — serveur IA Frontier 6× RTX Pro 6000 Blackwell
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS
Serveur frontier à 576 GB de VRAM ECC
6x RTX Pro 6000 Max-Q Turbofan | EPYC Genoa | 12 000 TOPS INT8
Références externes publiées. Non mesuré sur du matériel Kentino.
Une plateforme d'inférence de classe frontier au format rack 7U, avec six cartes NVIDIA RTX Pro 6000 Blackwell Max-Q turbofan mises en commun pour 576 GB de VRAM ECC, un CPU AMD EPYC 9354 Genoa (32C/64T), 768 GB de DDR5-4800 ECC (les 12 canaux peuplés), un disque de démarrage NVMe de 4 TB et 5 alimentations serveur de 1200 W. Même silicium et même pool mémoire que la version passive Server Edition — seul le refroidissement change. Le turbofan Max-Q est autonome sur chaque carte, plus silencieux, et s'accommode d'un flux d'air de châssis moins strict. Enveloppe de modèles identique à celle de sa jumelle passive.
Matériel
| Composant | Détail |
|---|---|
| GPU | 6x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbine turbofan, TDP spec 600 W, PCIe 5.0 x16, 2000 TOPS INT8 par carte) |
| Pool de VRAM | 576 GB au total sur 6 cartes (pas de NVLink — P2P via PCIe Gen5 à ~55-60 GB/s par direction) |
| CPU | AMD EPYC 9354 Genoa (32C/64T, 280 W, 128 lignes PCIe 5.0, DDR5 12 canaux) |
| Carte mère | ASRock Rack GENOAD8X-2T/BCM (SP5 Genoa, switch Broadcom PEX PCIe Gen5 intégré, 12x DDR5, 2x 10 GbE, IPMI) |
| RAM système | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — tous les canaux peuplés, ~460 GB/s cumulés) |
| Démarrage / stockage | NVMe M.2 de 4 TB (PCIe 4.0 x4) — dimensionné pour le stockage des checkpoints frontier |
| Alimentation | Ensemble de 5 alimentations serveur de 1200 W (compatibles HP, 6 kW au total) |
| Châssis | Rack 7U 8 GPU, capacité de 10 slots PCIe, risers Gen5 actifs |
| Refroidissement | Ventirad Tower SP5 Genoa + 8 ventilateurs de châssis de 120 mm. Les turbines turbofan de chaque GPU sont autonomes — un flux d'air de centre de données est recommandé mais pas indispensable. Plus silencieux pour les environnements de laboratoire. |
| Réseau | Double 10 GbE intégré (Intel X550) |
Enveloppe électrique
- Consommation GPU (spec) : 6 x 600 W = 3 600 W
- Total système à pleine charge spec : ~4 080 W
- Total alimentations : 6 000 W (5x 1200 W) — 32 % de marge
- Les cartes Max-Q tournent typiquement à 520-550 W en continu — marge réelle supérieure à 20 %
Refroidissement (le différenciateur Max-Q)
Chaque carte aspire l'air de l'avant vers l'arrière grâce à sa propre turbine — totalement autonome. Tolère un déploiement en rack mixte ou en armoire ouverte. Plus silencieuse qu'un empilement équivalent de ventilateurs axiaux. Le profil firmware Max-Q privilégie une puissance soutenue plus basse (520-550 W typiques en inférence). Recommandé : armoire à porte avant perforée et extraction arrière dégagée.
Ce que vous pouvez faire tourner
Identique à sa jumelle Server Edition — même silicium, même pool de 576 GB. DeepSeek V3 Q4 (~404 GB) avec contexte long, Kimi-K2 Q2, Mistral Large 3 Q2-Q3, GLM-5 Q2, Qwen3-Coder-480B Q4.
LLM — texte / raisonnement / code
Frontier chinois
- DeepSeek V3 / R1 / V3.1 / V3.2 en Q4_K_M (~404 GB), confortable avec un contexte long (~5-8 tok/s en flux unique, vLLM TP-6, référence publiée) ; fp8 natif (~670 GB) avec débordement en RAM
- Kimi-K2 (Base / Instruct / Thinking) en Q2_K (~375 GB), confortable (~5-8 tok/s en flux unique, référence publiée)
- GLM-5 / GLM-5.1 (~745B/44B) en Q2_K (~260 GB) ; Q3 (~420 GB) avec débordement en RAM
- Qwen3-Coder-480B-A35B en Q4_K_M (~270 GB) avec contexte long
- Qwen3-235B-A22B en bf16 (~470 GB) ou fp8 (~240 GB)
- ERNIE-4.5-424B-A47B en Q4 (~240 GB) avec 128k de contexte
- Intern-S1-Pro en Q2_K (~325 GB) ; Hunyuan-Large en Q4 (~220 GB)
- MiniMax-Text-01 / M1 en Q4 (~260 GB)
Frontier occidental
- Mistral Large 3 en Q2-Q3 (~243-317 GB), confortable (~20-30 tok/s en flux unique, référence publiée)
- Llama 4 Maverick en Q4_K_M (~232 GB) avec contexte long (~45-55 tok/s en flux unique, référence publiée)
- Llama-3.1-Nemotron Ultra 253B en fp8 (~253 GB)
- Grok-1 314B en Q4 (~182 GB) ; Snowflake Arctic en Q4 (~278 GB)
- DBRX Instruct 132B/36B en bf16 (~264 GB) ou fp8
Modèles vision-langage
Qwen3-VL-235B-A22B ; InternVL3.5-241B-A28B Q4 ; GLM-4.5V / 4.6V 106B bf16 ; Llama 3.2 90B Vision bf16 ; Pixtral Large 124B fp8 ; Molmo 72B bf16.
Génération d'images
HunyuanImage-3.0 Instruct ; FLUX.1 [dev] / [schnell] / Kontext multi-instance (~15-20 s par image 1024x1024, référence publiée) ; SD 3.5 Large ; SDXL ; AuraFlow ; OmniGen ; HunyuanImage-2.1 ; Kolors 2.0.
Génération de vidéos
Wan 2.2 T2V-A14B MoE à deux experts bf16 ; HunyuanVideo 13B bf16 ; Open-Sora 2.0 (11B) ; Mochi-1 (10B) ; NVIDIA Cosmos Predict 2 jusqu'à 14B ; CogVideoX-5B ; LTX-Video ; Pyramid Flow.
Audio / parole / TTS
Pile complète résidente : Whisper v3 large, Parakeet-TDT 1.1B, Canary 1B, Moshi 7B temps réel, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Service multi-modèle / multi-locataire
- DeepSeek V3 Q4 + FLUX + HunyuanVideo + Whisper/Moshi en temps réel, tous résidents
- 70B tensor-parallel et 235B-MoE en simultané sur des domaines PCIe distincts
- 3 modèles frontier résidents pour une évaluation A/B
Charges de travail visées
- Laboratoire de recherche sur modèles frontier à poids ouverts, avec une infrastructure au flux d'air mixte ou imparfait
- Colocation ou centre de données privé où le turbofan par carte est plus simple à exploiter qu'un flux d'air entièrement passif
- Déploiement d'IA souveraine avec une pile de modèles Apache 2.0 / MIT
- Plateforme d'entreprise RAG multi-modèle et agentique
- Environnements de laboratoire à racks ouverts
Références de performance publiées
Références externes | Même silicium que la Server Edition | Non mesuré sur du matériel Kentino
| Benchmark | Résultat |
|---|---|
| TOPS INT8 par carte RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 Q4 sur 6x RTX Pro 6000 (flux unique) | ~25-40 tok/s |
| vLLM — DeepSeek V3 Q4 sur 6x RTX Pro 6000 (batch-32) | 200-400 tok/s cumulés |
| FLUX.1 [dev] fp8 sur une seule RTX Pro 6000 | ~15-20 s par image 1024x1024 |
Chiffres exacts confirmés au stade du PoC. Kentino publiera ses propres mesures après la première machine livrée à un client.
Moins adapté à
- Le service en production à pleine vitesse de Kimi-K2 / DeepSeek V3 en Q4 — passez au Kentino AI 768 TurinDual RTXPro6000MQ
- L'entraînement de zéro de modèles de classe frontier — pas de NVLink
- Un déploiement plug-and-play — servir des MoE frontier exige une équipe MLOps expérimentée
Garantie et délai de livraison
La prestation comprend l'assemblage, la configuration du BIOS, l'installation des pilotes, le rodage, le memtest, la vérification fonctionnelle et la mise en place de l'environnement LLM. Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- Carte réseau NVIDIA ConnectX-5 MCX555A-ECAT 100 GbE pour une montée en charge multi-nœuds
- Second NVMe de 4 TB pour la bibliothèque de jeux de données et de modèles
- Armoire rack 24U complète avec porte avant perforée
- Onduleur online 10 kVA
- PDU managée
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.