Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Duo phare Blackwell 192 GB ECC
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Deux cartes passives RTX Pro 6000 Blackwell Server Edition -- 96 GB ECC chacune. Moins de surcoût de parallélisme tensoriel que les configurations à 4 ou 8 cartes. Un duo phare de centre de données sur une plateforme 2U Gen5/DDR5 avec une véritable alimentation redondante 1+1.
Un serveur d’inférence 2U montable en rack avec deux cartes passives RTX Pro 6000 Blackwell Server Edition (96 GB de GDDR7 ECC par carte), un processeur AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB de DDR5-4800 ECC, 5.76 TB de NVMe Gen5 pour centre de données et une alimentation CRPS 80+ Platinum 2.7 kW redondante 1+1. À partir de 56 600 € HT. Pour les modèles denses 70B en bf16 et les MoE de taille moyenne, mieux vaut peu de grandes cartes que beaucoup de petites : le parallélisme tensoriel à deux cartes engendre très peu de surcoût de communication, et chaque carte de 96 GB accueille une copie complète de la plupart des modèles.
Le même duo Blackwell de 192 GB que notre configuration 4U Rome, dans un châssis ASRock 2U à forte densité en rack, avec un côté hôte entièrement Gen5, de la mémoire DDR5-4800 et une véritable alimentation CRPS Platinum 2.7 kW redondante 1+1. Choisissez cette configuration lorsque la densité en rack compte, lorsque votre subvention ou votre cahier des charges impose une plateforme moderne PCIe 5.0 / DDR5, ou lorsque l’alimentation redondante est une exigence et non une option payante.
Matériel
| Composant | Détail |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB GDDR7 ECC (passives, 600 W, PCIe 5.0 x16, double slot) |
| Pool de VRAM | 192 GB ECC (96 GB x 2) -- chaque carte héberge seule un modèle 70B bf16 |
| Processeur | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x lignes PCIe 5.0, Zen5c, 256 MB L3) |
| Carte mère | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x GPU PCIe 5.0 x16 double slot, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Mémoire système | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC entièrement peuplé -- configuration à bande passante maximale) |
| Démarrage / stockage | Kioxia CD8-P 3.84 TB Gen5 U.3 (palier chaud, 1 DWPD, ~12 GB/s en lecture) + Kioxia CD8-P 1.92 TB Gen5 U.3 (palier système de démarrage) -- 5.76 TB au total en NVMe Gen5 pour centre de données |
| Alimentation | CRPS 80+ Platinum 2.7 kW redondante 1+1 (2x 1350 W en 230 V) -- véritable redondance N+1 ; une seule alimentation suffit à la pleine charge d’inférence |
| Châssis | 2U montable en rack avec flux d’air dirigé de l’avant vers l’arrière (ventilateurs 80 mm haute pression statique). Capable de fonctionner 24h/24 et 7j/7. |
| Refroidissement | Dissipateur CPU actif SP5 + 3x admission avant 80x38 mm + 1x extraction arrière 80x80 mm (conçu pour une charge thermique de 4 GPU passifs ; la configuration à 2 cartes laisse une large marge thermique) |
| Réseau | Intel X710-T2L PCIe double 10GBASE-T + emplacement OCP 3.0 disponible pour une évolution en 25/100 GbE |
Enveloppe électrique
- Consommation GPU : 2x 600 W = 1 200 W
- Total système en pleine charge : ~1 510 W
- Configuration d’alimentation : CRPS redondante 1+1, 2x 1350 W en 230 V (2 700 W au total)
- Marge : 44.1 % sous charge d’inférence typique
- Véritable redondance N+1 -- une seule alimentation suffit à la pleine charge d’inférence ; aucun risque lié à la défaillance d’une alimentation unique
Topologie des lignes
PCIe Gen5 x16 de bout en bout -- hôte et cartes nativement Gen5. Connexion directe au root complex, sans commutateur PCIe. Il reste disponible un emplacement PCIe 5.0 x16 simple slot et un emplacement PCIe 5.0 x8 (la carte réseau occupe l’emplacement x8). Pas de NVLink -- communication pair-à-pair entre GPU via PCIe. La bande passante Gen5 supprime le plafond hôte Gen4 présent sur la version 4U Rome.
Ce que vous pouvez faire tourner
Avec 192 GB de VRAM ECC sur seulement deux cartes Blackwell à fp8/fp4 natifs, c’est la voie la plus directe vers le dense 70B en bf16 et les MoE de taille moyenne. Deux flux 70B indépendants -- un par carte -- ou un MoE de 200B réparti sur les deux avec un surcoût minimal de TP à deux voies.
LLM -- texte / raisonnement / code
Modèles chinois de pointe
- Qwen3 / Qwen3.5 (Alibaba) : Qwen3-235B-A22B Q4 (~132 GB) confortable avec un contexte long (~15-25 tok/s en flux unique sur 2 cartes) ; Qwen3-Coder-480B-A35B Q2 (~160 GB) ; Qwen3.5-122B-A10B fp8 (~75 GB) ; Qwen3-32B dense bf16 avec un énorme cache KV ; QwQ-32B bf16
- DeepSeek : DeepSeek-V3/R1 Q2 (~215 GB avec un léger débordement en RAM) -- Blackwell exécute le fp8 nativement ; DeepSeek-R2 32B bf16 en deux flux simultanés (un par carte)
- GLM / Z.ai : GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- la configuration vedette à ce niveau ; GLM-4.5-Air en fp8 ou bf16 avec un énorme cache KV
- Tencent Hunyuan : Hunyuan-Large Q3 (~160 GB) -- MoE de 389B avec 256k de contexte ; Hunyuan-A13B fp8 natif (~80 GB) avec un énorme cache KV
- Autres : Baidu ERNIE-4.5-424B Q3 (~180 GB) ; InternVL3.5-241B-A28B Q4 (~135 GB) ; MiniMax-M1 Q3 (~180 GB)
Modèles occidentaux de pointe
- Meta Llama : Llama 3.3 70B bf16 sur une seule carte -- deux flux 70B simultanés et indépendants (~20-30 tok/s par flux) ; Llama 4 Scout bf16 (~218 GB, juste) ; Llama 4 Maverick Q3 (~188 GB)
- Mistral : Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) sur une seule carte ou en bf16 sur les deux ; Mistral Small 3 en multiflux
- OpenAI (poids ouverts) : gpt-oss-120b MXFP4 natif (80 GB) -- tient sur UNE seule carte, deux flux simultanés et indépendants
- NVIDIA Nemotron : Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB) ; Super 49B bf16 sur une seule carte
- Autres : Cohere Command R+ 104B Q6 (~85 GB) sur une seule carte ; Google Gemma 3 27B bf16 en plusieurs flux simultanés
Modèles vision-langage
InternVL3.5-241B-A28B Q4 (~135 GB) ; Qwen3-VL-235B-A22B Q4 ; Qwen3-VL-32B bf16 sur une seule carte ; Pixtral Large 124B en bf16 ou Q6 ; Llama 3.2 90B Vision bf16 (~180 GB) ; Molmo 72B bf16 (~144 GB) ; GLM-4.6V 106B fp8 ; Gemma 3 27B multimodal x 2-3 flux simultanés.
Génération d’images
FLUX.1 [dev] bf16 en plusieurs flux simultanés ; FLUX.1 Kontext [dev] ; FLUX Tools ; SD 3.5 Large bf16 en simultané ; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 en simultané ; HunyuanImage-3.0 base (MoE de 80B, 13B actifs) bf16 -- tient sur une seule carte ; HunyuanDiT ; Kolors / Kolors 2.0 ; AuraFlow ; OmniGen v1 ; PixArt-Sigma.
Génération vidéo
Wan 2.2 MoE double expert bf16 en contexte complet -- tient sur une seule carte, deux flux de génération simultanés ; Wan 2.2 TI2V-5B ; HunyuanVideo 13B bf16 avec les deux experts ; HunyuanVideo 1.5 ; CogVideoX-5B bf16 ; Open-Sora 2.0 11B bf16 ; Mochi-1 bf16 (~42 GB) ; LTX-Video ; Pyramid Flow ; SVD / SV3D / SV4D ; NVIDIA Cosmos Predict 2.
Audio / parole / synthèse vocale
- Reconnaissance vocale : Whisper v3 large / turbo (~50x le temps réel) ; Parakeet-TDT ; Canary 1B ; Qwen3-ASR ; SenseVoice
- Synthèse vocale : CosyVoice 2/3 ; Kokoro 82M ; XTTS v2 ; Stable Audio Open ; Step-Audio-EditX
- Temps réel / voix-à-voix : Kyutai Moshi 7B ; Step-Audio 2 mini/R1 ; Qwen2.5-Omni-7B
- Musique / bruitages : MusicGen / AudioGen / Bark ; SeamlessM4T v2
Service multimodèle / multilocataire
- Deux flux 70B indépendants -- un par carte, la forme la plus simple d’isolation entre locataires
- Dense 70B bf16 + pile de support -- le LLM sur la carte 1, l’image/la vidéo/l’audio sur la carte 2
- MoE de 200B réparti sur les deux cartes -- surcoût minimal de parallélisme tensoriel (répartition à deux voies)
- Modèles de pointe nativement fp8 -- famille DeepSeek V3, Hunyuan-Large fp8 avec les chemins natifs Blackwell
Charges de travail visées
- Inférence dense 70B bf16 -- deux cartes en parallélisme tensoriel avec un surcoût minimal, ou un modèle par carte pour le streaming
- MoE de 100-150B en Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Inférence de pointe nativement FP8 (famille DeepSeek V3, Hunyuan, Llama 4) -- Blackwell exécute le fp8 nativement
- Calcul scientifique exigeant un débit NVMe Gen5 de classe centre de données et de la mémoire ECC
- Studio de génération d’images et de vidéos en bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Déploiements contraints par la densité en rack -- format 2U face à l’équivalent 4U Rome à VRAM égale
- Cahiers des charges imposant une plateforme PCIe 5.0 / DDR5 ou une alimentation redondante
Performances mesurées
Références publiées | fiche technique NVIDIA RTX Pro 6000 Blackwell Server Edition + benchmarks communautaires
| Benchmark | Résultat |
|---|---|
| TOPS INT8 par carte (fiche technique NVIDIA) | 2 000 TOPS |
| TOPS INT8 cumulés (2 cartes) | 4 000 TOPS |
| Bande passante mémoire par carte | ~1 800 GB/s, 96 GB GDDR7 ECC |
| Llama 3.3 70B bf16 par carte (communauté) | 15-25 tok/s en flux unique, 60-90 tok/s en lot -- amélioration attendue grâce au chemin mémoire Gen5 côté hôte sur les charges de streaming par lots, face à un hôte Gen4 |
| Avantage Gen5 côté hôte (carte unique, silicium identique) | Le PCIe 5.0 x16 de bout en bout réduit la latence de transfert hôte-carte pour les charges de streaming par lots ; les tâches limitées par le calcul sur la carte affichent un débit identique à celui des configurations hébergées en Gen4 |
| 70B en parallélisme tensoriel sur deux cartes (communauté) | ~30-45 tok/s en flux unique, valeur attendue |
| fp8 natif Blackwell | DeepSeek-V3 fp8 et Hunyuan-A13B fp8 tournent sans conversion vers le bf16 |
Références externes publiées, non mesurées sur du matériel Kentino. Kentino publiera ses propres chiffres après la première configuration client.
Moins adapté à
- Le service multilocataire à très forte concurrence -- 4x L40 ou 6x L4 répartissent mieux la charge sur davantage de cartes
- Un cache KV volumineux sur contexte très long -- passez au Kentino AI 576 Genoa RTXPro6000 12000TOPS
- L’entraînement -- Kentino ne vend pas de fabrics NVLink de classe H
- L’inférence à budget serré pour ce pool de VRAM -- la configuration 4U Rome Kentino AI 192 RTXPro6000 4000TOPS revient moins cher si un côté hôte Gen4 vous convient et si la redondance d’alimentation n’est pas exigée
Garantie et délai de livraison
Garantie OEM NVIDIA de 3 ans sur la RTX Pro 6000 Server Edition + 36 mois de garantie sur le châssis + garantie d’intégration Kentino. La configuration comprend l’assemblage, le paramétrage du BIOS et du firmware, la mise en place de l’IPMI, l’installation des pilotes, les tests de rodage et la vérification fonctionnelle. Le délai de 14 à 21 jours ouvrés correspond à la commande revendeur des composants de classe Turin ; il est confirmé à la passation de la commande.
Options recommandées
- Passer à une configuration 4 cartes -- le châssis dispose nativement de 4 baies GPU (la configuration actuelle en utilise 2 sur 4), voie d’évolution vers le Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Ajouter du 25 GbE ou du 100 GbE via l’emplacement OCP 3.0 (Mellanox ConnectX-5/6 en version OCP)
- Ajouter des NVMe Kioxia CD8-P dans les 2 baies U.2 restantes pour du RAID ou du stockage de travail
- Faire évoluer le palier de stockage vers des Samsung PM1743 ou des Kioxia CM7-V pour une endurance supérieure (3 DWPD)
- Baie rack 24U + onduleur en ligne de 5 kVA
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.