Kentino AI 96 Rome RTXPro6000 2000TOPS — Serveur station de travail Blackwell 96 GB monocarte
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Serveur-station de travail monocarte 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Une carte, 96 GB de VRAM ECC, toute la chaîne tensorielle Blackwell. Un modèle dense de 70B en bf16 sur un seul GPU — sans surcoût de parallélisme tensoriel.
Un serveur-station de travail 4U montable en rack, avec une seule carte NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), un processeur AMD EPYC 7643 Milan (48C/96T), 256 GB de DDR4 ECC, un disque de démarrage NVMe de 2 TB et une alimentation ATX de 2 kW avec 54 % de marge. Le chemin logiciel le plus simple de la gamme Kentino : aucune configuration de parallélisme tensoriel, aucun débogage multi-GPU. vLLM, SGLang, llama.cpp et ComfyUI fonctionnent en mono-périphérique, tout simplement.
Matériel
| Composant | Détail |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC sur une seule carte — sans mise en commun, sans surcoût de parallélisme tensoriel |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 lignes PCIe 4.0) |
| Carte mère | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Mémoire système | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Démarrage / stockage | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Alimentation | 1x alimentation ATX de 2 kW |
| Châssis | 4U montable en rack (capacité de 4 emplacements, 1 occupé — de la place pour évoluer) |
| Refroidissement | Tour Arctic Freezer 4U-M SP3 + 3x ventilateurs d’admission 120 mm à l’avant + 1x extraction 120 mm à l’arrière |
| Réseau | Double 10 GbE intégré (Intel X550) |
Enveloppe de puissance
- Consommation GPU : 1 x 600 W = 600 W
- Total système en pleine charge : ~925 W
- Puissance totale de l’alimentation : 2 000 W — 53.8 % de marge
- Alimentation unique, câblage simple — une marge confortable pour une configuration monocarte
Topologie des lignes PCIe
PCIe Gen4 x16 au niveau du GPU (la carte est nativement Gen5 ; la carte mère Rome plafonne en Gen4). Connexion directe au root complex — aucun switch PCIe. Aucun NVLink nécessaire : une seule carte, donc aucune liaison inter-GPU. Six ports x16 restent libres pour la carte réseau, le stockage ou l’extension.
Ce que vous pouvez faire tourner
Avec 96 GB de VRAM ECC sur une seule carte Blackwell, ce serveur prend en charge un modèle dense de 70B en bf16 sur un seul GPU, les LLM à poids ouverts, les modèles de vision, la génération d’images et de vidéos, l’IA vocale et l’inférence en production — sans aucune coordination de parallélisme tensoriel.
LLM — texte / raisonnement / code
Pointe chinoise
- Qwen3 / Qwen3.5 (Alibaba) : Qwen3-32B dense bf16 (~65 GB) avec un KV généreux ; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s en flux unique) ; Qwen3-30B-A3B MoE bf16 ; Qwen3-Coder-30B-A3B agentique à 256k ctx ; Qwen3.5-122B-A10B Q4 (~70 GB) avec un KV serré ; QwQ-32B bf16 pour le raisonnement
- DeepSeek : DeepSeek-R2 32B MoE clairsemé bf16 (~64 GB, 92.7 % à l’AIME 2025 sur une seule carte) ; DeepSeek-R1-Distill-Qwen-32B bf16 ; DeepSeek-V2-Lite 16B en pleine précision
- GLM / Z.ai : GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB) ; GLM-4.6V 106B Q4
- Tencent Hunyuan : Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) avec 256k ctx et raisonnement bimode
- ByteDance Seed-OSS-36B en bf16 (~72 GB, tout juste) ou fp8 (~36 GB) avec le contexte natif complet de 512k
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 avec contexte long
Pointe occidentale
- Meta Llama : Llama 3.3 70B en bf16 (~70 GB) sur une seule carte avec 8-16k ctx — la configuration phare ; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s en flux unique) ; Llama 3.1 8B bf16 (~80-120 tok/s) ; Llama 3.2 90B Vision Q4 (~52 GB) ; Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral : Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B), tous en bf16 avec 256k ctx ; Mixtral 8x7B Q6 ; Codestral Mamba 7B ; Pixtral 12B bf16
- OpenAI (poids ouverts) : gpt-oss-20b MXFP4 natif (16 GB) ; gpt-oss-120b MXFP4 natif (80 GB) — une carte, un flux
- Google Gemma 3 : 27B multimodal bf16 (~54 GB) avec 128k ctx ; 12B / 4B bf16
- Microsoft Phi-4 14B dense bf16 ; Phi-4-reasoning ; Phi-4-multimodal
- NVIDIA Nemotron : Llama-3.1-Nemotron-Super 49B Q6 (~40 GB) ; Nemotron-Nano 8B
- Autres : IBM Granite 4.0 H-Small 32B/9B ; OLMo 2 32B ; Reka Flash 3 21B ; Falcon H1R 7B ; Command R 35B
Modèles vision-langage
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B ; InternVL3 jusqu’à 78B Q4 (~48 GB) ; InternVL3.5-38B bf16 ; DeepSeek-VL2 sur toute la gamme ; Llama 3.2 11B Vision bf16 ; Llama 3.2 90B Vision Q4 (~52 GB) ; Pixtral 12B bf16 ; Molmo 72B Q4 ; Molmo 7B bf16 ; Gemma 3 12B / 27B multimodal ; PaliGemma 2 28B ; Phi-3.5-Vision ; Aya Vision 8B / 32B ; MiniCPM-V 2.6 / MiniCPM-o 2.6 ; GLM-4.6V.
Génération d’images
FLUX.1 [dev] / [schnell] bf16 (~24 GB) et quantifié (~15-25 s/image en fp8) ; édition en contexte FLUX.1 Kontext [dev] ; FLUX Tools (Fill / Depth / Canny / Redux) ; SD 3.5 Large bf16 (~18 GB) ; SDXL 1.0 ; HunyuanImage-2.1 bf16 (~34 GB) en 2K natif ; HunyuanDiT 1.5B ; Kolors / Kolors 2.0 ; AuraFlow v0.3 ; OmniGen v1 ; PixArt-Sigma.
Génération vidéo
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, les deux experts résidents) ; voie rapide Wan 2.2 TI2V-5B ; HunyuanVideo 13B bf16 (~60-80 GB, juste à la limite en 720p) ; HunyuanVideo 1.5 (8.3B) ; CogVideoX-5B ; Open-Sora 2.0 (11B) bf16 ; Genmo Mochi-1 bf16 (~42 GB) ; LTX-Video ; Pyramid Flow ; SVD / SV3D / SV4D ; NVIDIA Cosmos Predict 2.
Audio / voix / synthèse vocale
- Reconnaissance vocale : Whisper v3 large / turbo (~50x le temps réel) ; NVIDIA Parakeet-TDT 1.1B ; Canary 1B ; Qwen3-ASR ; SenseVoice
- Synthèse vocale : CosyVoice 2 / Fun-CosyVoice 3.0 ; Kokoro 82M ; Stable Audio Open ; Coqui XTTS v2 ; StyleTTS 2 ; Step-Audio-EditX
- Temps réel / voix à voix : Kyutai Moshi (full-duplex en 200 ms) ; Step-Audio 2 mini ; Step-Audio-R1 / R1.1 ; Qwen2.5-Omni-7B
- Musique / effets sonores : Meta MusicGen ; AudioGen ; Suno Bark ; SeamlessM4T v2
Service multi-modèles / multi-locataires
- Assistant de code en streaming mono-locataire — 70B dense bf16, faible latence, sans pénalité de TP
- Pile mixte résidente : Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi sur une seule carte avec VRAM partitionnée
- Réglage fin : LoRA / QLoRA sur des modèles de 13-34B ; paramètres complets sur 7B
- Service d’embeddings : BGE-M3 / E5 / Jina résidents aux côtés d’un LLM générateur
Charges de travail visées
- Assistant de code en streaming mono-locataire exécutant Llama 3.3 70B bf16 ou Qwen3-Coder-30B-A3B — sans surcoût de coordination TP
- Station de travail pour un ingénieur seul ou une petite équipe ayant besoin d’un modèle de classe 70B avec 32-128k de contexte
- Laboratoire de génération d’images ou de vidéos — HunyuanVideo 13B, Wan 2.2 à deux experts et HunyuanImage-2.1 tous résidents en bf16
- Banc d’essai VLM / OCR — Qwen3-VL-32B bf16 ou InternVL3.5-38B avec des pipelines de documents longs
- Appliance sobre pour une petite passerelle d’API LLM — un modèle, une carte, une exploitation simple
Performances mesurées
Références publiées | fiche technique NVIDIA RTX Pro 6000 Blackwell + benchmarks de la communauté
| Benchmark | Résultat |
|---|---|
| TOPS INT8 par carte (fiche technique NVIDIA) | 2 000 TOPS |
| VRAM par carte | 96 GB ECC GDDR7 |
| Bande passante mémoire | ~1 800 GB/s |
| Llama 3.3 70B Q6 sur un seul GPU (communauté) | 40-55 tok/s en flux unique |
| Llama 3.3 70B bf16 sur un seul GPU (communauté) | 15-25 tok/s en flux unique |
| fp8 natif Blackwell | DeepSeek-V3 fp8 et Hunyuan-A13B fp8 tournent sans conversion vers le bf16 |
Références externes publiées, non mesurées sur du matériel Kentino. Kentino publiera ses propres chiffres après la première configuration livrée à un client.
Moins adapté à
- L’entraînement de grands modèles depuis zéro (GPU unique — pas de parallélisme tensoriel ni de pipeline)
- Les MoE de pointe de 200B et plus à des quantifications réalistes (Qwen3-235B Q4, GLM-4.5/4.6 — préférez le Kentino AI 192 RTXPro6000 ou plus grand)
- L’inférence multi-locataires à forte concurrence (une seule carte plafonne le débit global ; 4x RTX 4090 ou 4x L40 passent mieux à l’échelle)
Garantie et délai de livraison
Garantie OEM NVIDIA de 3 ans sur la RTX Pro 6000 + garantie d’intégration Kentino. La prestation comprend l’assemblage, la configuration du BIOS, l’installation des pilotes, les tests de rodage et la vérification fonctionnelle. Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- Porter la mémoire à 512 GB (ajout de 4x 64 GB DDR4 — quatre emplacements DIMM restent libres)
- Disque NVMe secondaire de 4 TB pour la bibliothèque de modèles / la préparation des jeux de données
- Baie ouverte 24U pour un montage en rack en production
- Pour un lien Gen5 x16, envisagez la variante sur plateforme Genoa, sur demande
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.