Kentino KI 768 TurinDual RTXPro6000MQ 16000TOPS — 8× RTX Pro 6000 Blackwell Max-Q KI Frontier-Server (Dual Turin)
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
768 GB ECC VRAM Frontier-Flaggschiff
8x RTX Pro 6000 Max-Q | Dual EPYC Turin | 16 000 TOPS INT8
Der CPU-Preis wird bei Bestellung final festgelegt — der Markt für die Turin 9005-Serie bewegt sich im Q2 2026 wöchentlich.
Veröffentlichte externe Referenzwerte. Nicht auf Kentino-Hardware gemessen.
Das Spitzenmodell der Kentino KI-Server-Reihe. Eine 7U-Rackmount-Inferenzplattform der Frontier-Klasse mit acht NVIDIA RTX Pro 6000 Blackwell Max-Q Turbofan-Karten, gebündelt zu 768 GB ECC-VRAM, zwei AMD EPYC Turin CPUs der 9005-Serie (Zen5c, SP5), 1.5 TB DDR5-4800 ECC (alle 24 Kanäle bestückt), 4 TB NVMe-Boot und 5x 1200 W Server-Netzteil. PCIe Gen5 durchgängig. DeepSeek V3 fp8 nativ (~670 GB) vollständig im VRAM. Kimi-K2 Q4-Q5. 4 Modelle der Frontier-Klasse gleichzeitig resident.
Hardware
| Komponente | Details |
|---|---|
| GPUs | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (Turbofan, 600 W TDP laut Spezifikation, PCIe 5.0 x16, 2000 INT8 TOPS pro Karte, fp8 nativ) |
| VRAM-Pool | 768 GB insgesamt über 8 Karten (kein NVLink — P2P über PCIe Gen5 mit ~55-60 GB/s innerhalb eines Sockels, sockelübergreifend über den CPU-Interconnect) |
| CPU | 2x AMD EPYC Turin 9005-Serie (Zen5c, SP5, PCIe 5.0) — Angebot ausstehend, exakte SKU wird bei Bestellung bestätigt |
| Mainboard | ASRock Rack TURIN2D24XGM/500W (Dual SP5 Turin, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Arbeitsspeicher | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — alle 24 Kanäle bestückt, ~920 GB/s aggregiert) |
| Boot / Speicher | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimensioniert für Frontier-Checkpoints |
| Netzteil | Set aus 5x 1200 W Server-Netzteilen (6 kW gesamt) |
| Gehäuse | 7U 8-GPU-Rackmount, Kapazität für 10 PCIe-Steckplätze, aktive Gen5-Riser |
| Kühlung | 2x SP5 Turin Tower-Kühler + 8x 120 mm Martech-Gehäuselüfter. Die Turbofan-Gebläse der einzelnen GPUs arbeiten autark. |
| Netzwerk | Onboard Dual 10 GbE (Intel X550) |
Leistungsbudget
- GPU-Aufnahme (laut Spezifikation): 8 x 600 W = 4 800 W
- CPU-Aufnahme: 2 x 360 W = 720 W (Schätzung für Turin der Mittelklasse)
- Systemgesamtwert bei voller Last laut Spezifikation: ~5 720 W
- Netzteilleistung gesamt: 6 000 W — ~4.7% Reserve gegenüber der Spezifikation
- In der Praxis: Max-Q hält im Inferenzbetrieb 520-550 W, was die dauerhafte Reserve auf über ~20% anhebt
- Firmware-seitige Leistungsbegrenzung auf 520 W für garantierte Reserve verfügbar
Lane-Topologie
Dual Turin stellt 2x 128 PCIe-Gen5-Lanes bereit. Das TURIN2D24XGM/500W führt 8 GPU-Steckplätze über aktive Riser direkt an die CPUs mit Gen5 x16 — 4 Steckplätze pro CPU-Root. Kein PCIe-Switch im GPU-Pfad — saubere Dual-Root-Topologie. Für optimales sockelübergreifendes Peer-to-Peer ist NUMA-Tuning erforderlich. Kein NVLink; P2P mit ~55-60 GB/s je Richtung innerhalb eines Sockels.
Was Sie darauf betreiben können
Mit 768 GB gebündeltem ECC-VRAM — dem Maximum im Kentino-Portfolio — betreibt dieser Server DeepSeek V3 fp8 nativ (~670 GB) vollständig im VRAM, Kimi-K2 Q4-Q5 (~630 GB) komfortabel und den entscheidenden Anwendungsfall: 4 Modelle der Frontier-Klasse gleichzeitig resident für den Multi-Tenant-Produktivbetrieb.
LLMs — Text / Reasoning / Coding
Chinesische Frontier-Modelle in Produktions-Quants
- Kimi-K2 (Base / Instruct / Thinking) in Q4_K_M / Q5_K_M (~630 GB) komfortabel (~15-25 Tok/s einzeln, veröffentlichter Referenzwert) — das chinesische Frontier-Flaggschiff auf einem einzigen System in Produktions-Quants
- DeepSeek V3 / R1 / V3.1 / V3.2 in fp8 nativ (~670 GB) vollständig im VRAM (~30-50 Tok/s einzeln, veröffentlichter Referenzwert) — die fp8-Tensor-Cores von Blackwell führen dies nativ und schnell aus
- DeepSeek V3 in Q4_K_M (~404 GB) mit mehreren gleichzeitigen Serving-Instanzen für große Batches
- GLM-5 / GLM-5.1 (~745B/44B) in Q3-Q4 (~420-560 GB) komfortabel im VRAM
- Intern-S1-Pro (1T/22B aktiv, SAGE) in Q3-Q4 (~440-580 GB) komfortabel
- Qwen3-Coder-480B-A35B in Q5-Q6 (~340-400 GB) mit 1M Kontext
- Qwen3-235B-A22B in bf16 (~470 GB) mit großzügigem KV-Cache für lange Kontexte
- ERNIE-4.5-424B-A47B in Q6 (~360 GB); Hunyuan-Large in fp8 (~390 GB)
- MiniMax-Text-01 / M1 in Q5-Q6 (~325-390 GB)
Westliche Frontier-Modelle in Produktions-Quants
- Mistral Large 3 (675B/41B MoE, Apache 2.0) in Q3-Q4 (~317-404 GB) komfortabel (~20-30 Tok/s einzeln, veröffentlichter Referenzwert)
- Llama 4 Maverick (400B/17B, 128 Experten) in Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B in bf16 (~506 GB) vollständig im VRAM
- Snowflake Arctic in Q5-Q6 (~350-420 GB); Grok-1 in Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B in bf16 (~264 GB) in mehreren Instanzen
Vision-Language-Modelle
Qwen3-VL-235B-A22B als Flaggschiff-VLM mit langem Kontext; InternVL3.5-241B-A28B in bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 in mehreren Instanzen; Llama 3.2 90B Vision bf16 in mehreren Instanzen; Pixtral Large 124B bf16; Molmo 72B bf16 in mehreren Instanzen.
Bildgenerierung
HunyuanImage-3.0 Instruct in gleichzeitigen Instanzen; FLUX.1 in mehreren Instanzen (~15-20 s pro 1024x1024-Bild, veröffentlichter Referenzwert); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — der komplette chinesische und westliche Bild-Stack gleichzeitig resident.
Videogenerierung
Wan 2.2 T2V-A14B / I2V-A14B — viele parallele Streams; HunyuanVideo 13B bf16 in mehreren parallelen Streams; Open-Sora 2.0 (11B) in mehreren Instanzen; Mochi-1 (10B) in mehreren Instanzen; NVIDIA Cosmos Predict 2 bis 14B.
Audio / Sprache / TTS
Der komplette Stack resident im Batch-Betrieb: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B in Echtzeit, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Multi-Modell- / Multi-Tenant-Serving (der entscheidende Anwendungsfall)
- Multi-Tenant-Produktivbetrieb der Frontier-Klasse: 4 Modelle der Frontier-Klasse gleichzeitig resident — z. B. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — mit partitioniertem VRAM und SLOs je Mandant
- Gleichzeitige fp8-native Blackwell-Inferenz (DeepSeek V3 / R1 Familie, Hunyuan fp8) + quantisiertes Serving auf getrennten PCIe-Domänen
- Forschungs-A/B-Vergleiche über 4-5 Frontier-Open-Weight-Modelle in forschungstauglichen Quants
- Agentische Plattform mit einem 400B+ Primärmodell und mehreren residenten 30-70B-Spezialisten
Zielanwendungen
- Multi-Tenant-Produktivbetrieb mit Frontier-Open-Weight-Modellen — mehrere Frontier-Modelle gleichzeitig resident mit Isolation je Mandant
- Souveräne Frontier-KI-Bereitstellung — On-Premises-Zugriff auf DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, Datenhaltung in der EU
- Frontier-Forschungslabor mit A/B-Evaluierung über 4+ Frontier-Open-Weight-Modelle in forschungstauglichen Quants
- Agentische Unternehmensplattform, in der ein 400B+ MoE-Modell Tools und mehrere Spezialmodelle ansteuert
- Air-Gapped-Inferenz in regulierten Branchen im Frontier-Maßstab mit ECC und PCIe Gen5
Veröffentlichte Performance-Referenzen
Externe Referenzen | Nicht auf Kentino-Hardware gemessen
| Benchmark | Ergebnis |
|---|---|
| RTX Pro 6000 INT8-TOPS pro Karte | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 auf 8x RTX Pro 6000 (einzeln) | ~30-50 Tok/s |
| vLLM — DeepSeek V3 fp8 auf 8x RTX Pro 6000 (Batch-32) | 300-500 Tok/s aggregiert |
| Kimi-K2 Q4 Serving auf 8x RTX Pro 6000 (einzeln) | ~15-25 Tok/s |
| FLUX.1 [dev] fp8 auf einer einzelnen RTX Pro 6000 | ~15-20 s pro 1024x1024-Bild |
Die exakten Werte werden in der PoC-Phase bestätigt. Kentino veröffentlicht eigene Messwerte nach dem ersten Kundenaufbau.
Weniger geeignet für
- Budgetorientierte Projekte — Flaggschiff-SKU zum Flaggschiff-Preis
- Training von Grund auf mit Modellen der Frontier-Klasse — kein NVLink, ausschließlich PCIe-P2P (für Training in dieser Größenordnung sind H100/H200 SXM oder die GB200-NVLink-Fabric das richtige Werkzeug)
- Plug-and-Play-Betrieb — Multi-Tenant-MoE-Serving der Frontier-Klasse erfordert ein erfahrenes MLOps-Team
Garantie und Lieferzeit
Im Aufbau enthalten sind Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in, Memtest, Funktionsprüfung, NUMA-Tuning und die Einrichtung der LLM-Umgebung (vLLM / SGLang / llama.cpp / CUDA 13 Stack mit fp8-Blackwell-Kerneln). Die Lieferzeit hängt von der Verfügbarkeit der Komponenten ab und wird bei Bestellung bestätigt.
Empfohlenes Zubehör
- NVIDIA ConnectX-5 MCX555A-ECAT oder ConnectX-7 Gen5 100 GbE NIC für Multi-Node-Scale-out
- Mellanox ConnectX-6 25 GbE SFP28 für die Rechenzentrums-Fabric
- Zweite 4 TB NVMe für Datensätze und Modellbibliothek (Frontier-Checkpoints sind groß — allein Kimi-K2 bf16 belegt ~1 TB)
- Komplettes 24U-Rack-Gehäuse mit perforierter Fronttür und gemanagter PDU
- Online-USV 10 kVA (kontrolliertes Herunterfahren bei Stromausfall)
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.