Kentino KI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Lab-Server mit 384 GB ECC VRAM
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Veröffentlichte externe Referenzwerte. Nicht auf Kentino-Hardware gemessen.
Ein 4U-Rack-Inferenzserver mit vier NVIDIA RTX Pro 6000 Blackwell Max-Q Turbofan-Karten (Radiallüfter, je 96 GB ECC), die zu 384 GB ECC VRAM gebündelt sind, einer AMD EPYC 7643 Milan CPU (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe-Bootlaufwerk und zwei synchronisierten 2.5-kW-ATX-Netzteilen. Dasselbe Blackwell-Silizium wie in der Server Edition — identisches Inferenzprofil, identischer Durchsatz — jedoch mit einem leiseren Radiallüfter-Kühler, der sich für Labor-, F&E- und büronahe Umgebungen eignet.
Hardware
| Komponente | Details |
|---|---|
| GPUs | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (Turbofan- / Radiallüfter-Kühler, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS pro Karte, fp8 nativ) |
| VRAM-Pool | 384 GB ECC gesamt über 4 Karten |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 Lanes) |
| Mainboard | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systemspeicher | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 DIMM-Steckplätze frei für ein Upgrade auf 512 GB) |
| Boot / Speicher | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Netzteil | 2x 2.5 kW ATX mit Sync-Kabel für den Dual-Netzteil-Betrieb (5 kW gesamt) |
| Gehäuse | 4U-Rackgehäuse |
| Kühlung | SP3-Tower-Kühler (Klasse Arctic Freezer 4U-M) + gerichteter Front-to-Back-Luftstrom (3x 120 mm Einlass vorn + 1x 120 mm Auslass hinten). Die GPU-Karten kühlen sich über den Turbofan-Radiallüfter selbst (Abluft nach hinten) — leiser für Laborumgebungen. |
| Netzwerk | Onboard 2x 10 GbE (Intel X550) |
Leistungsbudget
- GPU-Aufnahme: 4 x 600 W = 2 400 W
- Systemgesamt unter Volllast: ~2 775 W
- Netzteilleistung gesamt: 5 000 W (zwei synchronisierte 2.5 kW) — 44.5% Reserve
- Zwei Netzteile zur Aufteilung der Stromversorgung — Ausfall eines Netzteils = Verlust von 2 GPUs oder 2 GPUs + Mainboard
Thermisches Profil (Max-Q)
Die Max-Q nutzt einen Turbofan-Kühler (Radiallüfter) mit gerichteter Abluft am hinteren Kartenende. Erwarteter GPU-Hotspot 72-80 C unter Dauerlast. Spürbar leiser als passive Karten in einem Gehäuse mit hohem statischem Druck. Besser geeignet für Luftführungen außerhalb des Rechenzentrums, offene Racks oder eine Aufstellung im Labor bzw. in Büronähe. Silizium, TDP, ECC und Leistung sind identisch mit der Server Edition.
Was Sie darauf betreiben können
Identisch mit der Server Edition (Kentino AI 384 Rome RTXPro6000) — dasselbe Blackwell-Silizium, derselbe 384-GB-ECC-Pool, dasselbe native fp8, dieselbe Modellkompatibilität. Der Unterschied ist akustischer, nicht rechnerischer Natur.
LLMs — Text / Reasoning / Coding
Chinesische Spitzenmodelle
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) bequem auf den Karten (~30-40 Tok/s einzeln, veröffentlichter Referenzwert); fp8 nativ (~670 GB) mit Auslagerung in den RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, knapp, mit Auslagerung in den RAM) — SOTA-Coding-Agent mit offenen Gewichten (~18-25 Tok/s einzeln, veröffentlichter Referenzwert)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) mit langem Kontext und Batching für mehrere Nutzer
- GLM-5 / GLM-5.1 Q3 (~317 GB) — chinesisches Spitzenmodell, beim Coding nahe an Claude Opus 4.6
- Kimi-K2 1.58-Bit UD (~240 GB) — Agent mit einer Billion Parametern bei realem Durchsatz
- Hunyuan-Large 389B/52B Q4 (~220 GB), fp8 nativ (~390 GB mit Auslagerung)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) mit 1M Kontext
- Llama 3.3 70B bf16 vollständig auf einer einzigen Karte (96 GB pro Karte)
Westliche Spitzenmodelle
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — westliche offene Gewichte auf Spitzenniveau (~20-30 Tok/s einzeln, veröffentlichter Referenzwert)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) mit großzügigem KV-Budget (~45-55 Tok/s einzeln, veröffentlichter Referenzwert)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b MXFP4 nativ (80 GB) mit Reserven für parallele Instanzen
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — 256k, führend im offenen Coding
- Llama 3.3 70B bf16 auf einer einzigen Karte; 4x parallele 70B-Deployments möglich
Vision-Language-Modelle
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 mit TP. Blackwell fp8 liefert gegenüber Ada rund den doppelten Durchsatz bei der Inferenz des Vision-Towers.
Bildgenerierung
FLUX.1 [dev] / Kontext / Tools mit nativem fp8 (~15-20 s je 1024x1024-Bild auf einer einzelnen RTX Pro 6000, veröffentlichter Referenzwert); SD 3.5 Large; HunyuanImage-2.1 (17B nativ 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4x parallele ComfyUI-Worker.
Videogenerierung
Wan 2.2 T2V-A14B / I2V-A14B Dual-Expert bf16; HunyuanVideo 13B bf16 mit beiden Experten; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / Sprache / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Echtzeit / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Musik / SFX: MusicGen / AudioGen / Bark / SeamlessM4T
Multi-Modell- / mandantenfähiger Betrieb
- DeepSeek V3 Q3 + paralleles 70B + FLUX.1 + Whisper gleichzeitig resident
- 4-fach tensorparallel bei Modellen der 350-400B-Klasse mit Q4
- Mandantentrennung je Karte — ein Llama 3.3 70B bf16 mit 96 GB pro Karte, 4 unabhängige Inferenz-Silos
- Multi-Modell-RAG: Reader + Reranker + Vision + Embedder auf einem einzigen Host
Zielanwendungen
- Inferenz mit offenen Spitzenmodellen für ein Labor- oder F&E-Team, bei dem das Geräuschbudget zählt
- Serverraum kleiner Teams ohne eigene Rechenzentrums-Luftführung — die Selbstkühlung der Max-Q verträgt eine Aufstellung im offenen Rack
- Büronahe KI-Workstation für ein Fachteam (ML-Forschung, agentische Werkzeuge)
- fp8-native Bereitstellung (DeepSeek / R1 / Hunyuan) in Laborumgebungen
- Workload mit Trennung von 4 Mandanten je Karte bei begrenztem Geräuschbudget
Veröffentlichte Leistungsreferenzen
Externe Referenzwerte | Dasselbe Silizium wie in der Server Edition | Nicht auf Kentino-Hardware gemessen
| Benchmark | Ergebnis |
|---|---|
| RTX Pro 6000 INT8 TOPS pro Karte | 2 000 TOPS |
| RTX Pro 6000 Speicherbandbreite | ~1 800 GB/s pro Karte |
| vLLM — DeepSeek V3 Q3 auf 4x Blackwell PCIe (einzeln) | ~30-40 Tok/s |
| vLLM — DeepSeek V3 Q3 auf 4x Blackwell PCIe (Batch-8) | ~200 Tok/s gesamt |
| SGLang — Llama 4 Maverick Q4 auf 4x Blackwell (einzeln) | ~45-55 Tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 auf 4x Blackwell (einzeln) | ~18-25 Tok/s |
| FLUX.1 [dev] fp8 auf einer einzelnen RTX Pro 6000 | ~1.8 s je 1024x1024-Bild |
Kentino wird nach dem ersten Kundenaufbau eigene Messwerte veröffentlichen.
Weniger geeignet für
- Klassische Rechenzentrums-Racks mit etablierter Warmgang-Luftführung — wählen Sie stattdessen die passive Server Edition (Kentino AI 384 Rome RTXPro6000): dasselbe Silizium, mechanisch einfacher
- Einzelnutzer-Workloads bis 70B (4x RTX 5090 ist für einen 128-GB-Pool deutlich günstiger)
- Training von Spitzenmodellen von Grund auf (kein NVLink)
- Vollständiges DeepSeek V3 Q4 auf den Karten (~404 GB) — dafür auf 6x RTX Pro 6000 / 576 GB aufrüsten
Garantie und Lieferzeit
Im Aufbau enthalten sind Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in, Memtest und Funktionsprüfung. Die Lieferzeit hängt von der Verfügbarkeit der Komponenten ab und wird bei Bestellung bestätigt.
Empfohlenes Zubehör
- Aufrüstung des Arbeitsspeichers auf 512 GB DDR4 (2x 64 GB ergänzen — 2 DIMM-Steckplätze frei) für mehr Reserve beim Auslagern in den RAM bei Q3-Quantisierungen von Spitzenmodellen
- 4 TB NVMe Gen4 x4 für die Bibliothek der Spitzenmodelle (allein DeepSeek V3 Q3 belegt ~290 GB auf der Platte)
- Kompletter 24U-Rackschrank mit gemanagter PDU + Online-USV
- Alternative Ausführung: passive Server Edition (Kentino AI 384 Rome RTXPro6000) — dasselbe Silizium, für Installationen mit Rechenzentrums-Luftführung
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.