Kentino AI 256 TurinDual 5090 — 8× RTX 5090 Dual-Socket Zen5c Flaggschiff
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 256 TurinDual 5090 13408TOPS
Flaggschiff-Inferenzserver mit 256 GB VRAM
8x RTX 5090 | Dual EPYC Turin | 13 408 TOPS INT8
Der CPU-Preis wird bei Bestellung final festgelegt — der Markt für die Turin 9005-Serie bewegt sich im Q2 2026 wöchentlich.
Veröffentlichte externe Referenzwerte. Nicht auf Kentino-Hardware gemessen.
Ein 7U-Flaggschiff-Inferenzserver für die Rack-Montage mit acht GeForce RTX 5090 (32 GB GDDR7, Blackwell, fp8 nativ) auf einer Dual-Sockel-Plattform mit EPYC Turin (Zen5c, SP5), 768 GB DDR5-4800 ECC über alle 12 Kanäle, 2 TB NVMe als Boot-Laufwerk und 5x 1200 W Server-Netzteil. Durchgängiges PCIe Gen5 bis zur GPU über aktive Retimer-/Redriver-Riser. Betreibt vLLM, SGLang, llama.cpp, ComfyUI und jeden bedeutenden Open-Weight-Inferenz-Stack ab Werk.
Hardware
| Komponente | Details |
|---|---|
| GPUs | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, fp8 nativ, 1676 INT8 TOPS/Karte) |
| VRAM-Pool | 256 GB gesamt über 8 Karten (kein NVLink bei der Consumer-RTX 5090) |
| CPU | 2x AMD EPYC Turin 9005-Serie (Zen5c, SP5, PCIe 5.0) — Angebot wird bei Bestellung erstellt |
| Mainboard | ASRock Rack TURIN2D24XGM/500W (Dual SP5, PCIe 5.0, 24x DDR5 DIMM) |
| Systemspeicher | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — alle 12 Kanäle bestückt; 12 Steckplätze bleiben für den Ausbau auf 1.5 TB frei) |
| Boot / Speicher | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Netzteil | 5x 1200 W Server-Netzteil-Set (HP-kompatibel, 6 kW gesamt) |
| Gehäuse | 7U 8-GPU (bis zu 10 PCIe-Steckplätze, separate Netzteilschächte) |
| Kühlung | 2x SP5 Tower-Kühler + Rack-Luftführung von vorne nach hinten (Industrielüfter) |
| Riser | 8x aktiv, PCIe Gen5 x16 (Retimer/Redriver) — durchgängig Gen5 |
| Netzwerk | Onboard 10 GbE (abhängig vom Mainboard) |
Leistungsbudget
- GPU-Aufnahme: 8 x 575 W = 4 600 W
- Systemgesamtleistung unter Volllast: ~5 520 W
- Netzteilleistung gesamt: 6 000 W (5x 1200 W) — 8% Reserve laut Spezifikation
- Kentino liefert mit einem GPU-Power-Limit von 500 W aus — die Gesamtleistung sinkt auf ~4 920 W (~15% Reserve)
Lane-Topologie
Dual Turin stellt hostseitig 2x 128 = 256 PCIe-Gen5-Lanes bereit. Aktive Gen5-Riser führen Gen5 x16 durchgängig bis zu jeder GPU — ein PCIe-Switch ist nicht erforderlich (eine CPU je 4-Karten-Bank). Kein NVLink; P2P zwischen den GPUs mit Gen5 x16 (~60 GB/s nominal pro Link).
Was Sie darauf betreiben können
Mit 256 GB gepooltem VRAM über 8 Blackwell-Karten mit nativem fp8 zielt dieser Server auf Frontier-MoE-Modelle mit 235-480B in Q4 bei realem Kontext, auf die DeepSeek-V3-Familie in Q2 und auf Kimi-K2 mit dynamischer 1.58-Bit-Quantisierung bei echtem Durchsatz.
LLMs — Text / Reasoning / Coding
Chinesische Frontier-Modelle
- Qwen3-235B-A22B (Instruct / Thinking / "2507") Q4 (~132 GB) mit langem Kontext + Multi-User-Batching (~25-40 tok/s Single-Stream auf 8x RTX 5090, veröffentlichte Referenz)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — Flaggschiff für Reasoning/Coding, 200k ctx ab 4.6
- GLM-5 / GLM-5.1 Q2 (~260 GB) mit geringem RAM-Überlauf — Frontier-Coding nahe an Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) bei nutzbarer Inferenzgeschwindigkeit (~28 tok/s Single-Stream auf 8x Blackwell, veröffentlichte Referenz)
- Kimi-K2 1.58-Bit UD-TQ1_0 (~240 GB) — Agent mit einer Billion Parametern bei echtem Token-Durchsatz (~7-10 tok/s Single-Stream, veröffentlichte Referenz)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, knapp, mit RAM-Überlauf) — SOTA-Flaggschiff für offenes Coding
- MiniMax-M1 / Text-01 Q4 (~260 GB) 1M Kontext; Qwen3.5-397B-A17B Q4 (~214 GB)
Westliche Frontier-Modelle
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB mit Überlauf) — westliche Frontier-Modelle mit offenen Gewichten
- Llama 4 Maverick (400B/17B, 128 Experten) Q4 (~232 GB) multimodal
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — auf Augenhöhe mit DeepSeek-R1 bei halber Größe
- gpt-oss-120b MXFP4 nativ (80 GB) problemlos, mit Platz für mehrere Modelle
- Devstral 2 123B (Modified MIT) Q6 — Spitzenklasse im offenen Coding, 256k ctx
- Llama 3.3 70B bf16 (~142 GB) im Multi-Tenant-Betrieb (~30-40 tok/s Single-Stream je RTX-5090-Paar TP2, veröffentlichte Referenz)
Vision-Language-Modelle
Qwen3-VL-235B-A22B vollständig in bf16 (~240 GB auf der Karte); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, knapp); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V vollständig. Der fp8-Pfad von Blackwell liefert bei der Inferenz des Vision-Towers rund den doppelten Durchsatz gegenüber Ada.
Bildgenerierung
FLUX.1 [dev] / Kontext / Tools vollständig in bf16 (~10-18 s/Bild bei fp8 pro Karte, veröffentlichte Referenz); SD 3.5 Large; HunyuanImage-2.1 (17B, nativ 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; ComfyUI-Farmen mit mehreren Workern.
Videogenerierung
Wan 2.2 T2V-A14B / I2V-A14B Dual-Expert bf16 (High-Noise und Low-Noise gleichzeitig resident); HunyuanVideo 13B bf16 mit beiden Experten; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / Sprache / TTS
- ASR: Whisper v3 large / turbo (~50x Echtzeit); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Echtzeit / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Musik / SFX: MusicGen; AudioGen; Bark; SeamlessM4T v2
Multi-Modell- / Multi-Tenant-Betrieb
- Frontier-Inferenz-Gateway — 200B+ MoE + parallel 70B + Bild + Video, alle gleichzeitig resident
- 8-fach tensorparallel für Kimi-K2 / DeepSeek V3 bei realem Kontext
- Multi-Tenant-LLM-API — 50-100 gleichzeitige Nutzer auf 235B Q4 über vLLM/SGLang
- Chinesische und westliche Frontier-Modelle vollständig gleichzeitig resident für Evaluierung / Benchmarking
Ziel-Workloads
- Frontier-Inferenz-Backend mit offenen Gewichten für eine Organisation mit 100-500 Arbeitsplätzen, kombiniert aus Qwen3-235B, GLM-4.5+ und DeepSeek V3 Q2
- Kimi-K2-Agentenplattform mit 1.58 Bit bei Produktionsdurchsatz (Tool-Use, 200+ sequenzielle Aufrufe)
- Bereitstellung von DeepSeek V3 / R1 vollständig in fp8 auf Blackwell-Silizium
- Multi-Node-Training-Head mit Gen5 100 GbE / InfiniBand-Fabric
- Doppelrolle als Inferenz- und Diffusion-Farm (Qwen3-235B + FLUX.1 + HunyuanVideo 13B gleichzeitig)
Veröffentlichte Performance-Referenzen
Externe Referenzwerte | Nicht auf Kentino-Hardware gemessen
| Benchmark | Ergebnis |
|---|---|
| RTX 5090 INT8 TOPS pro Karte | 1 676 TOPS |
| RTX 5090 Speicherbandbreite | ~1 800 GB/s pro Karte |
| vLLM — Qwen3-235B Q4_K_M auf 4x RTX 5090 (einzeln) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M auf 4x RTX 5090 (Batch-32) | ~450 tok/s gesamt |
| SGLang — DeepSeek V3 Q2 auf 8x Blackwell (einzeln) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 auf 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino veröffentlicht eigene tok/s-Werte nach dem ersten Kundenaufbau mit finaler Turin-SKU.
Weniger geeignet für
- Budgetbewusste Installationen (Turin-Aufpreis gegenüber Alternativen mit Genoa oder Rome)
- Single-Tenant-Workloads mit dichten 70B-Modellen (überdimensioniert — 4x RTX 5090 oder 4x RTX Pro 6000 sind hier die richtige Klasse)
- Frontier-Modelle ab 600B in Q4+ mit vollem Kontext (erfordern einen Pool ab 576 GB — siehe 6x RTX Pro 6000)
- Dauerhaftes Training von Grund auf (kein NVLink bei der Consumer-RTX 5090)
Garantie und Lieferzeit
Im Aufbau enthalten sind Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in-Tests und Funktionsprüfung. Die Lieferzeit hängt von der Verfügbarkeit der Komponenten ab und wird bei Bestellung bestätigt.
Empfohlenes Zubehör
- Ausbau des Arbeitsspeichers auf 1.5 TB DDR5 (24x 64 GB, Vollbestückung) — erforderlich für Kimi-K2 Q4 oder DeepSeek V3 Q3 ohne RAM-Überlauf
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — Gen5-Fabric für Cluster-Knoten
- Mellanox ConnectX-6 25 GbE SFP28 für das Rechenzentrums-Fabric
- 4 TB NVMe Gen4 x4 für Boot-Laufwerk + Modellbibliothek
- Komplettes 24U-Rack-Gehäuse mit Managed PDU
- Online-USV 8-10 kVA (kritisch — 5.5 kW Spitzenaufnahme)
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.