Kentino KI 32 Rome 5090 1676TOPS — 1x RTX 5090 KI-Workstation
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 32 Rome 5090 1676TOPS
Single-GPU-Blackwell-Workstation
1x RTX 5090 | EPYC Milan | 1 676 TOPS INT8
Eine Blackwell-GPU, 32 GB GDDR7, fp8 nativ — die schärfste KI-Workstation mit nur einer Karte, die Kentino baut.
Ein KI-Server in Workstation-Klasse mit einer einzelnen GPU auf der Plattform ROMED8-2T / EPYC Milan. Eine RTX 5090 liefert 32 GB GDDR7-VRAM mit nativer fp8-Tensor-Arithmetik — genau das Richtige für einen Entwicklerrechner, einen Inferenz-Endpunkt für kleine Teams oder eine Workstation für Bild- und Videogenerierung, bei der eine starke GPU zwei schwächeren überlegen ist. 4U-Rack-Formfaktor, aber ebenso leise unter dem Schreibtisch im Büro einsetzbar.
Hardware
| Komponente | Detail |
|---|---|
| GPU | 1x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| VRAM-Pool | 32 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 Lanes) |
| Mainboard | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| System-RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / Speicher | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Netzteil | Einzelnes 2-kW-ATX-Netzteil |
| Gehäuse | 4U-Rack-Einbau, passiver Gen4-x16-Riser |
| Kühlung | SP3-Tower-Kühler (Klasse Arctic Freezer 4U-M), 3x 120 mm Zuluft vorn + 1x 120 mm Abluft hinten |
| Netzwerk | Onboard Dual 10 GbE (Intel X550) + IPMI |
Leistungsbudget
- GPU-Aufnahme: 1 x 575 W = 575 W
- Systemleistung gesamt unter Volllast: ~900 W
- Netzteil gesamt: 2 000 W (einzelnes 2-kW-ATX) — 55 % Reserve
- Großzügige Reserve für Lastspitzen, geräuschloser Betrieb bei geringer Last
Lane-Topologie
PCIe Gen4 x16 an der GPU (das ROMED8-2T ist Gen4; die 5090 ist Gen5-Silizium und läuft mit Gen4 ohne Bandbreiteneinbuße bei Inferenz). 16 Lanes direkt aus dem Root-Complex der CPU. Kein PCIe-Switch. Kein NVLink bei der GeForce 5090.
Was Sie darauf betreiben können
Mit 32 GB GDDR7-VRAM und nativer fp8-Tensor-Arithmetik bewältigt diese Workstation Open-Weight-LLMs bis 32B dense, Bildgenerierung mit FLUX.1, Videogenerierung, Sprach-KI und Multi-Modell-Stacks für einzelne Entwickler.
LLMs — Text / Reasoning / Coding
Chinesische Spitzenmodelle
- Qwen3-32B dense Q6_K — 32k Kontext, Flaggschiff für allgemeines Reasoning (~40-55 tok/s Single-Stream auf Blackwell fp8, veröffentlichter Referenzwert)
- Qwen3-30B-A3B MoE bei Q4_K_M mit großem KV-Spielraum (Qwen3-Coder-30B-A3B agentisch, 256k ctx)
- QwQ-32B Q6 — Reasoning-Preview
- DeepSeek-R2 32B Sparse-MoE bei Q4-Q6 — Reasoning auf einer einzigen GPU mit 92.7 % in AIME-2025 (~45-60 tok/s Single-Stream auf Blackwell fp8, veröffentlichter Referenzwert)
- Qwen3.5-27B dense Q6 (Release Februar 2026)
- Hunyuan-A13B bei Q4_K_M (~28-30 GB) — 80B/13B MoE, 256k ctx, Reasoning in zwei Modi
- Seed-OSS-36B Q4_K_M — 512k natives Kontextfenster für die Analyse langer Dokumente
Westliche Spitzenmodelle
- Llama 3.3 70B bei Q2_K (~27 GB, knapp) oder Q3_K (~34 GB mit Auslagerung in den RAM) — für allgemeinen Chat nutzbar
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B dense) bei Q6-Q8 oder bf16
- Gemma 3 27B multimodal bei Q6 mit 128k Kontext
- Phi-4 14B / Phi-4-reasoning bf16
- Reka Flash 3 (21B Apache 2.0) in bf16
- gpt-oss-20b nativ MXFP4 (~16 GB — passt mit großzügigem KV)
Vision-Language
Qwen3-VL-8B / -32B bei Q4-Q6; Qwen3-VL-30B-A3B MoE; InternVL3.5-8B / -38B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6 (8B); Llama 3.2 11B Vision bf16; Pixtral 12B bf16 (24 GB — knapp, besser Q8); Gemma 3 12B / 27B multimodal; PaliGemma 2 (3/10B); Phi-4-multimodal 5.6B; Aya Vision 8B.
Bildgenerierung
FLUX.1 [dev] / [schnell] fp8 (~12 GB) mit nativer Blackwell-Beschleunigung (~8-12 Sekunden pro Bild in 1024x1024 bei 20 Schritten auf Blackwell, veröffentlichter Referenzwert); FLUX.1 Kontext [dev] — Bearbeitung im Kontext, konsistente Charaktere; SD 3.5 Large (18 GB fp16 / 11 GB fp8); SDXL 1.0 10-12 GB fp16; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8; AuraFlow v0.3 / OmniGen v1 / PixArt-Sigma.
Videogenerierung
Wan 2.2 TI2V-5B bei ~16 GB — 720p@24fps auf einer einzelnen 5090; Wan 2.1 T2V/I2V 14B bei Q4-Q6 (~16 GB); HunyuanVideo 1.5 (8.3B) — mindestens 14 GB; CogVideoX-5B / 5B-I2V int8 (~12 GB); LTX-Video 2B in Echtzeitklasse mit 30 fps; Mochi-1 Q4 (~17-18 GB).
Audio / Sprache / TTS
- ASR: Whisper v3 large / turbo (~50x Echtzeit auf einer einzelnen GPU, veröffentlichter Referenzwert); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Echtzeit / S2S: Kyutai Moshi (7B) — die einzige offene Echtzeit-Sprachlösung im Vollduplex; Step-Audio 2 mini / R1
Multi-Modell / Multi-Tenant
- Residenter Stack für einen einzelnen Entwickler: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB, knapp) im Wechsel, oder Qwen3-14B Q6 (~9 GB) + FLUX.1 + Whisper-turbo + Kokoro gleichzeitig (~20-24 GB fest belegt)
- 2-4 gleichzeitige Nutzer auf LLMs der Klasse 14-32B über vLLM / SGLang
- LoRA- / QLoRA-Feintuning von dichten Modellen mit 7-14B
Zielanwendungen
- Entwickler-Workstation für eine einzelne KI-Fachkraft mit gemischter Inferenz und Bildgenerierung
- Coding-Agent-Endpunkt für kleine Teams (Qwen3-Coder-30B-A3B) mit 1-4 gleichzeitigen Nutzern
- Content-Pipeline: Batch-Bildgenerierung mit FLUX.1 oder SD 3.5 Large + Kurzvideos mit Wan 2.2
- Lokaler Sprach-Stack aus ASR und TTS (Whisper + Kokoro + Moshi) für eine Niederlassung
- Prosumer-Forschungsrechner für LLM und VLM — Qwen3, Llama 3.3, Gemma 3 und Phi-4 auf echter Hardware testen
Veröffentlichte Referenzwerte
Veröffentlichter Referenzwert | vergleichbare Hardware mit einer RTX 5090
| Benchmark | Ergebnis |
|---|---|
| Llama 3.3 70B Q4_K_M llama.cpp decode | ~18-22 tok/s mit KV-Auslagerung auf die CPU |
| Qwen3-32B Q6 vLLM single-stream | ~45-55 tok/s Decode bei fp8 |
| FLUX.1 [dev] fp8 on Blackwell | ~1.7-2.0 s pro Bild in 1024x1024 bei 20 Schritten |
| Wan 2.2 TI2V-5B 720p-Clip | ~3-4 Minuten bei fp16 |
Veröffentlichte Referenzwerte von vergleichbarer Hardware mit einer 5090. Von Kentino gemessene Werte folgen, sobald gf-logic den Benchmark auf die Einzel-5090 ausweitet.
Weniger geeignet für
- 70B-Dense-Modelle bei Q6+ (32 GB reichen nicht aus — für einen vollwertigen 64-GB-Pool 2x 5090 einsetzen)
- Serving vieler gleichzeitiger Nutzer im großen Maßstab (nur eine Tensor-Parallel-Partition)
- Frontier-MoE-Modelle ab 100B (GLM-4.5, Kimi K2, Mistral Large 3 — auf einer einzelnen Consumer-Karte nicht erreichbar)
Garantie und Lieferzeit
Der Aufbau umfasst Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in-Test und Funktionsprüfung. Die Lieferzeit hängt von der Verfügbarkeit der Komponenten ab und wird bei Bestellung bestätigt.
Empfohlene Erweiterungen
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Bootlaufwerk auf 2 TB NVMe aufrüsten — oder auf 4 TB
- RAM auf 256 GB aufrüsten (4x 64 GB DDR4) für einen größeren KV-Cache / gleichzeitige Multi-Modell-Stacks
- Rack-PDU (C13/C19, mit Messung) und 2-kVA-Online-USV
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.