Kentino KI 48 Rome 4090 1322TOPS — 2x RTX 4090 Einstiegs-KI-Server
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 48 Rome 4090 1322TOPS
48 GB VRAM Einsteiger-Server mit 2 GPUs
2x RTX 4090 | EPYC Rome | 1 322 TOPS INT8
48 GB VRAM-Pool über zwei RTX 4090 — der Preiseinstieg für tensor-parallele Inferenz der 32B-Klasse.
Ein KI-Server der Workstation-Klasse mit zwei Ada-GPUs auf Basis von ROMED8-2T / EPYC Rome. Zwei RTX 4090 ergeben einen gepoolten VRAM-Rahmen von 48 GB, der dichte 32B-Modelle in Q6-Q8, Hunyuan-A13B in Q6, Wan 2.1 14B für Video und Pixtral 12B für Vision bequem ausführt — die beste Allround-Modellauswahl pro Euro im Kentino-Programm, bevor Sie zu Blackwell aufsteigen.
Hardware
| Komponente | Detail |
|---|---|
| GPUs | 2x NVIDIA GeForce RTX 4090 24 GB GDDR6X (450 W, PCIe 4.0 x16) |
| VRAM-Pool | 48 GB (kein NVLink — tensor-parallel über PCIe) |
| CPU | AMD EPYC 7542 Rome (32C/64T, 225 W, 128x PCIe 4.0 Lanes) |
| Mainboard | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Arbeitsspeicher | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / Speicher | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Netzteil | Einzelnes 2-kW-ATX-Netzteil |
| Gehäuse | 4U für den Rack-Einbau, passive Gen4-x16-Riser |
| Kühlung | SP3-Tower-Kühler, 3x 120 mm Zuluft vorne + 1x 120 mm Abluft hinten |
| Netzwerk | Onboard zwei 10 GbE (Intel X550) + IPMI |
Leistungsbudget
- GPU-Aufnahme: 2 x 450 W = 900 W
- Systemgesamtaufnahme unter Volllast: ~1 225 W
- Netzteil gesamt: 2 000 W (einzelnes 2-kW-ATX) — 38.75 % Reserve
- Komfortable Reserve mit einem einzelnen Netzteil
Lane-Topologie
Das ROMED8-2T führt 2x16 Lanes direkt aus dem Root-Complex der CPU heraus — ohne PLX-Switch. Die Consumer-4090 besitzt kein NVLink; der Tensor-Parallelismus kommuniziert über PCIe. PCIe Gen4 x16 an beiden GPUs.
Was Sie betreiben können
Mit 48 GB gepooltem VRAM über 2 Karten bewältigt dieser Server dichte LLMs der 32B-Klasse in Q6-Q8, MoE-Flaggschiffe, Bild- und Videogenerierung, Sprach-KI sowie Multi-Tenant-Serving.
LLMs — Text / Reasoning / Coding
Chinesische Spitzenmodelle
- Qwen3-32B dicht in Q6-Q8 (~25-35 Tok/s im Einzelstream auf 2x 4090, veröffentlichte Referenz); QwQ-32B Q6; Qwen3.5-27B Q6-Q8
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, knapp; besser Q6)
- Hunyuan-A13B Q6 oder fp8 (~48 GB) — 80B/13B MoE, 256k ctx
- Seed-OSS-36B Q6 — 512k natives ctx
- DeepSeek-R2 32B Sparse-MoE bf16 (~64 GB, knapp — besser Q6 mit ~45 GB) (~30-40 Tok/s im Einzelstream bei Q4, veröffentlichte Referenz)
- ERNIE-4.5-47B-A3B Q4 (~28 GB mit Reserve) / Q6 (~42 GB)
Westliche Spitzenmodelle
- Llama 3.3 70B Q4_K_M (~43 GB) 2-fach tensor-parallel — der Sweet Spot dieser Klasse (~14-17 Tok/s im Einzelstream auf 2x 4090, veröffentlichte Referenz)
- Llama 4 Scout 109B/17B MoE Q3_K (~51 GB, knapp)
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B) bf16
- Mixtral 8x7B Q6
- Gemma 3 27B bf16; Phi-4 14B bf16
- Nemotron-Super 49B Q4 (~28 GB)
- Weitere: OLMo 2 32B; Reka Flash 3 21B bf16; Falcon H1R 7B
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B MoE / Qwen3-Omni-30B-A3B; InternVL3-38B Q4-Q5; InternVL3.5-38B; DeepSeek-VL2; ERNIE-4.5-VL-28B-A3B-Thinking; Llama 3.2 11B Vision bf16; Pixtral 12B bf16; Gemma 3 27B multimodal; PaliGemma 2 28B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6.
Bildgenerierung
FLUX.1 [dev] / [schnell] fp16 (24 GB) oder fp8 (~12 GB) mit großzügiger Batchgröße (~15-25 Sekunden pro 1024x1024-Bild bei fp8 und Karte, veröffentlichte Referenz); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16); SDXL 1.0 + ControlNet + AnimateDiff; HunyuanImage-2.1 bf16 (~34 GB, passt in den Pool); AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Videogenerierung
Wan 2.1 14B T2V/I2V Q6/fp8; Wan 2.2 TI2V-5B bf16 auf einer Karte; Wan 2.2 T2V-A14B / I2V-A14B Q4 (~32 GB); HunyuanVideo 13B Q4-Q5 (~30 GB); HunyuanVideo 1.5 (8.3B) bf16; Open-Sora 2.0 (11B) Q8; CogVideoX-5B / 1.5 bf16; Mochi-1 Q4-Q8; LTX-Video 2B; Pyramid Flow 2B.
Audio / Sprache / TTS
Der komplette Stack der 24-GB-Klasse passt hinein und lässt noch Raum für parallele Nutzung: Whisper v3 large + Parakeet-TDT + Canary 1B + Moshi + Step-Audio 2 mini + CosyVoice 3.0 + Kokoro 82M + Stable Audio Open können alle gleichzeitig resident bleiben. Whisper v3 turbo läuft auf einer einzelnen Karte mit ~50-facher Echtzeitgeschwindigkeit (veröffentlichte Referenz).
Multi-Modell / Multi-Tenant
- 2-4 gleichzeitige Nutzer auf LLMs der 32B-Q6-Klasse über vLLM mit Tensor-Parallelismus
- Gemischter Workload: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB) + Whisper-turbo (1.6 GB) + Moshi (8 GB) gleichzeitig resident auf 2 Karten
- LoRA-/QLoRA-Feintuning von 7-14B-Modellen bequem, 24-32B knapp
Ziel-Workloads
- KI-Workstation für zwei Anwender mit gemischten LLM-, Bild- und Audio-Stacks
- Serving-Endpunkt der 32B-Klasse für die Entwicklungsumgebung kleiner Teams (4-8 gleichzeitige Nutzer auf Qwen3-32B / Gemma 3 27B)
- Bildgenerierungs-Pipeline (FLUX.1 + SD 3.5 + ControlNet) für die Batch-Produktion
- Entwicklungsmaschine für Videogenerierung (Wan 2.1 / Wan 2.2 TI2V / HunyuanVideo 1.5)
- Forschungsmaschine für LoRA-/QLoRA-Feintuning chinesischer und westlicher Gewichte von 7-34B
Veröffentlichte Leistungsreferenzen
Veröffentlichte Referenz | vergleichbare Hardware mit 2x RTX 4090
| Benchmark | Ergebnis |
|---|---|
| Llama 3.3 70B Q4_K_M Dekodierung mit llama.cpp | ~14-17 Tok/s im Einzelstream |
| Qwen3-32B Q6 vLLM Einzelstream | ~35-45 Tok/s Dekodierung |
| FLUX.1 [dev] fp8 | ~2.5-3.0 s pro 1024x1024 bei 20 Schritten |
| vLLM Batch-32 aggregiert (extrapoliert von 4x4090) | ~90 Tok/s aggregiert |
Veröffentlichte Referenzwerte von vergleichbarer Hardware mit 2x4090. Nicht auf Kentino-Hardware gemessen.
Weniger geeignet für
- Dichte 70B-Modelle ab Q6 (benötigen einen 96-GB-Pool — Aufstieg auf 4x RTX 4090 oder 4x RTX 5090)
- MoE-Spitzenmodelle ab 100B in bf16 (GLM-4.5, Kimi K2, Mistral Large 3)
Garantie und Lieferzeit
Der Aufbau umfasst Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in-Tests und Funktionsprüfung. Die Lieferzeit hängt von der Verfügbarkeit der Komponenten ab und wird bei Bestellung bestätigt.
Empfohlenes Zubehör
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade des Bootlaufwerks auf 2 TB NVMe
- Upgrade des Arbeitsspeichers auf 256 GB (4x 64 GB) — mehr Reserve im KV-Cache für MoE mit langem ctx
- Rack-PDU (C13/C19, mit Messung) und 2-kVA-Online-USV
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.