Kentino KI 48 Rome L4 484TOPS — 2x NVIDIA L4 Passive Edge KI-Server
Plattform in Enterprise-Qualität, in der EU montiert und getestet.
Kentino AI 48 Rome L4 484TOPS
Geräuscharmer Edge-Server mit 2x L4 passiv
48 GB ECC VRAM | EPYC Milan | 484 TOPS INT8
Geräuscharmes Inferenzsystem mit 2x L4 passiv — Garantiepfad in Datacenter-Klasse, 72 W je Karte, 48 GB ECC-VRAM für den Dauerbetrieb am Edge.
Ein Edge-Inferenz-Server mit 2 GPUs rund um passive NVIDIA L4 Karten — die geräuscharme Variante in Datacenter-Klasse im Kentino-Portfolio. 48 GB ECC-VRAM insgesamt, 144 W GPU-Aufnahme gesamt, Karten im Single-Slot-Format und ein Luftstrom, der vollständig vom Gehäuse erzeugt wird. Für Filialen, Broadcast-Einrichtungen, Transkription im Dauerbetrieb und jede Installation, bei der Geräuschpegel und ein Datacenter-Garantiepfad wichtiger sind als reiner Tensor-Durchsatz.
Hardware
| Komponente | Detail |
|---|---|
| GPUs | 2x NVIDIA L4 24 GB GDDR6 passiv (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| VRAM-Pool | 48 GB ECC |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 Lanes) |
| Mainboard | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Arbeitsspeicher | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / Speicher | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Netzteil | Einzelnes 2-kW-ATX-Netzteil |
| Gehäuse | 4U für das Rack, passive Gen4-x16-Riser |
| Kühlung | SP3 Tower-Kühler, 3x 120 mm Einlass vorn + 1x 120 mm Auslass hinten (PWM mit niedriger Drehzahl) |
| Netzwerk | Onboard 2x 10 GbE (Intel X550) + IPMI |
Leistungsbudget
- GPU-Aufnahme: 2 x 72 W = 144 W
- Systemgesamtleistung unter Volllast: ~469 W
- Netzteilleistung gesamt: 2 000 W — 76.55 % Reserve
- Betreibt die Lüfter auf niedriger Leerlaufdrehzahl (~35 dBA im Leerlauf, <45 dBA bei dauerhafter Inferenz)
Lane-Topologie
PCIe Gen4 x16 an beiden GPUs. Die L4 ist nativ Gen4 x16; das ROMED8-2T führt 2x16 direkt von der CPU heraus. Kein Switch, kein NVLink. 55-65 C GPU-Temperatur im Dauerbetrieb — passive Karten sind vollständig auf den Luftstrom des Gehäuses angewiesen.
Was Sie damit betreiben können
Mit 48 GB ECC-VRAM über 2 passive L4 Karten bewältigt dieser Server LLM-Inferenz im Dauerbetrieb, 24/7 ASR- und TTS-Pipelines, VLM-gestützte Dokumentenverarbeitung und Edge-Installationen, bei denen Geräuscharmut und eine Datacenter-Garantie zählen.
LLMs — Text / Reasoning / Coding
Chinesische Spitzenmodelle
- Qwen3-32B dense Q6 mit 32k ctx (~15-20 tok/s Single-Stream auf der L4, veröffentlichter Referenzwert)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, 256k ctx)
- QwQ-32B Q6; DeepSeek-R2 32B sparse MoE Q4-Q6 (~18-24 tok/s Single-Stream bei Q4 auf der L4, veröffentlichter Referenzwert)
- Hunyuan-A13B Q6 oder fp8 (~48 GB) — 80B/13B MoE, 256k ctx
- Seed-OSS-36B Q4-Q6 — 512k nativer ctx
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Westliche Spitzenmodelle
- Llama 3.3 70B Q4_K_M (~43 GB) 2-fach tensorparallel (~8-12 tok/s Single-Stream auf 2x L4, veröffentlichter Referenzwert)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodal bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think — vollständig offene Reasoning-Forschung
Vision-Language
Qwen3-VL-8B / 32B Q4-Q6; InternVL3.5-38B Q4; Pixtral 12B bf16 (24 GB); Llama 3.2 11B Vision bf16; Gemma 3 12B / 27B multimodal; MiniCPM-V 2.6 / MiniCPM-o 2.6; Aya Vision 8B / 32B als VLM für 23 Sprachen.
Bildgenerierung
Die L4 ist auf Inferenz ausgelegt — geeignet für gleichmäßig laufende Bild-Pipelines, nicht für Batch-Generierung: FLUX.1 [dev] fp8 / Q4 — ein Einzelbild in 8-12 s; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8.
Videogenerierung
Für neue Videoprojekte auf der L4 nicht empfohlen — hier ist ein 4090/5090-Aufbau die bessere Wahl. Für leichte T2V-Pipelines: Wan 2.2 TI2V-5B in bf16 — 5 s 720p in ~6-10 Minuten; HunyuanVideo 1.5 (8.3B) über den Optimierungspfad Wan2GP.
Audio / Sprache / TTS
Die eigentliche Stärke der L4 — 24/7 ASR-, TTS- und Echtzeit-Sprach-Stacks.
- ASR: Whisper v3 large / turbo (~30x Echtzeit auf der L4, veröffentlichter Referenzwert); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Echtzeit / S2S: Kyutai Moshi (7B, 200 ms Latenz, Vollduplex); Step-Audio 2 mini / R1
- Übersetzung: Meta SeamlessM4T v2 (~100 Sprachen)
Multi-Modell / Multi-Tenant
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 liegen gemeinsam resident auf Karte 1 (~18-20 GB); Karte 2 bleibt für einen zweiten Mandanten oder ein VLM reserviert
- 8-16 gleichzeitige ASR-Sitzungen auf einer einzelnen L4 in Whisper-turbo-Echtzeit
- RAG-Endpunkt: Qwen3-14B / Llama 3.1 8B (~48-72 tok/s Single-Stream auf der L4, veröffentlichter Referenzwert) + BGE-M3-Embeddings + Reranker
Zielgerichtete Workloads
- Geräuscharmes Inferenzsystem für Filialen oder Broadcast-Einrichtungen
- ASR- und Übersetzungs-Pipeline im Dauerbetrieb (Callcenter, Vorlesungstranskription, Medienuntertitelung)
- RAG-Endpunkt am Edge über Unternehmensdokumente mit Datacenter-Garantiepfad
- 24/7 multimodaler Assistent (Qwen3-VL-8B + MiniCPM-o 2.6) für ein kleines Büro
- Staging-System für die Entwicklung von Installationen in Datacenter-Klasse — dasselbe L4-Silizium wie am Hyperscale-Edge
Veröffentlichte Leistungsreferenzen
Veröffentlichter Referenzwert | vergleichbare Hardware mit 2x NVIDIA L4
| Benchmark | Ergebnis |
|---|---|
| Llama 3.1 8B Q4_K_M llama.cpp Decode | ~30-40 tok/s Single-Stream |
| Qwen3-14B Q6 vLLM Decode | ~20-28 tok/s |
| Whisper v3 large Echtzeitfaktor | ~15-20x je L4 |
| Parakeet-TDT 1.1B englische ASR | ~40-60x Echtzeit |
| Moshi 7B Vollduplex-Sprache | 200 ms Latenz, passt auf eine einzelne L4 |
Veröffentlichte Werte, nicht auf Kentino-Hardware gemessen.
Weniger geeignet für
- 70B dense bei Q6+ (selbst ein 48-GB-Pool ist knapp — nutzen Sie 4x4090 oder 2x5090)
- Bild- und Videogenerierung im großen Batch-Betrieb (der Tensor-Durchsatz der L4 ist auf Inferenz ausgelegt)
- LoRA- und Fine-Tuning-Workflows — hier sind 4090/5090-Aufbauten die bessere Wahl
Garantie und Lieferzeit
Die L4 bringt den NVIDIA Datacenter-Garantiepfad mit — ein spürbarer Vorteil gegenüber Consumer-Karten im 24/7-SLA-Betrieb. Der Aufbau umfasst Montage, BIOS-Konfiguration, Treiberinstallation, Burn-in-Test und Funktionsprüfung.
Empfohlene Erweiterungen
- Aufrüstung auf Kentino AI 96 Rome L4 968TOPS (4x L4, 96 GB Pool) für doppelten Durchsatz
- Aufrüstung des Bootlaufwerks auf 2 TB NVMe
- Aufrüstung des Arbeitsspeichers auf 256 GB (4x 64 GB) für paralleles Multi-Modell-Serving
- Rack-PDU + 2-kVA-Online-USV für den Einsatz in der Filiale
Die Fragen, die uns Käufer vor der Bestellung eines Servers am häufigsten stellen.
Wie lange dauert es?
Maschinen aus Komponenten, die wir vorrätig haben, werden schnell versandt; alles, was eine bestimmte GPU-Generation erfordert, hängt von der Verfügbarkeit ab. Wir nennen Ihnen ein Datum, bevor Sie zahlen, und wenn es sich verschiebt, sagen wir es Ihnen, statt Sie es selbst herausfinden zu lassen.
Kann die Konfiguration vor dem Bau noch geändert werden?
Fast immer. GPUs, Arbeitsspeicher, Storage und Kühlung werden je Bestellung ausgewählt, und die angegebene Konfiguration ist ein Ausgangspunkt und kein festes Paket. Wenn Sie mehr VRAM, schnelleren Storage oder ein anderes Kühlkonzept benötigen, sagen Sie es vor der Bestellung – wir kalkulieren die Änderung.
Kann ich den Server persönlich abholen?
Das können Sie. Unser Lager befindet sich in Prag, und die persönliche Abholung ist willkommen – die meisten, die vorbeikommen, nutzen den Besuch, um die Maschine gemeinsam mit unserem Ingenieur durchzugehen und die Fragen zu stellen, die per E-Mail unangenehm sind. Bei Bestellungen innerhalb Tschechiens versuchen wir außerdem, persönlich zu liefern und Sie vor Ort durch die Einrichtung zu führen.
Kann ich mit jemandem sprechen, der den Workload wirklich versteht?
Ja. Bei uns arbeitet ein Ingenieur speziell an KI-Systemen, kein allgemeines Vertriebsteam. Wenn Ihre Frage Batch-Größen, Quantisierung, Interconnect oder die Frage betrifft, wo Ihr Engpass liegen wird, stellen Sie sie — dieses Gespräch verändert die Konfiguration meist zum Besseren.
Welches Modell kann ich auf dieser Konfiguration betreiben?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Wie testen Sie einen Server vor dem Versand?
Wir testen ihn mit echten KI-Workloads statt mit synthetischen Benchmarks: Inferenz-Durchsatz, Verhalten unter Dauerlast und Thermik im Dauerbetrieb. Die Benchmark-Ergebnisse erhalten Sie zusammen mit der Maschine, sodass Sie die zugesagte Leistung vom ersten Tag an selbst überprüfen können.
Ist der Server bei Lieferung betriebsbereit?
Ja. Jede Maschine wird montiert, einem Burn-in-Test unterzogen und mit realen KI-Workloads gebenchmarkt, bevor sie ausgeliefert wird — und sie verlässt uns mit einem bereits installierten und laufenden LLM. Sie schließen sie an, verbinden sie mit Ihrem Netzwerk und legen los — die einzige verbleibende Entscheidung ist, welches Projekt zuerst darauf läuft.
Versand aus unserem EU-Lager. Schwere Artikel erfordern unter Umständen eine Speditionslieferung — kontaktieren Sie uns für ein Versandangebot und die Lieferzeit. 2 Jahre eingeschränkte Garantie mit erweitertem RMA-Support; Garantieverlängerung verfügbar.
Nicht ganz das, was Sie brauchen?
Nennen Sie uns Ihren Workload, und wir legen diese Plattform darauf aus – GPUs, Arbeitsspeicher, Storage und Kühlung passend zu Ihrem tatsächlichen Betrieb.