Kentino AI 48 Rome L4 484TOPS — 2x NVIDIA L4 pasivní Edge AI server
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 48 Rome L4 484TOPS
Tichý 2x L4 pasivní edge server
48 GB ECC VRAM | EPYC Milan | 484 TOPS INT8
Tichý inferenční box se 2x pasivní L4 — záruka v datacentrové třídě, 72 W na kartu, 48 GB ECC VRAM pro nepřetržitý provoz na edge.
Edge inferenční server se 2 GPU postavený na pasivních kartách NVIDIA L4 — tichá varianta v datacentrové třídě z nabídky Kentino. Celkem 48 GB ECC VRAM, 144 W celkový odběr GPU, karty na jeden slot a proudění vzduchu zajištěné celým šasi. Pro pobočky, vysílací pracoviště, nepřetržitou transkripci a všechna nasazení, kde je akustický projev a datacentrová záruka důležitější než hrubý tenzorový výkon.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 2x NVIDIA L4 24 GB GDDR6 pasivní (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| Celková VRAM | 48 GB ECC |
| CPU | AMD EPYC 7643 Milan (48 jader / 96 vláken, 225 W, 128x linka PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Systémový disk / úložiště | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden zdroj ATX 2 kW |
| Šasi | 4U do racku, pasivní risery Gen4 x16 |
| Chlazení | Věžový chladič SP3, 3x 120 mm přední sání + 1x 120 mm zadní výfuk (nízkootáčkové PWM) |
| Síť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilance
- Odběr GPU: 2 x 72 W = 144 W
- Celý systém při plné zátěži: ~469 W
- Výkon zdroje: 2 000 W — 76.55 % rezerva
- Ventilátory běží na nízkých otáčkách (~35 dBA v klidu, <45 dBA při trvalé inferenci)
Topologie linek
PCIe Gen4 x16 u obou GPU. L4 je nativně Gen4 x16; ROMED8-2T vyvádí 2x16 přímo z CPU. Žádný switch, žádný NVLink. Trvalá teplota GPU 55-65 C — pasivní karty spoléhají výhradně na proudění vzduchu v šasi.
Co na něm spustíte
Se 48 GB ECC VRAM na 2 pasivních kartách L4 zvládne tento server nepřetržitou inferenci LLM, pipeline ASR + TTS v režimu 24/7, zpracování dokumentů pomocí VLM a edge nasazení, kde záleží na tichu a datacentrové záruce.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3-32B hustý Q6 s kontextem 32k (~15-20 tok/s jednoproudově na L4, publikovaná reference)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, kontext 256k)
- QwQ-32B Q6; DeepSeek-R2 32B řídký MoE Q4-Q6 (~18-24 tok/s jednoproudově při Q4 na L4, publikovaná reference)
- Hunyuan-A13B Q6 nebo fp8 (~48 GB) — 80B/13B MoE, kontext 256k
- Seed-OSS-36B Q4-Q6 — nativní kontext 512k
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Západní špička
- Llama 3.3 70B Q4_K_M (~43 GB) tenzorově paralelně na 2 cesty (~8-12 tok/s jednoproudově na 2x L4, publikovaná reference)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodální bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think — plně otevřený výzkum uvažování
Vision-Language
Qwen3-VL-8B / 32B Q4-Q6; InternVL3.5-38B Q4; Pixtral 12B bf16 (24 GB); Llama 3.2 11B Vision bf16; Gemma 3 12B / 27B multimodální; MiniCPM-V 2.6 / MiniCPM-o 2.6; Aya Vision 8B / 32B pro VLM ve 23 jazycích.
Generování obrazu
L4 je laděná na inferenci — použitelná pro stálý běh obrazových pipeline, ne pro dávkové generování: FLUX.1 [dev] fp8 / Q4 — jeden obrázek za 8-12 s; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8.
Generování videa
Pro nové videoprojekty na L4 nedoporučujeme — raději sestavu s 4090/5090. Pro lehké T2V pipeline: Wan 2.2 TI2V-5B v bf16 — 5 s v 720p za ~6-10 minut; HunyuanVideo 1.5 (8.3B) s optimalizací Wan2GP.
Audio / řeč / TTS
Skutečná síla L4 — ASR + TTS a realtime hlasové stacky v režimu 24/7.
- ASR: Whisper v3 large / turbo (~30x reálný čas na L4, publikovaná reference); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Realtime / S2S: Kyutai Moshi (7B, latence 200 ms, full-duplex); Step-Audio 2 mini / R1
- Překlad: Meta SeamlessM4T v2 (~100 jazyků)
Více modelů / více nájemců
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 vše nahrané na kartě 1 (~18-20 GB); karta 2 vyhrazená druhému nájemci nebo VLM
- 8-16 souběžných ASR relací na jediné L4 při Whisper-turbo v reálném čase
- RAG endpoint: Qwen3-14B / Llama 3.1 8B (~48-72 tok/s jednoproudově na L4, publikovaná reference) + embeddingy BGE-M3 + reranker
Cílové workloady
- Tichý inferenční box pro pobočku nebo vysílací pracoviště
- Nepřetržitá pipeline ASR + překlad (call centra, přepis přednášek, titulkování médií)
- Edge RAG endpoint nad firemními dokumenty s datacentrovou zárukou
- Multimodální asistent 24/7 (Qwen3-VL-8B + MiniCPM-o 2.6) pro malé kanceláře
- Vývojový staging stroj pro nasazení v datacentrové třídě — stejný křemík L4 jako na hyperscale edge
Publikované výkonnostní reference
Publikovaná reference | srovnatelný hardware 2x NVIDIA L4
| Benchmark | Výsledek |
|---|---|
| Llama 3.1 8B Q4_K_M llama.cpp dekódování | ~30-40 tok/s jednoproudově |
| Qwen3-14B Q6 vLLM dekódování | ~20-28 tok/s |
| Whisper v3 large — faktor reálného času | ~15-20x na jednu L4 |
| Parakeet-TDT 1.1B anglické ASR | ~40-60x reálný čas |
| Moshi 7B full-duplex hlas | Latence 200 ms, vejde se na jedinou L4 |
Publikované hodnoty, neměřeno na hardwaru Kentino.
Není ideální pro
- hustý model 70B v Q6+ (i 48 GB je těsných — použijte 4x4090 nebo 2x5090)
- dávkové generování obrazu či videa ve velkém (tenzorový výkon L4 je laděný na inferenci)
- workflow s LoRA či doladěním modelů — použijte raději sestavy s 4090/5090
Záruka a dodací lhůta
L4 má záruku v datacentrové třídě NVIDIA — oproti spotřebitelským kartám je to u nasazení se SLA 24/7 podstatná výhoda. Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžový test a funkční ověření.
Doporučené doplňky
- Přechod na Kentino AI 96 Rome L4 968TOPS (4x L4, 96 GB) pro dvojnásobnou propustnost
- Navýšení systémového disku na 2 TB NVMe
- Navýšení RAM na 256 GB (4x 64 GB) pro souběžný provoz více modelů
- Racková PDU + online UPS 2 kVA pro nasazení na pobočce
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.