Kentino AI 48 Rome L4 484TOPS — 2x NVIDIA L4 pasívny edge AI server
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 48 Rome L4 484TOPS
Tichý edge server s 2x pasívnou L4
48 GB ECC VRAM | EPYC Milan | 484 TOPS INT8
Tichý inferenčný box s 2x pasívnou L4 — záručný režim na úrovni dátového centra, 72 W na kartu, 48 GB ECC VRAM pre nepretržité edge nasadenie.
Dvojgpu edge inferenčný server postavený na pasívnych kartách NVIDIA L4 — tichá voľba triedy dátového centra v portfóliu Kentino. Spolu 48 GB ECC VRAM, 144 W celkový odber GPU, jednoslotové karty a prúdenie vzduchu plne riadené skriňou. Pre pobočky, vysielacie štúdiá, nepretržitý prepis reči a každé nasadenie, kde je hlučnosť a záručný režim dátového centra dôležitejší než hrubý tenzorový výkon.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 2x NVIDIA L4 24 GB GDDR6 pasívna (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| Pamäťový fond VRAM | 48 GB ECC |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x liniek PCIe 4.0) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / úložisko | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden 2 kW ATX zdroj |
| Skriňa | 4U do racku, pasívne Gen4 x16 risery |
| Chladenie | Tower chladič SP3, 3x 120 mm predný prívod + 1x 120 mm zadný odvod (PWM s nízkymi otáčkami) |
| Sieť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilancia
- Odber GPU: 2 x 72 W = 144 W
- Celý systém pri plnej záťaži: ~469 W
- Celkový výkon zdroja: 2 000 W — 76.55 % rezerva
- Ventilátory bežia na nízkych otáčkach (~35 dBA v pokoji, <45 dBA pri trvalej inferencii)
Topológia liniek
PCIe Gen4 x16 na oboch GPU. L4 je natívne Gen4 x16; ROMED8-2T rozvádza 2x16 priamo z CPU. Žiadny switch, žiadny NVLink. Trvalá teplota GPU 55-65 C — pasívne karty sú plne závislé od prúdenia vzduchu v skrini.
Čo na ňom rozbehnete
S 48 GB ECC VRAM na dvoch pasívnych kartách L4 zvládne tento server nepretržitú LLM inferenciu, 24/7 ASR + TTS pipeline, spracovanie dokumentov pomocou VLM a edge nasadenia, kde záleží na tichu a záruke triedy dátového centra.
LLM — text / uvažovanie / kódovanie
Čínska špička
- Qwen3-32B dense Q6 s 32k ctx (~15-20 tok/s jednoprúdovo na L4, publikovaná referencia)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, 256k ctx)
- QwQ-32B Q6; DeepSeek-R2 32B sparse MoE Q4-Q6 (~18-24 tok/s jednoprúdovo pri Q4 na L4, publikovaná referencia)
- Hunyuan-A13B Q6 alebo fp8 (~48 GB) — 80B/13B MoE, 256k ctx
- Seed-OSS-36B Q4-Q6 — natívny kontext 512k
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Západná špička
- Llama 3.3 70B Q4_K_M (~43 GB) tensor-parallel na dve karty (~8-12 tok/s jednoprúdovo na 2x L4, publikovaná referencia)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodálna bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think — plne otvorený výskum uvažovania
Vizuálno-jazykové modely
Qwen3-VL-8B / 32B Q4-Q6; InternVL3.5-38B Q4; Pixtral 12B bf16 (24 GB); Llama 3.2 11B Vision bf16; Gemma 3 12B / 27B multimodálna; MiniCPM-V 2.6 / MiniCPM-o 2.6; Aya Vision 8B / 32B pre VLM v 23 jazykoch.
Generovanie obrázkov
L4 je ladená na inferenciu — hodí sa na ustálené obrazové pipeline, nie na dávkové generovanie: FLUX.1 [dev] fp8 / Q4 — jeden obrázok za 8-12 s; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8.
Generovanie videa
Pre nové video projekty L4 neodporúčame — radšej zostavu so 4090/5090. Pre nenáročné T2V pipeline: Wan 2.2 TI2V-5B v bf16 — 5 s v 720p za ~6-10 minút; optimalizačná cesta HunyuanVideo 1.5 (8.3B) Wan2GP.
Zvuk / reč / TTS
Skutočná silná stránka L4 — nepretržité ASR + TTS a realtime hlasové stacky.
- ASR: Whisper v3 large / turbo (~30x rýchlejšie než reálny čas na L4, publikovaná referencia); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Realtime / S2S: Kyutai Moshi (7B, plný duplex s latenciou 200 ms); Step-Audio 2 mini / R1
- Preklad: Meta SeamlessM4T v2 (~100 jazykov)
Viac modelov / viac nájomníkov
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 naraz na karte 1 (~18-20 GB); karta 2 vyhradená pre druhého nájomníka alebo VLM
- 8-16 súbežných ASR relácií na jednej L4 pri Whisper-turbo v reálnom čase
- RAG endpoint: Qwen3-14B / Llama 3.1 8B (~48-72 tok/s jednoprúdovo na L4, publikovaná referencia) + embeddingy BGE-M3 + reranker
Cieľové nasadenia
- Tichý inferenčný box pre pobočku alebo vysielacie štúdio
- Nepretržitá ASR + prekladová pipeline (call centrá, prepis prednášok, titulkovanie médií)
- Edge RAG endpoint nad firemnými dokumentmi so záručným režimom dátového centra
- 24/7 multimodálny asistent (Qwen3-VL-8B + MiniCPM-o 2.6) pre malú kanceláriu
- Vývojový staging box pre nasadenia triedy dátového centra — rovnaký kremík L4 ako v hyperscale edge
Publikované referenčné výsledky
Publikovaná referencia | porovnateľný hardvér s 2x NVIDIA L4
| Benchmark | Výsledok |
|---|---|
| Llama 3.1 8B Q4_K_M llama.cpp dekódovanie | ~30-40 tok/s jednoprúdovo |
| Qwen3-14B Q6 vLLM dekódovanie | ~20-28 tok/s |
| Whisper v3 large faktor reálneho času | ~15-20x na jednu L4 |
| Parakeet-TDT 1.1B anglické ASR | ~40-60x rýchlejšie než reálny čas |
| Moshi 7B plne duplexný hlas | latencia 200 ms, zmestí sa na jednu L4 |
Publikované hodnoty, nemerané na hardvéri Kentino.
Nie je ideálny pre
- 70B dense pri Q6+ (aj 48 GB fond je tesný — použite 4x4090 alebo 2x5090)
- Dávkové generovanie obrázkov a videa vo veľkom (tenzorový výkon L4 je ladený na inferenciu)
- LoRA / doladenie modelov — použite radšej zostavy so 4090/5090
Záruka a dodacia lehota
L4 má záručný režim NVIDIA pre dátové centrá — oproti spotrebiteľským kartám je to pri nepretržitom nasadení so SLA zásadná výhoda. Zostava zahŕňa montáž, nastavenie BIOSu, inštaláciu ovládačov, záťažové testovanie a funkčnú kontrolu.
Odporúčané doplnky
- Prechod na Kentino AI 96 Rome L4 968TOPS (4x L4, fond 96 GB) pre dvojnásobnú priepustnosť
- Zväčšenie systémového disku na 2 TB NVMe
- Rozšírenie RAM na 256 GB (4x 64 GB) pre súbežné nasadenie viacerých modelov
- Rack PDU + 2 kVA online UPS pre nasadenie na pobočke
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.