Kentino AI 64 Rome 5090 3352TOPS — 2x RTX 5090 Entry Blackwell AI server
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 64 Rome 5090 3352TOPS
Vstupný Blackwell server s 2 GPU
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Vstupný Blackwell server s 2 GPU — 64 GB zdieľanej VRAM, 3 352 TOPS INT8, natívne fp8. Krok z Ady na Blackwell pre majiteľov 2x4090.
Dvojgrafikový Blackwell AI server postavený na ROMED8-2T / EPYC Milan. Dve RTX 5090 poskytujú 64 GB zdieľanej VRAM s natívnou tenzorovou matematikou fp8 — zhruba dvojnásobok hrubých TOPS oproti 2x RTX 4090 v rovnakom šasi a prvá trieda s 2 GPU, ktorá pohodlne utiahne Llama 3.3 70B Q4, Qwen3.5-122B-A10B Q4 aj HunyuanVideo v bf16 / fp8 s rezervou.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| Zásoba VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linka PCIe 4.0) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / úložisko | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden 2 kW ATX zdroj |
| Šasi | 4U do racku, pasívne Gen4 x16 risery |
| Chladenie | Tower chladič SP3, 3x 120 mm predný prívod + 1x 120 mm zadný odvod (priemyselné ventilátory) |
| Sieť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilancia
- Odber GPU: 2 x 575 W = 1 150 W
- Systém celkovo pri plnej záťaži: ~1 475 W
- Zdroj celkovo: 2 000 W (jeden 2 kW ATX) — rezerva 26.25 %
- Použiteľná rezerva pri jednom zdroji; pre väčšiu rezervu je k dispozícii upgrade na dva zdroje
Topológia liniek
ROMED8-2T rozvádza 2x16 Gen4 priamo z root complexu CPU. 5090 je kremík Gen5 bežiaci na Gen4 x16 bez straty priepustnosti pri inferencii. Žiadny PCIe prepínač. GeForce 5090 nemá NVLink — dvojcestné tenzorovo paralelné P2P ide cez PCIe.
Čo na ňom spustíte
So 64 GB zdieľanej VRAM GDDR7 naprieč 2 kartami Blackwell tento server zvládne 70B Q4 tenzorovo paralelne, vlajkové modely MoE, natívne fp8 generovanie obrázkov, video AI a súbežnú obsluhu viacerých modelov.
LLM — text / uvažovanie / kódovanie
Čínska špička
- Qwen3-32B Q8 / bf16 (kvalita takmer na úrovni fp16) (~40-55 tok/s v jednom prúde na Blackwell fp8, publikovaná referencia)
- QwQ-32B bf16; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB sa zmestí)
- Qwen3.5-122B-A10B Q4 (~70-75 GB s presahom do RAM) — vlajkový MoE sa v Q4 zmestí
- Hunyuan-A13B fp8 (~80 GB tesne) alebo Q6 (~36 GB pohodlne)
- Seed-OSS-36B bf16 (~72 GB tesne — radšej fp8 ~36 GB)
- DeepSeek-R2 32B riedky MoE bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE s rezervou
- ERNIE-4.5-47B-A3B Q6-Q8
Západná špička
- Llama 3.3 70B Q4_K_M (~43 GB) — hlavný workload tejto triedy (~20-28 tok/s v jednom prúde na 2x 5090, publikovaná referencia)
- Hermes 3 70B / Tulu 3 70B Q4 — otvorené deriváty Llama s post-tréningom
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16; Mixtral 8x7B bf16
- Gemma 3 27B multimodálny bf16 + rezerva na uvažovanie
- Phi-4 14B bf16; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — zmestí sa tesne pri krátkom kontexte)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB tesne); Gemma 3 27B multimodálny bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Generovanie obrázkov
Rýchlosť stojí na natívnom fp8 v 5090 — FLUX.1 / SD 3.5 / HunyuanImage bežia citeľne rýchlejšie než na Ade: FLUX.1 [dev] / [schnell] natívne fp8 (~12 GB) s 2x paralelným behom naprieč kartami (~8-12 sekúnd na obrázok 1024x1024 na Blackwell, publikovaná referencia); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16 alebo 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB); HunyuanImage-3.0 NF4; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB celkovo) — dvojexpertný MoE v plnej presnosti; Wan 2.2 TI2V-5B bf16 na kartu, 2 paralelní nájomníci; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 tesne; HunyuanVideo 1.5 (8.3B) bf16 na kartu; Open-Sora 2.0 (11B) bf16; CogVideoX-5B / 1.5 bf16; Mochi-1 bf16 (~42 GB sa zmestí); LTX-Video 2B; NVIDIA Cosmos Predict 2.
Audio / reč / TTS
Rovnaký kompletný čínsky aj západný rečový stack ako v triede 4090 sa zmestí s väčšou rezervou: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Na 5090 s natívnym fp8 dekódujú Whisper a Parakeet s citeľne vyšším faktorom reálneho času. Whisper v3 turbo beží na Blackwelli ~75x rýchlejšie než v reálnom čase (publikovaná referencia).
Viac modelov / viac nájomníkov
- Rezidentný stack: Llama 3.3 70B Q4 (~43 GB tenzorovo paralelne dvojcestne) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2-4 súbežní nájomníci na triede 32B v Q6-Q8 na kartu
- LoRA / QLoRA doladenie modelov 7-14B pohodlne, 24-32B tesne
Cieľové workloady
- Vývojársky workstation pre malý tím s rezervou na obsluhu 70B Q4
- Krok na Blackwell zo zostavy s 2x RTX 4090 — rovnaké šasi, ~2.5x TOPS, natívne fp8
- Workstation na generovanie obrázkov a videa so zrýchlením FLUX v natívnom fp8
- Zostava pre viac modelov naraz: 70B Q4 + FLUX + Whisper + Moshi súčasne rezidentne
- Inferenčný endpoint pre 4-8 súbežných používateľov na LLM triedy 32B
Publikované výkonnostné referencie
Publikovaná referencia | porovnateľný hardvér s 2x RTX 5090
| Benchmark | Výsledok |
|---|---|
| Llama 3.3 70B Q4_K_M dekódovanie v llama.cpp | ~20-28 tok/s v jednom prúde |
| Qwen3-32B Q8 vLLM v jednom prúde | ~45-60 tok/s dekódovania pri fp8 |
| FLUX.1 [dev] natívne fp8 Blackwell | ~1.5-1.9 s na obrázok 1024x1024 pri 20 krokoch |
| HunyuanVideo 13B Q5 TP-2 | 5 s v 720p za ~5-7 min |
Publikované hodnoty, nemerané na hardvéri Kentino. Referencia nameraná Kentinom na 4x RTX 4090: 647 TFLOPS fp16, 179 tok/s agregovane pri dávke 32.
Nevhodné na
- husté modely nad 100B v bf16 (DeepSeek-V3, Kimi K2, Mistral Large 3 — potrebujú zásobu 256+ GB)
- špičkové generovanie videa v bf16 v dlhej stopáži a plnom rozlíšení
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOS-u, inštaláciu ovládačov, záťažové testovanie a funkčnú kontrolu. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade systémového disku na 2 TB NVMe — alebo 4 TB
- Upgrade RAM na 256 GB (4x 64 GB) — rezerva na KV cache MoE / súbežná obsluha viacerých modelov
- Rackové PDU (C13/C19 s meraním) a 3 kVA online UPS
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.