Kentino AI 64 Rome 5090 3352TOPS — vstupní AI server Blackwell se 2x RTX 5090
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 64 Rome 5090 3352TOPS
Vstupní 2GPU server Blackwell
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Vstupní 2GPU server Blackwell — 64 GB sdílené VRAM, 3 352 TOPS INT8, nativní fp8. Krok z Ady na Blackwell oproti 2x4090.
Dvougrafický AI server Blackwell postavený na ROMED8-2T / EPYC Milan. Dvě RTX 5090 dávají 64 GB sdílené VRAM s nativní tensorovou matematikou fp8 — zhruba dvojnásobek hrubých TOPS oproti 2x RTX 4090 ve stejné skříni a první dvougrafická třída, která pohodlně utáhne Llama 3.3 70B Q4, Qwen3.5-122B-A10B Q4 i HunyuanVideo v bf16 / fp8 s rezervou.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| Sdílená VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 lanes) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Systémový disk / úložiště | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden zdroj ATX 2 kW |
| Skříň | 4U do racku, pasivní risery Gen4 x16 |
| Chlazení | Tower chladič SP3, 3x 120 mm přední sání + 1x 120 mm zadní výfuk (průmyslové ventilátory) |
| Síť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilance
- Odběr GPU: 2 x 575 W = 1 150 W
- Celek systému při plné zátěži: ~1 475 W
- Zdroj celkem: 2 000 W (jeden ATX 2 kW) — rezerva 26.25 %
- Použitelná rezerva u jednoho zdroje; pro větší rezervu je dostupný upgrade na dva zdroje
Topologie linek
ROMED8-2T rozvádí 2x16 Gen4 přímo z root complexu CPU. 5090 je křemík Gen5 běžící na Gen4 x16 bez ztráty propustnosti pro inferenci. Žádný PCIe switch. GeForce 5090 nemá NVLink — dvoucestný tensor-paralelní P2P jede po PCIe.
Co na něm rozběhnete
Se 64 GB sdílené GDDR7 VRAM na dvou kartách Blackwell zvládne tento server tensor-paralelní 70B Q4, vlajkové MoE modely, nativní fp8 generování obrázků, video AI i souběžnou obsluhu více modelů.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3-32B Q8 / bf16 (kvalita blízká fp16) (~40-55 tok/s jednoproudově na Blackwell fp8, publikovaná reference)
- QwQ-32B bf16; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB se vejde)
- Qwen3.5-122B-A10B Q4 (~70-75 GB s přetečením do RAM) — vlajkový MoE model se v Q4 vejde
- Hunyuan-A13B fp8 (~80 GB natěsno) nebo Q6 (~36 GB pohodlně)
- Seed-OSS-36B bf16 (~72 GB natěsno — raději fp8 ~36 GB)
- DeepSeek-R2 32B řídký MoE bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE s rezervou
- ERNIE-4.5-47B-A3B Q6-Q8
Západní špička
- Llama 3.3 70B Q4_K_M (~43 GB) — hlavní workload této třídy (~20-28 tok/s jednoproudově na 2x 5090, publikovaná reference)
- Hermes 3 70B / Tulu 3 70B Q4 — otevřené post-trénované deriváty Llamy
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16; Mixtral 8x7B bf16
- Gemma 3 27B multimodální bf16 + rezerva na uvažování
- Phi-4 14B bf16; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — vejde se natěsno s krátkým kontextem)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB natěsno); Gemma 3 27B multimodální bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Generování obrázků
Nativní fp8 na 5090 je celý příběh rychlosti — FLUX.1 / SD 3.5 / HunyuanImage běží výrazně rychleji než na Adě: FLUX.1 [dev] / [schnell] nativní fp8 (~12 GB) s 2x paralelním během přes obě karty (~8-12 sekund na obrázek 1024x1024 na Blackwellu, publikovaná reference); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16 nebo 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB); HunyuanImage-3.0 NF4; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB celkem) — dvouexpertní MoE v plné přesnosti; Wan 2.2 TI2V-5B bf16 na kartu, 2 paralelní nájemci; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 natěsno; HunyuanVideo 1.5 (8.3B) bf16 na kartu; Open-Sora 2.0 (11B) bf16; CogVideoX-5B / 1.5 bf16; Mochi-1 bf16 (~42 GB se vejde); LTX-Video 2B; NVIDIA Cosmos Predict 2.
Audio / řeč / TTS
Stejný kompletní čínský i západní řečový stack jako ve třídě 4090 se vejde s větší rezervou: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Na 5090 s nativním fp8 dekóduje Whisper / Parakeet s výrazně vyšším reálným faktorem. Whisper v3 turbo běží na Blackwellu ~75x rychleji než v reálném čase (publikovaná reference).
Více modelů / více nájemců
- Rezidentní stack: Llama 3.3 70B Q4 (~43 GB, dvoucestně tensor-paralelně) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2-4 souběžní nájemci ve třídě 32B v Q6-Q8 na kartu
- Doladění LoRA / QLoRA pro 7-14B pohodlně, 24-32B natěsno
Cílové workloady
- Vývojářský workstation pro malý tým s rezervou na obsluhu 70B Q4
- Krok na Blackwell ze skříně s 2x RTX 4090 — stejná skříň, ~2.5x TOPS, nativní fp8
- Workstation pro generování obrázků a videa se zrychlením FLUX v nativním fp8
- Skříň pro souběh více modelů: 70B Q4 + FLUX + Whisper + Moshi rezidentně naráz
- Inferenční endpoint pro 4-8 souběžných uživatelů s LLM třídy 32B
Publikované reference výkonu
Publikovaná reference | srovnatelný hardware 2x RTX 5090
| Benchmark | Výsledek |
|---|---|
| Llama 3.3 70B Q4_K_M, dekódování v llama.cpp | ~20-28 tok/s jednoproudově |
| Qwen3-32B Q8 vLLM jednoproudově | ~45-60 tok/s dekódování v fp8 |
| FLUX.1 [dev] nativní fp8 na Blackwellu | ~1.5-1.9 s na 1024x1024 při 20 krocích |
| HunyuanVideo 13B Q5 TP-2 | 5 s v 720p za ~5-7 min |
Publikované hodnoty, neměřeno na hardwaru Kentino. Vlastní měřená reference Kentino na 4x RTX 4090: 647 TFLOPS fp16, 179 tok/s souhrnně při batch-32.
Nevhodné pro
- Husté modely 100B+ v bf16 (DeepSeek-V3, Kimi K2, Mistral Large 3 — potřebují 256+ GB)
- Špičkové generování videa v bf16 v plném rozlišení a dlouhé stopáži
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžové testy a ověření funkčnosti. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Navýšení systémového disku na 2 TB NVMe — nebo 4 TB
- Navýšení RAM na 256 GB (4x 64 GB) — rezerva pro KV cache u MoE / souběžná obsluha více modelů
- Rackové PDU (C13/C19 s měřením) a online UPS 3 kVA
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.