Kentino AI 64 Rome 5080 3600TOPS — 4x RTX 5080 cenově dostupný AI server
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 64 Rome 5080 3600TOPS
Cenově dostupný 4GPU server Blackwell
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
Cenově dostupný 4GPU server Blackwell od Kentina — 64 GB VRAM pool, 3 600 TOPS INT8 v součtu, nejnižší cena za TOPS v celé nabídce.
Inferenční server se čtyřmi GPU Blackwell postavený na RTX 5080 — 360 W na kartu, křemík PCIe 5, 16 GB GDDR7 na každé. Čtyři karty dávají sdružený VRAM pool 64 GB a 3 600 TOPS INT8 v součtu, a to za nejlepší cenu za TOPS, jakou Kentino nabízí. Vstupenka do multi-GPU inference na Blackwellu: ideální pro embedding clustery, provoz modelů 7-13B ve velkém, dávkovou generaci obrázků a videa a 70B Q4 v tensor-parallel režimu.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| VRAM pool | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linek PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Boot / úložiště | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden zdroj ATX 2 kW |
| Skříň | 4U do racku, 4x GPU, pasivní riser Gen4 x16, řízené proudění vzduchu zepředu dozadu |
| Chlazení | Tower chladič SP3, 3x 120 mm přední sání + 1x 120 mm zadní výfuk (průmyslové ventilátory) |
| Síť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilance
- Odběr GPU: 4 x 360 W = 1 440 W
- Systém celkem při plné zátěži: ~1 765 W
- Zdroj celkem: 2 000 W (jeden ATX 2 kW) — rezerva 11.75 %
- Nad 10% minimem, ale těsněji než u jiných 4GPU sestav; pro vysoce vytížené workloady doporučujeme upgrade na dvojici zdrojů
Topologie linek
ROMED8-2T vyvádí 4x16 Gen4 přímo z root complexu CPU. 5080 je křemík PCIe Gen5 provozovaný na Gen4 x16 bez omezení propustnosti pro inferenci. Žádný PCIe switch. Žádný NVLink — tensor parallel jde přes PCIe.
Co na něm poběží
Se 64 GB sdružené VRAM napříč 4 kartami Blackwell zvládne tento server 70B Q4 v tensor-parallel režimu, embedding clustery ve velkém, dávkové řetězce pro obrázky i video a multi-tenant provoz modelů 7-13B pro 64-128 souběžných uživatelů.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3-32B Q8 (dense v kvalitě blízké fp16); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, vejde se těsně)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — těsné, přetéká do DDR4 RAM)
- Hunyuan-A13B fp8 (~80 GB nativně — těsné, lepší Q6)
- Seed-OSS-36B bf16 (~72 GB, těsné)
- DeepSeek-R2 32B sparse MoE bf16 (~64 GB) (~45-60 tok/s v jednom streamu při Q4 na Blackwellu, publikovaná reference)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — těsná rezerva pro KV
- ERNIE-4.5-47B-A3B Q4 (~28 GB s rezervou pro druhý model)
Západní špička
- Llama 3.3 70B Q4_K_M (~43 GB) — ideální bod pro tento pool (~30-36 tok/s v jednom streamu na 4x 5080, publikovaná reference)
- Hermes 3 70B / Tulu 3 70B Q4 — otevřené deriváty Llamy s plně transparentním post-trainingem
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodální
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 instance na 4 kartách pro paralelní tenanty); gpt-oss-120b MXFP4 (80 GB — těsné; přetékání zvládnutelné)
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, těsné); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodální bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Generování obrázků
FLUX.1 [dev] / [schnell] fp16 — paralelně v dávce po 4 (~10-15 sekund na obrázek 1024x1024 při fp8 na Blackwellu, publikovaná reference); FLUX.1 Kontext [dev] — kontextové úpravy pro 4 tenanty; SD 3.5 Large (18 GB fp16) — 4 paralelní generátory; SDXL 1.0 + ControlNet + AnimateDiff stacky x 4; HunyuanImage-2.1 bf16 na kartu; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Generování videa
Wan 2.2 TI2V-5B bf16 na jedné kartě — 4 paralelní tenanti; Wan 2.1 14B T2V/I2V Q4-Q6 na kartu; HunyuanVideo 13B Q4 (~30 GB) tensor-parallel přes 2 karty; HunyuanVideo 1.5 (8.3B) bf16 na kartu; Open-Sora 2.0 (11B) Q8 na kartu — 4 paralelní generování; CogVideoX-5B int8; Mochi-1 Q4 na kartu.
Audio / řeč / TTS
Na každou kartu se vejde kompletní západní i čínský audio stack: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Se 4 kartami může každá karta hostit vlastního řečového tenanta. Whisper v3 turbo běží ~50x rychleji než reálný čas na kartu (publikovaná reference).
Více modelů / více tenantů
Cílové nasazení. 16 GB na kartu se vyplatí u rozdělených workloadů:
- Embedding cluster: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 tenanti při vysokém RPS
- Provoz modelů 7-13B ve velkém: 16-32 souběžných uživatelů na kartu přes vLLM / SGLang; 64-128 souběžně celkem
- Smíšený řetězec: Karta 1 = Qwen3-14B + reranker; karta 2 = Whisper + Moshi; karta 3 = FLUX.1; karta 4 = Wan 2.2 TI2V
- Čtyřcestný tensor-parallel pro 70B Q4 — Llama 3.3 70B AWQ INT4 přes 4 karty, ~90-130 tok/s v dávce celkem (extrapolováno z benchmarku gf-logic na 4x4090)
Cílové workloady
- Cenově dostupná multi-GPU platforma pro AI provoz pro startup nebo laboratoř s omezeným capexem
- Infrastruktura pro embedding a RAG se čtyřnásobným horizontálním škálováním
- Dávková farma na generování obrázků a videa (Stable Diffusion / FLUX / Wan 2.2)
- Provoz malých modelů 7-13B ve velkém — 4 nezávislí tenanti nebo 64-128 souběžných ve sdíleném poolu
- Vývojový a staging stroj pro workflow 70B Q4 v tensor-parallel režimu
Publikované výkonnostní reference
Měřeno Kentinem (reference 4x4090) + publikované odhady pro 5080
| Benchmark | Výsledek |
|---|---|
| Reference 4x4090: dlouhodobě fp16 | 647 TFLOPS |
| Reference 4x4090: vLLM Llama 3.3 70B AWQ (dávka 32) | 179.3 tok/s celkem |
| Reference 4x4090: llama.cpp 70B Q4_K_M (jeden stream) | 20.3 tok/s dekódování |
| Odhad 5080: Llama 3.3 70B Q4 TP-4 jeden stream | ~15-20 tok/s |
| Odhad 5080: FLUX.1 fp8 na kartu | ~2.2-2.8 s na obrázek 1024x1024 při 20 krocích |
Tensorová propustnost 5080 je ~1.35x vyšší než u 4090 v přepočtu na TOPS INT8; dekódování v jednom streamu je limitované propustností paměti (GDDR7 ~960 GB/s vs. 4090 ~1 008 GB/s — zhruba nastejno).
Nevhodné pro
- 70B dense při Q6+ (16 GB na kartu omezuje stopu na kartu; 64GB pool je pro Q6 těsný)
- Vlajkové MoE modely s dlouhým kontextem (Qwen3-235B, GLM-4.5) — nedostatek VRAM i při Q2
- Práci citlivou na latenci v jednom streamu na velmi velkých modelech (režie TP ukrajuje z 16GB karet)
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžový burn-in test a ověření funkčnosti. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- Upgrade na dvojici synchronizovaných zdrojů ATX 2 kW — zvýší rezervu na 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade systémového disku na 4 TB NVMe
- Upgrade RAM na 384 GB (6x 64 GB) — větší rezerva pro souběh více modelů
- Rack PDU (C13/C19 s měřením) a online UPS 3 kVA
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.