Kentino AI 64 Rome 5080 3600TOPS — 4x RTX 5080 cenovo dostupný AI server
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 64 Rome 5080 3600TOPS
Cenovo dostupný 4-GPU Blackwell server
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
Cenovo dostupný 4-GPU Blackwell server od Kentino — pool VRAM 64 GB, 3 600 TOPS INT8 v súčte, najnižšia cena CZK na TOPS v celej ponuke.
4-GPU Blackwell inferenčný server postavený okolo RTX 5080 — 360 W na kartu, kremík PCIe 5, 16 GB GDDR7 na každej. Štyri karty poskytujú spoločný priestor VRAM 64 GB a 3 600 INT8 TOPS v súčte pri najlepšej cene CZK na TOPS, akú Kentino ponúka. Vstupná brána do multi-GPU inferencie na Blackwell: ideálny pre embedding klastre, prevádzku modelov 7-13B vo veľkom, dávkové generovanie obrázkov a videa a 70B Q4 v režime tensor-parallel.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| pool VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 lanes) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Boot / úložisko | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden 2 kW ATX zdroj |
| Šasi | 4U do racku, 4x GPU, pasívne Gen4 x16 risery, usmernené prúdenie vzduchu spredu dozadu |
| Chladenie | Tower chladič SP3, 3x 120 mm predný prívod + 1x 120 mm zadný odvod (priemyselné ventilátory) |
| Sieť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilancia
- Odber GPU: 4 x 360 W = 1 440 W
- Systém celkom pri plnom zaťažení: ~1 765 W
- Zdroj celkom: 2 000 W (jeden 2 kW ATX) — rezerva 11.75 %
- Nad hranicou 10 %, ale tesnejšie než pri iných 4-GPU zostavách; pri vysokom vyťažení odporúčame upgrade na dvojicu zdrojov
Topológia liniek
ROMED8-2T rozvádza 4x16 Gen4 priamo z root complexu CPU. 5080 je kremík PCIe Gen5, ktorý beží na Gen4 x16 bez obmedzenia priepustnosti pri inferencii. Žiadny PCIe switch. Žiadny NVLink — tensor parallel cez PCIe.
Čo na ňom spustíte
So 64 GB spoločnej VRAM naprieč 4 kartami Blackwell tento server zvládne 70B Q4 v režime tensor-parallel, embedding klastre vo veľkom, dávkové obrazové aj video pipeline a multi-tenant prevádzku modelov 7-13B pre 64-128 súbežných používateľov.
LLM — text / uvažovanie / kódovanie
Čínska špička
- Qwen3-32B Q8 (dense v kvalite takmer fp16); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, tesné)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — tesné, prelieva sa do DDR4 RAM)
- Hunyuan-A13B fp8 (~80 GB natívne — tesné, radšej Q6)
- Seed-OSS-36B bf16 (~72 GB, tesné)
- DeepSeek-R2 32B sparse MoE bf16 (~64 GB) (~45-60 tok/s single-stream pri Q4 na Blackwell, publikovaná referencia)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — tesná rezerva pre KV cache
- ERNIE-4.5-47B-A3B Q4 (~28 GB s rezervou na druhý model)
Západná špička
- Llama 3.3 70B Q4_K_M (~43 GB) — ideálna voľba pre tento pool (~30-36 tok/s single-stream na 4x 5080, publikovaná referencia)
- Hermes 3 70B / Tulu 3 70B Q4 — otvorené deriváty Llama s plnou transparentnosťou post-trainingu
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodálny
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 inštancie na 4 kartách pre paralelných tenantov); gpt-oss-120b MXFP4 (80 GB — tesné; prelievanie zvládnuteľné)
Vizuálno-jazykové modely
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, tesné); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodálny bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Generovanie obrázkov
FLUX.1 [dev] / [schnell] fp16 — batch-4 paralelne (~10-15 sekúnd na obrázok 1024x1024 pri fp8 na Blackwell, publikovaná referencia); FLUX.1 Kontext [dev] — in-context editácia naprieč 4 tenantmi; SD 3.5 Large (18 GB fp16) — 4 paralelné generátory; stacky SDXL 1.0 + ControlNet + AnimateDiff x 4; HunyuanImage-2.1 bf16 na kartu; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Generovanie videa
Wan 2.2 TI2V-5B bf16 na jednej karte — 4 paralelní tenanti; Wan 2.1 14B T2V/I2V Q4-Q6 na kartu; HunyuanVideo 13B Q4 (~30 GB) tensor-parallel na 2 karty; HunyuanVideo 1.5 (8.3B) bf16 na kartu; Open-Sora 2.0 (11B) Q8 na kartu — 4 paralelné generovania; CogVideoX-5B int8; Mochi-1 Q4 na kartu.
Audio / reč / TTS
Celý západný aj čínsky audio stack sa zmestí na jednu kartu: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. So 4 kartami môže každá karta hostiť vlastného rečového tenanta. Whisper v3 turbo beží na jednej karte ~50x rýchlejšie než v reálnom čase (publikovaná referencia).
Multi-model / multi-tenant
Cieľové nasadenie. 16 GB na kartu sa vyplatí pri rozdelených workloadoch:
- Embedding klaster: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 tenanti pri vysokom RPS
- Prevádzka modelov 7-13B vo veľkom: 16-32 súbežných používateľov na kartu cez vLLM / SGLang; 64-128 súbežne celkovo
- Zmiešaná pipeline: Karta 1 = Qwen3-14B + reranker; karta 2 = Whisper + Moshi; karta 3 = FLUX.1; karta 4 = Wan 2.2 TI2V
- 4-cestný tensor-parallel pre 70B Q4 — Llama 3.3 70B AWQ INT4 naprieč 4 kartami, ~90-130 tok/s v dávkovom súčte (extrapolované z benchmarku gf-logic na 4x4090)
Cieľové workloady
- Cenovo dostupná multi-GPU AI platforma pre startup alebo laboratórium s obmedzeným rozpočtom
- Infraštruktúra pre embedding + RAG so 4-cestným horizontálnym škálovaním
- Dávková farma na generovanie obrázkov a videa (Stable Diffusion / FLUX / Wan 2.2)
- Prevádzka menších modelov 7-13B vo veľkom — 4 nezávislí tenanti alebo 64-128 súbežne v poole
- Vývojový staging stroj pre workflow 70B Q4 v režime tensor-parallel
Publikované referenčné výkony
Namerané spoločnosťou Kentino (referencia 4x4090) + publikované odhady pre 5080
| Benchmark | Výsledok |
|---|---|
| Referencia 4x4090: trvalý fp16 | 647 TFLOPS |
| Referencia 4x4090: vLLM Llama 3.3 70B AWQ (batch-32) | 179.3 tok/s v súčte |
| Referencia 4x4090: llama.cpp 70B Q4_K_M (jeden stream) | 20.3 tok/s dekódovanie |
| Odhad 5080: Llama 3.3 70B Q4 TP-4 jeden stream | ~15-20 tok/s |
| Odhad 5080: FLUX.1 fp8 na kartu | ~2.2-2.8 s na 1024x1024 pri 20 krokoch |
Tenzorová priepustnosť 5080 je ~1.35x oproti 4090 na INT8 TOPS; dekódovanie v jednom streame je limitované priepustnosťou pamäte (GDDR7 ~960 GB/s vs 4090 ~1 008 GB/s — zhruba rovnako).
Menej vhodné pre
- 70B dense pri Q6+ (16 GB na kartu obmedzuje stopu na jednej karte; pool 64 GB je pre Q6 tesný)
- MoE vlajkové lode s dlhým kontextom (Qwen3-235B, GLM-4.5) — nedostatok VRAM aj pri Q2
- Úlohy citlivé na latenciu v jednom streame pri veľmi veľkých modeloch (réžia TP ukrajuje z 16 GB kariet)
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOS, inštaláciu ovládačov, záťažové testovanie a overenie funkčnosti. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- Upgrade zdroja na dvojicu zosynchronizovaných 2 kW ATX — zvýši rezervu na 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade systémového disku na 4 TB NVMe
- Upgrade RAM na 384 GB (6x 64 GB) — lepšia rezerva pri súbežnej prevádzke viacerých modelov
- Rack PDU (C13/C19 s meraním) a 3 kVA online UPS
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.