Kentino AI 256 TurinDual 5090 — 8× RTX 5090 Zen5c flagship
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 256 TurinDual 5090 13408TOPS
Vlajkový inferenční server s 256 GB VRAM
8x RTX 5090 | Dual EPYC Turin | 13 408 TOPS INT8
Cena CPU se finalizuje při objednávce — trh s řadou Turin 9005 se v Q2 2026 hýbe každý týden.
Publikované externí reference. Neměřeno na hardwaru Kentino.
Vlajkový inferenční server do racku ve formátu 7U s osmi kartami GeForce RTX 5090 (32 GB GDDR7, Blackwell, nativní fp8) na dvousocketové platformě EPYC Turin (Zen5c, SP5), se 768 GB DDR5-4800 ECC osazenými ve všech 12 kanálech, 2TB NVMe pro systém a pěti serverovými zdroji 1200 W. PCIe Gen5 end-to-end až ke GPU díky aktivním riserům s retimerem/redriverem. Bez dalšího ladění zvládne vLLM, SGLang, llama.cpp, ComfyUI i všechny hlavní inferenční stacky pro otevřené modely.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, nativní fp8, 1676 INT8 TOPS na kartu) |
| VRAM pool | 256 GB souhrnně napříč 8 kartami (konzumní RTX 5090 nemá NVLink) |
| CPU | 2x AMD EPYC Turin řady 9005 (Zen5c, SP5, PCIe 5.0) — cena se potvrzuje při objednávce |
| Základní deska | ASRock Rack TURIN2D24XGM/500W (dual SP5, PCIe 5.0, 24x DDR5 DIMM) |
| Systémová paměť | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — osazeno všech 12 kanálů; zbývá 12 slotů pro rozšíření na 1,5 TB) |
| Systémový disk / úložiště | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Sada 5x serverový zdroj 1200 W (kompatibilní s HP, celkem 6 kW) |
| Šasi | 7U pro 8 GPU (až 10 PCIe slotů, oddělené pozice pro zdroje) |
| Chlazení | 2x věžový chladič SP5 + proudění vzduchu zepředu dozadu v racku (průmyslové ventilátory) |
| Risery | 8x aktivní PCIe Gen5 x16 (retimer/redriver) — Gen5 end-to-end |
| Síť | Integrovaný 10 GbE (podle desky) |
Energetická bilance
- Odběr GPU: 8 x 575 W = 4 600 W
- Celek systému při plné zátěži: ~5 520 W
- Celkový výkon zdrojů: 6 000 W (5x 1200 W) — 8% rezerva ve specifikaci
- Kentino dodává s power-capem GPU na 500 W — celek klesá na ~4 920 W (~15% rezerva)
Topologie linek
Dvojice Turin poskytuje na straně hostitele 2x 128 = 256 linek PCIe Gen5. Aktivní Gen5 risery vedou ke každému GPU Gen5 x16 end-to-end — PCIe switch není potřeba (jedno CPU na čtveřici karet). Bez NVLinku; P2P mezi GPU po Gen5 x16 (~60 GB/s nominálně na linku).
Co na něm můžete provozovat
Se 256 GB sdružené VRAM na osmi kartách Blackwell s nativním fp8 cílí tento server na špičkové MoE modely 235-480B v Q4 s reálným kontextem, rodinu DeepSeek V3 v Q2 a Kimi-K2 v 1,58bitové dynamické kvantizaci při použitelné propustnosti.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3-235B-A22B (Instruct / Thinking / „2507") Q4 (~132 GB) s dlouhým kontextem a dávkováním více uživatelů (~25-40 tok/s v jednom streamu na 8x RTX 5090, publikovaná reference)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — vlajkové uvažování a kódování, 200k kontext od verze 4.6
- GLM-5 / GLM-5.1 Q2 (~260 GB) s malým přetečením do RAM — špičkové kódování blízké Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) při použitelné rychlosti inference (~28 tok/s v jednom streamu na 8x Blackwell, publikovaná reference)
- Kimi-K2 1,58bit UD-TQ1_0 (~240 GB) — agent s bilionem parametrů při reálné propustnosti (~7-10 tok/s v jednom streamu, publikovaná reference)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, těsné s přetečením do RAM) — SOTA vlajková loď otevřeného kódování
- MiniMax-M1 / Text-01 Q4 (~260 GB) s kontextem 1M; Qwen3.5-397B-A17B Q4 (~214 GB)
Západní špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB s přetečením) — západní špička otevřených vah
- Llama 4 Maverick (400B/17B, 128 expertů) Q4 (~232 GB), multimodální
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — vyrovná se DeepSeek-R1 při poloviční velikosti
- gpt-oss-120b nativně MXFP4 (80 GB) pohodlně a s místem pro další modely
- Devstral 2 123B (Modified MIT) Q6 — špička otevřeného kódování, 256k kontext
- Llama 3.3 70B bf16 (~142 GB) pro multi-tenant provoz (~30-40 tok/s v jednom streamu na dvojici RTX 5090 v TP2, publikovaná reference)
Vision-language modely
Qwen3-VL-235B-A22B v plném bf16 (~240 GB na kartách); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, těsné); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V v plné verzi. Cesta přes fp8 na Blackwellu dává u inference vision věží zhruba dvojnásobnou propustnost oproti Ada.
Generování obrázků
FLUX.1 [dev] / Kontext / Tools v plném bf16 (~10-18 s na obrázek při fp8 na kartu, publikovaná reference); SD 3.5 Large; HunyuanImage-2.1 (17B, nativní 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; ComfyUI farmy s více workery.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B, dva experti v bf16 (high-noise i low-noise současně v paměti); HunyuanVideo 13B bf16 s oběma experty; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / řeč / TTS
- ASR: Whisper v3 large / turbo (~50x rychleji než reálný čas); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / SFX: MusicGen; AudioGen; Bark; SeamlessM4T v2
Provoz více modelů a více tenantů
- Brána pro špičkovou inferenci — MoE nad 200B + současně 70B + obrázky + video, vše rezidentně v paměti
- Osmicestný tensor-parallel pro Kimi-K2 / DeepSeek V3 s reálným kontextem
- Multi-tenant LLM API — 50-100 souběžných uživatelů na 235B Q4 přes vLLM/SGLang
- Čínská i západní špička současně v paměti pro evaluaci a benchmarking
Cílové workloady
- Inferenční backend pro špičkové otevřené modely v organizaci se 100-500 uživateli, kombinace Qwen3-235B, GLM-4.5+ a DeepSeek V3 Q2
- Agentní platforma na Kimi-K2 v 1,58 bitu v produkční propustnosti (volání nástrojů, 200+ sekvenčních volání)
- Plný fp8 provoz DeepSeek V3 / R1 na křemíku Blackwell
- Řídicí uzel pro trénink napříč více stroji s fabric Gen5 100 GbE / InfiniBand
- Dvojrole inference + difuzní farma (Qwen3-235B + FLUX.1 + HunyuanVideo 13B současně)
Publikované výkonnostní reference
Externí reference | Neměřeno na hardwaru Kentino
| Benchmark | Výsledek |
|---|---|
| RTX 5090 — INT8 TOPS na kartu | 1 676 TOPS |
| RTX 5090 — propustnost paměti | ~1 800 GB/s na kartu |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (jeden stream) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (batch-32) | ~450 tok/s celkem |
| SGLang — DeepSeek V3 Q2 na 8x Blackwell (jeden stream) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 na 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino zveřejní vlastní naměřené tok/s po první zákaznické sestavě s finálním SKU Turin.
Pro co se nehodí
- Nasazení s napjatým rozpočtem (Turin je dražší než alternativy Genoa nebo Rome)
- Jednotenantní provoz hustých 70B modelů (zbytečně mnoho — správná třída je 4x RTX 5090 nebo 4x RTX Pro 6000)
- Špičkové modely nad 600B v Q4+ s plným kontextem (vyžadují pool 576 GB a více — viz 6x RTX Pro 6000)
- Dlouhodobý trénink od nuly (konzumní RTX 5090 nemá NVLink)
Záruka a dodací lhůta
Sestava zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžové testování a funkční ověření. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- Rozšíření RAM na 1,5 TB DDR5 (plné osazení 24x 64 GB) — nutné pro Kimi-K2 Q4 nebo DeepSeek V3 Q3 bez přetečení do RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — Gen5 fabric pro uzly clusteru
- Mellanox ConnectX-6 25 GbE SFP28 pro datacentrovou síť
- 4TB NVMe Gen4 x4 pro systém a knihovnu modelů
- Kompletní rackový rozvaděč 24U s řízeným PDU
- Online UPS 8-10 kVA (zásadní — špičkový odběr 5,5 kW)
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.