Kentino AI 256 TurinDual 5090 — vlajkových 8× RTX 5090, dvojpätkový Zen5c
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 256 TurinDual 5090 13408TOPS
Vlajkový inference server s 256 GB VRAM
8x RTX 5090 | dva EPYC Turin | 13 408 TOPS INT8
Cena CPU sa finalizuje pri objednávke — trh so sériou Turin 9005 sa v Q2 2026 mení týždenne.
Publikované externé referencie. Nemerané na hardvéri Kentino.
Vlajkový 7U rackový inference server s ôsmimi kartami GeForce RTX 5090 (32 GB GDDR7, Blackwell, natívne fp8) na dvojpätkovej platforme EPYC Turin (Zen5c, SP5) so 768 GB DDR5-4800 ECC vo všetkých 12 kanáloch, 2 TB NVMe pre systém a piatimi serverovými zdrojmi 1200 W. PCIe Gen5 po celej trase až ku GPU vďaka aktívnym riserom s retimerom/redriverom. Bez ďalších úprav zvládne vLLM, SGLang, llama.cpp, ComfyUI a všetky hlavné inference stacky pre modely s otvorenými váhami.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, natívne fp8, 1676 INT8 TOPS/karta) |
| spoločná VRAM | 256 GB v súčte na 8 kartách (spotrebiteľská RTX 5090 nemá NVLink) |
| CPU | 2x AMD EPYC Turin série 9005 (Zen5c, SP5, PCIe 5.0) — cena sa potvrdí pri objednávke |
| Základná doska | ASRock Rack TURIN2D24XGM/500W (dve pätice SP5, PCIe 5.0, 24x DDR5 DIMM) |
| Systémová RAM | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — osadených všetkých 12 kanálov; 12 slotov zostáva voľných pre rozšírenie na 1.5 TB) |
| Systémový disk / úložisko | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Sada 5x serverový zdroj 1200 W (kompatibilné s HP, 6 kW v súčte) |
| Šasi | 7U pre 8 GPU (až 10 PCIe slotov, samostatné pozície pre zdroje) |
| Chladenie | 2x vežový chladič SP5 + rackové prúdenie spredu dozadu (priemyselné ventilátory) |
| Risery | 8x aktívny PCIe Gen5 x16 (retimer/redriver) — Gen5 po celej trase |
| Sieť | Integrované 10 GbE (podľa dosky) |
Energetická bilancia
- Odber GPU: 8 x 575 W = 4 600 W
- Celý systém pri plnej záťaži: ~5 520 W
- Zdroje spolu: 6 000 W (5x 1200 W) — 8 % rezerva pri špecifikácii
- Kentino dodáva server s limitom príkonu GPU na 500 W — celok klesne na ~4 920 W (~15 % rezerva)
Topológia liniek
Dvojica Turin poskytuje na strane hostiteľa 2x 128 = 256 liniek PCIe Gen5. Aktívne risery Gen5 vedú Gen5 x16 po celej trase ku každému GPU — nie je potrebný PCIe prepínač (jeden CPU na štvoricu kariet). Bez NVLink; P2P medzi GPU cez Gen5 x16 (~60 GB/s nominálne na linku).
Čo na ňom spustíte
So 256 GB spoločnej VRAM na ôsmich kartách Blackwell s natívnym fp8 cieli tento server na špičkové MoE modely 235-480B v Q4 so skutočným kontextom, na rodinu DeepSeek V3 v Q2 a na Kimi-K2 v 1.58-bitovej dynamickej kvantizácii pri reálnej priepustnosti.
LLM — text / uvažovanie / programovanie
Čínska špička
- Qwen3-235B-A22B (Instruct / Thinking / „2507“) Q4 (~132 GB) s dlhým kontextom + dávkovaním pre viac používateľov (~25-40 tok/s single-stream na 8x RTX 5090, publikovaná referencia)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — vlajkové uvažovanie a programovanie, 200k ctx na 4.6+
- GLM-5 / GLM-5.1 Q2 (~260 GB) s miernym pretečením do RAM — špičkové programovanie blízko Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) pri použiteľnej rýchlosti inferencie (~28 tok/s single-stream na 8x Blackwell, publikovaná referencia)
- Kimi-K2 1.58-bitový UD-TQ1_0 (~240 GB) — agent s biliónom parametrov pri reálnej priepustnosti tokenov (~7-10 tok/s single-stream, publikovaná referencia)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB tesne, s pretečením do RAM) — špičkový otvorený model na programovanie
- MiniMax-M1 / Text-01 Q4 (~260 GB) kontext 1M; Qwen3.5-397B-A17B Q4 (~214 GB)
Západná špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB s pretečením) — západné špičkové otvorené váhy
- Llama 4 Maverick (400B/17B, 128 expertov) Q4 (~232 GB) multimodálny
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — vyrovná sa DeepSeek-R1 pri polovičnej veľkosti
- gpt-oss-120b natívny MXFP4 (80 GB) pohodlne a s miestom pre viacero modelov
- Devstral 2 123B (Modified MIT) Q6 — špička v otvorenom programovaní, 256k ctx
- Llama 3.3 70B bf16 (~142 GB) obsluha viacerých nájomníkov (~30-40 tok/s single-stream na dvojicu RTX 5090 v TP2, publikovaná referencia)
Vizuálno-jazykové modely
Qwen3-VL-235B-A22B plný bf16 (~240 GB na kartách); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB tesne); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V v plnej verzii. Cesta fp8 na Blackwelli dáva pri inferencii vizuálnej vetvy ~2x vyššiu priepustnosť než Ada.
Generovanie obrázkov
FLUX.1 [dev] / Kontext / Tools plný bf16 (~10-18 s/obrázok vo fp8 na kartu, publikovaná referencia); SD 3.5 Large; HunyuanImage-2.1 (17B, natívne 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; viacprocesové farmy ComfyUI.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B s dvoma expertmi v bf16 (high-noise aj low-noise naraz v pamäti); HunyuanVideo 13B bf16 s oboma expertmi; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / reč / TTS
- ASR: Whisper v3 large / turbo (~50x rýchlejšie než reálny čas); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen; AudioGen; Bark; SeamlessM4T v2
Obsluha viacerých modelov a nájomníkov
- Brána pre špičkovú inferenciu — MoE 200B+ plus súbežne 70B, obrázky aj video, všetko v pamäti
- Osemcestný tensor-parallel pre Kimi-K2 / DeepSeek V3 pri skutočnom kontexte
- LLM API pre viacerých nájomníkov — 50-100 súbežných používateľov na 235B Q4 cez vLLM/SGLang
- Súbežné držanie čínskej aj západnej špičky v pamäti na vyhodnocovanie a benchmarking
Cieľové workloady
- Backend pre špičkovú inferenciu s otvorenými váhami pre organizáciu so 100-500 používateľmi, kombinujúci Qwen3-235B, GLM-4.5+ a DeepSeek V3 Q2
- Agentná platforma Kimi-K2 v 1.58 bitoch pri produkčnej priepustnosti (práca s nástrojmi, 200+ sekvenčných volaní)
- Obsluha DeepSeek V3 / R1 v plnom fp8 na čipoch Blackwell
- Tréningová hlava pre viac uzlov s fabric Gen5 100 GbE / InfiniBand
- Dvojrola: inferencia + difúzna farma (Qwen3-235B + FLUX.1 + HunyuanVideo 13B súbežne)
Publikované výkonnostné referencie
Externé referencie | Nemerané na hardvéri Kentino
| Benchmark | Výsledok |
|---|---|
| INT8 TOPS na kartu RTX 5090 | 1 676 TOPS |
| Pamäťová priepustnosť RTX 5090 | ~1 800 GB/s na kartu |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (jeden stream) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (dávka 32) | ~450 tok/s v súčte |
| SGLang — DeepSeek V3 Q2 na 8x Blackwell (jeden stream) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 na 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino zverejní vlastné namerané tok/s po prvej zákazníckej zostave s finálnym SKU Turin.
Nie je ideálny pre
- Nasadenia s dôrazom na rozpočet (prirážka za Turin oproti alternatívam Genoa alebo Rome)
- Husté workloady 70B pre jedného nájomníka (zbytočne veľa — správnou triedou je 4x RTX 5090 alebo 4x RTX Pro 6000)
- Špičkové modely 600B+ v Q4+ s plným kontextom (vyžadujú spoločnú pamäť 576 GB+ — pozri 6x RTX Pro 6000)
- Dlhodobý tréning od nuly (spotrebiteľská RTX 5090 nemá NVLink)
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOSu, inštaláciu ovládačov, záťažové testovanie a funkčnú kontrolu. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- Rozšírenie RAM na 1.5 TB DDR5 (24x 64 GB, plné osadenie) — nutné pre Kimi-K2 Q4 alebo DeepSeek V3 Q3 bez pretečenia do RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — fabric Gen5 pre uzly klastra
- Mellanox ConnectX-6 25 GbE SFP28 pre fabric dátového centra
- 4 TB NVMe Gen4 x4 pre systém a knižnicu modelov
- Kompletný 24U rack so spravovanou PDU
- Online UPS 8-10 kVA (kritické — špičkový odber 5.5 kW)
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.