Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — špičkový AI server s 8× RTX Pro 6000 Blackwell Max-Q (Dual Turin)
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
Vlajková loď frontier třídy se 768 GB ECC VRAM
8x RTX Pro 6000 Max-Q | Dual EPYC Turin | 16 000 TOPS INT8
Cena CPU se finalizuje při objednávce — trh s řadou Turin 9005 se v Q2 2026 mění týden co týden.
Publikované externí reference. Neměřeno na hardwaru Kentino.
Vrchol řady AI serverů Kentino. 7U rackový inferenční systém frontier třídy s osmi kartami NVIDIA RTX Pro 6000 Blackwell Max-Q s turbodmychadlem, sdruženými do 768 GB ECC VRAM, dvěma procesory AMD EPYC Turin řady 9005 (Zen5c, SP5), 1.5 TB DDR5-4800 ECC (osazeno všech 24 kanálů), 4 TB NVMe pro systém a pěti servery zdroji 1200 W. PCIe Gen5 po celé cestě. DeepSeek V3 nativně ve fp8 (~670 GB) přímo na kartách. Kimi-K2 Q4-Q5. 4 modely frontier třídy současně v paměti.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbodmychadlo, 600 W TDP dle specifikace, PCIe 5.0 x16, 2000 INT8 TOPS na kartu, nativní fp8) |
| Společná VRAM | 768 GB celkem napříč 8 kartami (bez NVLink — P2P přes PCIe Gen5 na ~55-60 GB/s v rámci socketu, mezi sockety přes propojení CPU) |
| CPU | 2x AMD EPYC Turin řady 9005 (Zen5c, SP5, PCIe 5.0) — cena na vyžádání, přesné SKU se potvrzuje při objednávce |
| Základní deska | ASRock Rack TURIN2D24XGM/500W (dva sockety SP5 Turin, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Systémová RAM | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — osazeno všech 24 kanálů, ~920 GB/s souhrnně) |
| Systémový disk / úložiště | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimenzováno na frontier checkpointy |
| Zdroj | Sada 5x serverový zdroj 1200 W (celkem 6 kW) |
| Šasi | 7U rackové pro 8 GPU, kapacita 10 PCIe slotů, aktivní Gen5 risery |
| Chlazení | 2x tower chladič pro SP5 Turin + 8x 120mm ventilátor Martech v šasi. Turbodmychadla jednotlivých GPU jsou samostatná. |
| Síť | Integrované dvojité 10 GbE (Intel X550) |
Energetická bilance
- Odběr GPU (dle specifikace): 8 x 600 W = 4 800 W
- Odběr CPU: 2 x 360 W = 720 W (odhad pro střední třídu Turin)
- Celek systému při plné zátěži dle specifikace: ~5 720 W
- Zdroje celkem: 6 000 W — ~4.7% hrubé rezervy dle specifikace
- V praxi: Max-Q drží při inferenci 520-550 W, čímž rezerva v dlouhodobém provozu stoupá na ~20 %+
- K dispozici je firmwarový power-cap na 520 W pro zaručenou rezervu
Topologie linek
Dva Turiny poskytují 2x 128 linek PCIe Gen5. TURIN2D24XGM/500W vede 8 GPU slotů přímo k procesorům na Gen5 x16 přes aktivní risery — 4 sloty na jeden CPU root. V cestě ke GPU není žádný PCIe switch — čistá dual-root topologie. Pro optimální peer-to-peer mezi sockety je nutné NUMA ladění. Bez NVLink; P2P na ~55-60 GB/s v každém směru v rámci socketu.
Co na něm spustíte
Se 768 GB sdružené ECC VRAM — což je strop nabídky Kentino — tento server utáhne DeepSeek V3 nativně ve fp8 (~670 GB) přímo na kartách, pohodlně Kimi-K2 Q4-Q5 (~630 GB) a hlavně to, kvůli čemu vzniká: 4 modely frontier třídy současně v paměti pro multi-tenant produkční provoz.
LLM — text / uvažování / kódování
Čínská frontier třída v produkčních kvantizacích
- Kimi-K2 (Base / Instruct / Thinking) v Q4_K_M / Q5_K_M (~630 GB) pohodlně (~15-25 tok/s samostatně, publikovaná reference) — vlajková čínská frontier třída v jediné skříni a v produkčních kvantizacích
- DeepSeek V3 / R1 / V3.1 / V3.2 nativně ve fp8 (~670 GB) přímo na kartách (~30-50 tok/s samostatně, publikovaná reference) — fp8 tensor jádra Blackwell to zvládají nativně a rychle
- DeepSeek V3 v Q4_K_M (~404 GB) s několika souběžnými instancemi pro velkodávkové nasazení
- GLM-5 / GLM-5.1 (~745B/44B) v Q3-Q4 (~420-560 GB) pohodlně na kartách
- Intern-S1-Pro (1T/22B aktivních, SAGE) v Q3-Q4 (~440-580 GB) pohodlně
- Qwen3-Coder-480B-A35B v Q5-Q6 (~340-400 GB) s kontextem 1M
- Qwen3-235B-A22B v bf16 (~470 GB) se štědrou KV cache pro dlouhý kontext
- ERNIE-4.5-424B-A47B v Q6 (~360 GB); Hunyuan-Large ve fp8 (~390 GB)
- MiniMax-Text-01 / M1 v Q5-Q6 (~325-390 GB)
Západní frontier třída v produkčních kvantizacích
- Mistral Large 3 (675B/41B MoE, Apache 2.0) v Q3-Q4 (~317-404 GB) pohodlně (~20-30 tok/s samostatně, publikovaná reference)
- Llama 4 Maverick (400B/17B, 128 expertů) v Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B v bf16 (~506 GB) přímo na kartách
- Snowflake Arctic v Q5-Q6 (~350-420 GB); Grok-1 v Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B v bf16 (~264 GB) ve více instancích
Vision-language modely
Qwen3-VL-235B-A22B jako vlajkový VLM s dlouhým kontextem; InternVL3.5-241B-A28B v bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 ve více instancích; Llama 3.2 90B Vision bf16 ve více instancích; Pixtral Large 124B bf16; Molmo 72B bf16 ve více instancích.
Generování obrázků
HunyuanImage-3.0 Instruct v souběžných instancích; FLUX.1 ve více instancích (~15-20 s na obrázek 1024x1024, publikovaná reference); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — kompletní čínský i západní obrazový stack souběžně v paměti.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B — mnoho souběžných streamů; HunyuanVideo 13B bf16 ve více souběžných streamech; Open-Sora 2.0 (11B) ve více instancích; Mochi-1 (10B) ve více instancích; NVIDIA Cosmos Predict 2 až do 14B.
Audio / řeč / TTS
Celý stack v paměti a v dávkovém režimu: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B realtime, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Multi-model / multi-tenant provoz (hlavní smysl tohoto stroje)
- Multi-tenant frontier produkce: 4 modely frontier třídy současně v paměti — např. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — s rozdělenou VRAM a SLA pro jednotlivé tenanty
- Souběžná nativní fp8 inference na Blackwellu (rodina DeepSeek V3 / R1, Hunyuan fp8) + kvantizovaný provoz v oddělených PCIe doménách
- Výzkumné A/B porovnání 4-5 frontier modelů s otevřenými vahami ve výzkumných kvantizacích
- Agentická platforma s primárním modelem 400B+ a několika specialisty 30-70B současně v paměti
Cílové workloady
- Multi-tenant produkce s frontier modely s otevřenými vahami — několik frontier modelů souběžně v paměti s izolací jednotlivých tenantů
- Suverénní nasazení frontier AI — on-prem přístup k DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, data zůstávají v EU
- Výzkumná laboratoř s A/B vyhodnocováním 4+ frontier modelů s otevřenými vahami ve výzkumných kvantizacích
- Podniková agentická platforma, kde MoE model 400B+ řídí nástroje a několik specializovaných modelů
- Inference v oddělených (air-gapped) regulovaných provozech ve frontier měřítku s ECC a PCIe Gen5
Publikované výkonnostní reference
Externí reference | Neměřeno na hardwaru Kentino
| Benchmark | Výsledek |
|---|---|
| RTX Pro 6000 — INT8 TOPS na kartu | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (samostatně) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (dávka 32) | 300-500 tok/s souhrnně |
| Kimi-K2 Q4 na 8x RTX Pro 6000 (samostatně) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 na jedné RTX Pro 6000 | ~15-20 s na obrázek 1024x1024 |
Přesná čísla se potvrzují ve fázi PoC. Kentino zveřejní vlastní naměřené hodnoty po první zákaznické sestavě.
Není ideální pro
- Nasazení s napjatým rozpočtem — jde o vlajkové SKU za vlajkovou cenu
- Trénink frontier modelů od nuly — bez NVLink, pouze PCIe P2P (pro trénink v tomto měřítku je správným nástrojem H100/H200 SXM nebo NVLink fabric GB200)
- Nasazení stylem plug-and-play — multi-tenant provoz frontier MoE modelů vyžaduje zkušený MLOps tým
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžový burn-in, memtest, funkční ověření, NUMA ladění a přípravu LLM prostředí (vLLM / SGLang / llama.cpp / CUDA 13 stack s fp8 kernely pro Blackwell). Dodací lhůta závisí na dostupnosti komponent a potvrzuje se při objednávce.
Doporučené doplňky
- NVIDIA ConnectX-5 MCX555A-ECAT nebo ConnectX-7 Gen5 100 GbE síťová karta pro škálování napříč uzly
- Mellanox ConnectX-6 25 GbE SFP28 pro datacentrovou síť
- Druhý 4 TB NVMe pro datasety a knihovnu modelů (frontier checkpointy jsou objemné — samotný Kimi-K2 bf16 má ~1 TB)
- Kompletní rackový rozvaděč 24U s perforovanými předními dveřmi a řízenou PDU
- Online UPS 10 kVA (řízené vypnutí při výpadku napájení)
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.