Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Vlajkový pár 192 GB ECC Blackwell
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Dvě pasivní karty RTX Pro 6000 Blackwell Server Edition -- po 96 GB ECC. Nižší režie tensor parallelismu než u sestav se 4 nebo 8 kartami. Vlajkový datacentrový pár na platformě Gen5/DDR5 ve 2U se skutečně redundantním napájením 1+1.
2U rackový inferenční server se dvěma pasivními kartami RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 na kartu), jedním CPU AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB datacentrového NVMe Gen5 a redundantním zdrojem 1+1 2.7 kW 80+ Platinum CRPS. Od 56 600 € bez DPH. Pro husté 70B v bf16 a středně velké MoE platí, že méně velkých karet poráží více malých -- dvoukartový tensor parallelismus má minimální komunikační režii a každá 96GB karta pojme kompletní kopii většiny modelů.
Stejný 192GB pár Blackwell jako v naší 4U sestavě Rome, ale v rackově hustém 2U šasi ASRock s plným Gen5 na straně hostitele, pamětí DDR5-4800 a skutečně redundantním zdrojem 1+1 2.7 kW Platinum CRPS. Tuto sestavu zvolte, když záleží na hustotě v racku, když Váš grant nebo zadávací dokumentace vyžaduje moderní platformu PCIe 5.0 / DDR5, nebo když je redundantní napájení požadavkem, a ne příplatkem.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (pasivní, 600 W, PCIe 5.0 x16, dvouslotové) |
| VRAM pool | 192 GB ECC (96 GB x 2) -- každá karta pojme model 70B v bf16 samostatně |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x linek PCIe 5.0, Zen5c, 256 MB L3) |
| Základní deska | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 pro dvouslotová GPU, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Systémová RAM | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC plně osazeno -- konfigurace s maximální propustností) |
| Boot / úložiště | Kioxia CD8-P 3.84 TB Gen5 U.3 (hot vrstva, 1 DWPD, ~12 GB/s čtení) + Kioxia CD8-P 1.92 TB Gen5 U.3 (bootovací vrstva OS) -- celkem 5.76 TB datacentrového NVMe Gen5 |
| Zdroj | Redundantní 1+1 2.7 kW 80+ Platinum CRPS (2x 1350 W při 230 V) -- skutečná redundance N+1; jeden zdroj utáhne plnou inferenční zátěž |
| Šasi | 2U rackové se směrovaným prouděním zepředu dozadu (80mm ventilátory s vysokým statickým tlakem). Vhodné pro provoz 24/7. |
| Chlazení | Aktivní CPU chladič SP5 + 3x přední sání 80x38 mm + 1x zadní výfuk 80x80 mm (navrženo na tepelnou zátěž 4 pasivních GPU; dvoukartové uspořádání má bohatou tepelnou rezervu) |
| Síť | Intel X710-T2L PCIe duální 10GBASE-T + volný slot OCP 3.0 pro upgrade na 25/100 GbE |
Energetická bilance
- Odběr GPU: 2x 600 W = 1 200 W
- Systém celkem při plné zátěži: ~1 510 W
- Konfigurace zdroje: redundantní CRPS 1+1, 2x 1350 W při 230 V (celkem 2 700 W)
- Rezerva: 44.1 % při typické inferenční zátěži
- Skutečná redundance N+1 -- jeden zdroj utáhne plnou inferenční zátěž; žádné riziko výpadku na jediném zdroji
Topologie linek
PCIe Gen5 x16 od začátku do konce -- hostitel i karta nativně Gen5. Přímé připojení na root complex, žádný PCIe switch. Volný zůstává jeden jednoslotový PCIe 5.0 x16 a jeden PCIe 5.0 x8 (slot x8 obsazuje síťová karta). Žádný NVLink -- peer-to-peer mezi GPU přes PCIe. Propustnost Gen5 odstraňuje strop na straně hostitele, který má 4U sourozenec Rome na Gen4.
Co na tom rozběhnete
Se 192 GB ECC VRAM na pouhých dvou kartách Blackwell s nativním fp8/fp4 je tohle nejčistší cesta k hustému 70B v bf16 a ke středně velkým MoE. Dva nezávislé 70B streamy -- jeden na kartu -- nebo 200B MoE přes obě karty s minimální režií dvoucestného TP.
LLM -- text / uvažování / kódování
Čínská špička
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) v pohodě i s dlouhým ctx (~15-25 tok/s jednostreamově přes 2 karty); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B dense bf16 s obřím KV; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB s mírným přetečením do RAM) -- Blackwell zvládá fp8 nativně; DeepSeek-R2 32B bf16 ve dvou souběžných streamech (jeden na kartu)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- hlavní konfigurace této třídy; GLM-4.5-Air fp8 nebo bf16 s obřím KV
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) -- 389B MoE s ctx 256k; Hunyuan-A13B nativně fp8 (~80 GB) s obřím KV
- Další: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Západní špička
- Meta Llama: Llama 3.3 70B bf16 na jedné kartě -- dva nezávislé souběžné 70B streamy (~20-30 tok/s na stream); Llama 4 Scout bf16 (~218 GB, těsné); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) na jedné kartě nebo bf16 přes obě; Mistral Small 3 ve více streamech
- OpenAI (otevřené váhy): gpt-oss-120b nativně MXFP4 (80 GB) -- vejde se na JEDNU kartu, dva nezávislé souběžné streamy
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 na jedné kartě
- Další: Cohere Command R+ 104B Q6 (~85 GB) na jedné kartě; Google Gemma 3 27B bf16 ve více souběžných streamech
Vision-language modely
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 na jedné kartě; Pixtral Large 124B bf16 nebo Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodálně x 2-3 souběžné streamy.
Generování obrázků
FLUX.1 [dev] bf16 ve více souběžných streamech; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 souběžně; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 souběžně; HunyuanImage-3.0 base (80B MoE, 13B aktivních) bf16 -- vejde se na jednu kartu; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Generování videa
Wan 2.2 MoE dual-expert bf16 v plném kontextu -- vejde se na jednu kartu, dva souběžné generovací streamy; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 oba experti; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / řeč / TTS
- ASR: Whisper v3 large / turbo (~50x rychleji než reálný čas); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Hudba / SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2
Multi-model / multi-tenantní serving
- Dva nezávislé 70B streamy -- jeden na kartu, nejjednodušší forma izolace nájemníků
- Husté 70B bf16 + doprovodný stack -- LLM na kartě 1, obrázky/video/audio na kartě 2
- 200B MoE přes obě karty -- minimální režie tensor parallelismu (dvoucestné dělení)
- Nativní fp8 u špičkových modelů -- rodina DeepSeek V3, Hunyuan-Large fp8 s nativními cestami Blackwellu
Cílové workloady
- Inference hustého 70B v bf16 -- dvě karty tensor-parallel s minimální režií, nebo jeden model na kartu pro streaming
- 100-150B MoE v Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Inference špičkových modelů nativně v FP8 (rodina DeepSeek V3, Hunyuan, Llama 4) -- Blackwell zvládá fp8 nativně
- Vědecké výpočty vyžadující datacentrovou propustnost NVMe Gen5 a ECC paměť
- Studio pro generování obrázků a videa v bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Nasazení omezená hustotou racku -- 2U formát oproti 4U ekvivalentu Rome při stejné VRAM
- Zadávací podmínky vyžadující platformu PCIe 5.0 / DDR5 nebo redundantní zdroj
Naměřený výkon
Publikované reference | datasheet NVIDIA RTX Pro 6000 Blackwell Server Edition + komunitní benchmarky
| Benchmark | Výsledek |
|---|---|
| INT8 TOPS na kartu (datasheet NVIDIA) | 2 000 TOPS |
| INT8 TOPS celkem (2 karty) | 4 000 TOPS |
| Propustnost paměti na kartu | 1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 na kartu (komunita) | 15-25 tok/s jednostreamově, 60-90 tok/s dávkově -- očekávané zlepšení díky paměťové cestě Gen5 na straně hostitele u streamovaných dávkových workloadů oproti hostiteli na Gen4 |
| Výhoda Gen5 na straně hostitele (jedna karta, stejný křemík) | PCIe 5.0 x16 od začátku do konce snižuje latenci přenosu mezi hostitelem a zařízením u streamovaných dávkových workloadů; úlohy omezené výpočtem na kartě dosahují stejné propustnosti jako sestavy s hostitelem na Gen4 |
| Dvoukartový tensor-parallel 70B (komunita) | očekávaných ~30-45 tok/s jednostreamově |
| Nativní fp8 na Blackwellu | DeepSeek-V3 fp8 a Hunyuan-A13B fp8 běží bez upcastu do bf16 |
Publikované externí reference, neměřeno na hardwaru Kentino. Kentino zveřejní vlastní čísla po první zákaznické sestavě.
Pro co se nehodí
- Serving s velmi vysokou souběžností pro mnoho nájemníků -- 4x L40 nebo 6x L4 se rozloží lépe na víc karet
- Rozsáhlá KV cache při velmi dlouhém kontextu -- přejděte na Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Trénink -- Kentino neprodává NVLink fabric třídy H
- Rozpočtová inference s tímto VRAM poolem -- 4U sestava Rome Kentino AI 192 RTXPro6000 4000TOPS vyjde levněji, pokud Vám stačí hostitel na Gen4 a nepotřebujete redundanci zdroje
Záruka a dodací lhůta
Tříletá OEM záruka NVIDIA na RTX Pro 6000 Server Edition + 36měsíční záruka na šasi + integrační záruka Kentino. Sestava zahrnuje montáž, konfiguraci BIOSu a firmwaru, nastavení IPMI, instalaci ovladačů, zátěžové testy a funkční ověření. Dodací lhůta 14-21 pracovních dní odráží objednávku komponent třídy Turin u distributora; potvrzujeme ji při zadání objednávky.
Doporučené doplňky
- Rozšíření na čtyřkartovou konfiguraci -- šasi má nativně 4 pozice pro GPU (aktuální sestava využívá 2 ze 4), cesta upgradu na Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Doplnění 25 GbE nebo 100 GbE přes slot OCP 3.0 (Mellanox ConnectX-5/6 ve variantě OCP)
- Další NVMe Kioxia CD8-P do zbývajících 2 pozic U.2 pro RAID nebo scratch úložiště
- Upgrade úložné vrstvy na Samsung PM1743 nebo Kioxia CM7-V pro vyšší výdrž (3 DWPD)
- Racková skříň 24U + online UPS 5 kVA
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.