Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Dvojica vlajkových Blackwell kariet so 192 GB ECC
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Dve pasívne karty RTX Pro 6000 Blackwell Server Edition -- každá 96 GB ECC. Menšia réžia tensor paralelizmu než pri 4- alebo 8-kartových zostavách. Vlajková dvojica pre dátové centrá na platforme Gen5/DDR5 v 2U s naozajstným redundantným napájaním 1+1.
Inferenčný server do racku vo formáte 2U s dvoma pasívnymi kartami RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 na kartu), jedným CPU AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB Gen5 NVMe pre dátové centrá a redundantným zdrojom 1+1 s výkonom 2.7 kW v triede 80+ Platinum CRPS. Od €56 600 bez DPH. Pri hustých 70B modeloch v bf16 a stredne veľkých MoE platí, že menej veľkých kariet poráža viac malých -- dvojkartový tensor paralelizmus má minimálnu komunikačnú réžiu a každá 96GB karta nesie kompletnú kópiu väčšiny modelov.
Rovnaká 192GB dvojica Blackwell ako v našej 4U zostave Rome, no v racky šetriacom 2U šasi ASRock s plným Gen5 na strane hostiteľa, pamäťou DDR5-4800 a naozajstným redundantným zdrojom 1+1 s výkonom 2.7 kW v triede Platinum CRPS. Túto zostavu zvoľte, keď záleží na hustote v racku, keď Váš grant alebo obstarávacia špecifikácia vyžaduje modernú platformu PCIe 5.0 / DDR5, alebo keď je redundantné napájanie požiadavkou, nie príplatkom.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (pasívne, 600 W, PCIe 5.0 x16, dvojslotové) |
| Fond VRAM | 192 GB ECC (96 GB x 2) -- každá karta udrží 70B model v bf16 samostatne |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x liniek PCIe 5.0, Zen5c, 256 MB L3) |
| Základná doska | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 dvojslotové GPU, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Systémová RAM | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, plne osadené 1DPC -- konfigurácia s maximálnou priepustnosťou) |
| Boot / úložisko | Kioxia CD8-P 3.84 TB Gen5 U.3 (horúca vrstva, 1 DWPD, ~12 GB/s čítanie) + Kioxia CD8-P 1.92 TB Gen5 U.3 (vrstva pre OS) -- spolu 5.76 TB Gen5 NVMe pre dátové centrá |
| Zdroj | Redundantný 1+1, 2.7 kW 80+ Platinum CRPS (2x 1350 W pri 230 V) -- naozajstná redundancia N+1; jeden zdroj utiahne plnú inferenčnú záťaž |
| Šasi | Do racku, 2U, s riadeným prúdením vzduchu spredu dozadu (80 mm ventilátory s vysokým statickým tlakom). Vhodné na prevádzku 24/7. |
| Chladenie | Aktívny chladič CPU pre SP5 + 3x nasávanie 80x38 mm vpredu + 1x výfuk 80x80 mm vzadu (navrhnuté na tepelnú záťaž 4x pasívnych GPU; dvojkartové rozloženie ponúka bohatú tepelnú rezervu) |
| Sieť | Intel X710-T2L PCIe dual 10GBASE-T + voľný slot OCP 3.0 na upgrade na 25/100 GbE |
Energetická obálka
- Odber GPU: 2x 600 W = 1 200 W
- Celkový príkon systému pri plnej záťaži: ~1 510 W
- Konfigurácia zdroja: redundantný CRPS 1+1, 2x 1350 W pri 230 V (spolu 2 700 W)
- Rezerva: 44.1 % pri typickej inferenčnej záťaži
- Naozajstná redundancia N+1 -- jeden zdroj utiahne plnú inferenčnú záťaž; žiadne riziko výpadku pri jednom zdroji
Topológia liniek
PCIe Gen5 x16 od začiatku do konca -- natívny Gen5 na strane hostiteľa aj karty. Priame pripojenie na root complex, bez PCIe switchu. K dispozícii zostáva jeden jednoslotový PCIe 5.0 x16 a jeden slot PCIe 5.0 x8 (slot x8 obsadzuje sieťová karta). Bez NVLinku -- peer-to-peer medzi GPU cez PCIe. Priepustnosť Gen5 odstraňuje obmedzenie hostiteľa na Gen4, ktoré má 4U súrodenec Rome.
Čo na ňom spustíte
So 192 GB ECC VRAM na dvoch kartách Blackwell s natívnym fp8/fp4 je toto najčistejšia cesta k hustým 70B modelom v bf16 a stredne veľkým MoE. Dva nezávislé 70B prúdy -- jeden na kartu -- alebo 200B MoE naprieč oboma s minimálnou réžiou dvojcestného TP.
LLM -- text / uvažovanie / programovanie
Čínska špička
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) pohodlne s dlhým kontextom (~15-25 tok/s pri jednom prúde naprieč 2 kartami); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B hustý bf16 s obrovským KV; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB s malým presahom do RAM) -- Blackwell beží fp8 natívne; DeepSeek-R2 32B bf16 dva súbežné prúdy (jeden na kartu)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- vlajková konfigurácia v tejto triede; GLM-4.5-Air fp8 alebo bf16 s obrovským KV
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) -- 389B MoE s kontextom 256k; Hunyuan-A13B natívne fp8 (~80 GB) s obrovským KV
- Ďalšie: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Západná špička
- Meta Llama: Llama 3.3 70B bf16 na jednej karte -- dva nezávislé súbežné 70B prúdy (~20-30 tok/s na prúd); Llama 4 Scout bf16 (~218 GB, tesné); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) na jednej karte alebo bf16 naprieč oboma; Mistral Small 3 vo viacerých prúdoch
- OpenAI (otvorené váhy): gpt-oss-120b natívne MXFP4 (80 GB) -- zmestí sa na JEDNU kartu, dva nezávislé súbežné prúdy
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 na jednej karte
- Ďalšie: Cohere Command R+ 104B Q6 (~85 GB) na jednej karte; Google Gemma 3 27B bf16 vo viacerých súbežných prúdoch
Vizuálno-jazykové modely
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 na jednej karte; Pixtral Large 124B bf16 alebo Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodálne x 2-3 súbežné prúdy.
Generovanie obrázkov
FLUX.1 [dev] bf16 vo viacerých súbežných prúdoch; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 súbežne; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 súbežne; HunyuanImage-3.0 base (80B MoE, 13B aktívnych) bf16 -- zmestí sa na jednu kartu; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Generovanie videa
Wan 2.2 MoE dual-expert bf16 s plným kontextom -- zmestí sa na jednu kartu, dva súbežné generovacie prúdy; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 oba experti; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / reč / TTS
- ASR: Whisper v3 large / turbo (~50x reálny čas); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen / AudioGen / Bark; SeamlessM4T v2
Viacmodelová / viacnájomná prevádzka
- Dva nezávislé 70B prúdy -- jeden na kartu, najjednoduchšia forma izolácie nájomníkov
- Hustý 70B bf16 + podporný stack -- LLM na karte 1, obraz/video/zvuk na karte 2
- 200B MoE naprieč oboma kartami -- minimálna réžia tensor paralelizmu (dvojcestné delenie)
- Natívne fp8 špičkové modely -- rodina DeepSeek V3, Hunyuan-Large fp8 s natívnymi cestami Blackwellu
Cieľové workloady
- Inferencia hustých 70B modelov v bf16 -- dve karty v tensor paralelizme s minimálnou réžiou alebo jeden model na kartu pre streamovanie
- 100-150B MoE v Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Natívne FP8 inferencia špičkových modelov (rodina DeepSeek V3, Hunyuan, Llama 4) -- Blackwell beží fp8 natívne
- Vedecké výpočty vyžadujúce priepustnosť Gen5 NVMe na úrovni dátového centra a ECC pamäť
- Štúdio na generovanie obrázkov a videa v bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Nasadenia obmedzené hustotou racku -- formát 2U oproti 4U ekvivalentu Rome pri rovnakej VRAM
- Obstarávacie špecifikácie vyžadujúce platformu PCIe 5.0 / DDR5 alebo redundantný zdroj
Namerané parametre
Publikované zdroje | katalógový list NVIDIA RTX Pro 6000 Blackwell Server Edition + komunitné benchmarky
| Benchmark | Výsledok |
|---|---|
| INT8 TOPS na kartu (katalógový list NVIDIA) | 2 000 TOPS |
| Súhrnné INT8 TOPS (2 karty) | 4 000 TOPS |
| Priepustnosť pamäte na kartu | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 na kartu (komunita) | 15-25 tok/s pri jednom prúde, 60-90 tok/s dávkovo -- očakávané zlepšenie vďaka pamäťovej ceste Gen5 na strane hostiteľa pri streamovaných dávkových workloadoch oproti hostiteľovi s Gen4 |
| Výhoda Gen5 na strane hostiteľa (jedna karta, rovnaký kremík) | PCIe 5.0 x16 od začiatku do konca znižuje latenciu prenosu medzi hostiteľom a zariadením pri streamovaných dávkových workloadoch; úlohy limitované výpočtom na karte majú rovnakú priepustnosť ako zostavy s hostiteľom na Gen4 |
| Dvojkartový tensor paralelizmus 70B (komunita) | očakávaných ~30-45 tok/s pri jednom prúde |
| Natívny fp8 na Blackwelli | DeepSeek-V3 fp8, Hunyuan-A13B fp8 bežia bez prevodu na bf16 |
Publikované externé zdroje, nemerané na hardvéri Kentino. Kentino zverejní vlastné namerané čísla po prvej zákazníckej zostave.
Nevhodné na
- Viacnájomnú prevádzku s veľmi vysokou súbežnosťou -- 4x L40 alebo 6x L4 rozloží záťaž lepšie na viac kariet
- Veľkú KV cache pri veľmi dlhom kontexte -- prejdite na Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Tréning -- Kentino nepredáva NVLink fabric triedy H
- Rozpočtovú inferenciu pri tomto objeme VRAM -- 4U zostava Rome Kentino AI 192 RTXPro6000 4000TOPS vyjde lacnejšie, ak Vám stačí hostiteľ na Gen4 a nepotrebujete redundantný zdroj
Záruka a dodacia lehota
3-ročná záruka NVIDIA OEM na RTX Pro 6000 Server Edition + 36-mesačná záruka na šasi + integračná záruka Kentino. Zostava zahŕňa montáž, konfiguráciu BIOS/firmvéru, nastavenie IPMI, inštaláciu ovládačov, záťažové testovanie a overenie funkčnosti. Dodacia lehota 14-21 pracovných dní odráža objednávku komponentov triedy Turin u distribútora; potvrdzuje sa pri zadaní objednávky.
Odporúčané doplnky
- Rozšírenie na 4-kartovú konfiguráciu -- šasi má natívne 4 GPU pozície (aktuálna zostava využíva 2 zo 4), cesta k upgrade na Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Doplnenie 25 GbE alebo 100 GbE cez slot OCP 3.0 (variant Mellanox ConnectX-5/6 OCP)
- Ďalšie NVMe Kioxia CD8-P do 2 zvyšných pozícií U.2 pre RAID alebo pracovné úložisko
- Upgrade úložnej vrstvy na Samsung PM1743 alebo Kioxia CM7-V pre vyššiu výdrž (3 DWPD)
- 24U racková skriňa + online UPS 5 kVA
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.