Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — 8× RTX Pro 6000 Blackwell Max-Q, špičkový AI server (dvojitý Turin)
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
768 GB ECC VRAM — vlajková loď hraničnej triedy
8x RTX Pro 6000 Max-Q | dva EPYC Turin | 16 000 TOPS INT8
Cena CPU sa finalizuje pri objednávke — trh so sériou Turin 9005 sa v Q2 2026 mení týždenne.
Publikované externé referencie. Nemerané na hardvéri Kentino.
Vrchol produktovej rady Kentino AI serverov. 7U rack-mount inferenčná platforma hraničnej triedy s ôsmimi kartami NVIDIA RTX Pro 6000 Blackwell Max-Q s turbofan chladením zlúčenými do 768 GB ECC VRAM, dvoma procesormi AMD EPYC Turin série 9005 (Zen5c, SP5), 1.5 TB DDR5-4800 ECC (osadených všetkých 24 kanálov), 4 TB NVMe bootom a piatimi serverovými zdrojmi 1200 W. PCIe Gen5 po celej trase. DeepSeek V3 fp8 natívne (~670 GB) priamo na kartách. Kimi-K2 Q4-Q5. 4 modely hraničnej triedy rezidentné súčasne.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan, 600 W TDP podľa špecifikácie, PCIe 5.0 x16, 2000 INT8 TOPS/karta, fp8 natívne) |
| Pool VRAM | 768 GB celkovo naprieč 8 kartami (bez NVLinku — P2P cez PCIe Gen5 pri ~55-60 GB/s v rámci socketu, medzi socketmi cez prepojenie CPU) |
| CPU | 2x AMD EPYC Turin séria 9005 (Zen5c, SP5, PCIe 5.0) — cena v príprave, presná SKU potvrdená pri objednávke |
| Základná doska | ASRock Rack TURIN2D24XGM/500W (dva SP5 Turin, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Systémová RAM | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — osadených všetkých 24 kanálov, ~920 GB/s súhrnne) |
| Boot / úložisko | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimenzované na checkpointy hraničných modelov |
| Zdroj | Sada 5x serverový zdroj 1200 W (6 kW celkovo) |
| Šasi | 7U rack-mount pre 8 GPU, kapacita 10 PCIe slotov, aktívne Gen5 risery |
| Chladenie | 2x tower chladič pre SP5 Turin + 8x 120 mm ventilátor Martech v šasi. Turbofan dúchadlá na každej GPU sú samostatné. |
| Sieť | Integrované dvojité 10 GbE (Intel X550) |
Energetická bilancia
- Odber GPU (podľa špecifikácie): 8 x 600 W = 4 800 W
- Odber CPU: 2 x 360 W = 720 W (odhad pre strednú triedu Turin)
- Systém celkovo pri plnom zaťažení podľa špecifikácie: ~5 720 W
- Zdroje celkovo: 6 000 W — ~4.7 % hrubej rezervy podľa špecifikácie
- V reálnej prevádzke: Max-Q drží v inferencii 520-550 W, čím sa trvalá rezerva zvyšuje na ~20 %+
- K dispozícii je firmvérový limit výkonu na 520 W pre garantovanú rezervu
Topológia liniek
Dvojica Turin poskytuje 2x 128 PCIe Gen5 liniek. TURIN2D24XGM/500W vedie 8 GPU slotov priamo na CPU cez aktívne risery pri Gen5 x16 — 4 sloty na jeden CPU root. V ceste GPU nie je žiadny PCIe switch — čistá dual-root topológia. Pre optimálny peer-to-peer medzi socketmi je potrebné ladenie NUMA. Bez NVLinku; P2P pri ~55-60 GB/s v jednom smere v rámci socketu.
Čo na ňom spustíte
So 768 GB zlúčenej ECC VRAM — vrcholom možností Kentino — tento server zvládne DeepSeek V3 fp8 natívne (~670 GB) priamo na kartách, Kimi-K2 Q4-Q5 (~630 GB) s rezervou a definujúci prípad použitia: 4 modely hraničnej triedy rezidentné súčasne pre multi-tenant produkčnú prevádzku.
LLM — text / uvažovanie / kódovanie
Čínska hraničná trieda v produkčných kvantizáciách
- Kimi-K2 (Base / Instruct / Thinking) v Q4_K_M / Q5_K_M (~630 GB) s rezervou (~15-25 tok/s pri jednom dotaze, publikovaná referencia) — čínska vlajková loď hraničnej triedy na jednom stroji v produkčných kvantizáciách
- DeepSeek V3 / R1 / V3.1 / V3.2 v natívnom fp8 (~670 GB) priamo na kartách (~30-50 tok/s pri jednom dotaze, publikovaná referencia) — tenzorové jadrá Blackwell fp8 to zvládajú natívne a rýchlo
- DeepSeek V3 v Q4_K_M (~404 GB) s viacerými súbežnými inštanciami pre veľké dávky
- GLM-5 / GLM-5.1 (~745B/44B) v Q3-Q4 (~420-560 GB) s rezervou priamo na kartách
- Intern-S1-Pro (1T/22B aktívnych, SAGE) v Q3-Q4 (~440-580 GB) s rezervou
- Qwen3-Coder-480B-A35B v Q5-Q6 (~340-400 GB) s kontextom 1M
- Qwen3-235B-A22B v bf16 (~470 GB) so štedrou KV cache pre dlhý kontext
- ERNIE-4.5-424B-A47B v Q6 (~360 GB); Hunyuan-Large v fp8 (~390 GB)
- MiniMax-Text-01 / M1 v Q5-Q6 (~325-390 GB)
Západná hraničná trieda v produkčných kvantizáciách
- Mistral Large 3 (675B/41B MoE, Apache 2.0) v Q3-Q4 (~317-404 GB) s rezervou (~20-30 tok/s pri jednom dotaze, publikovaná referencia)
- Llama 4 Maverick (400B/17B, 128 expertov) v Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B v bf16 (~506 GB) priamo na kartách
- Snowflake Arctic v Q5-Q6 (~350-420 GB); Grok-1 v Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B v bf16 (~264 GB) vo viacerých inštanciách
Vision-Language modely
Qwen3-VL-235B-A22B ako vlajkový VLM s dlhým kontextom; InternVL3.5-241B-A28B v bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 vo viacerých inštanciách; Llama 3.2 90B Vision bf16 vo viacerých inštanciách; Pixtral Large 124B bf16; Molmo 72B bf16 vo viacerých inštanciách.
Generovanie obrázkov
HunyuanImage-3.0 Instruct v súbežných inštanciách; FLUX.1 vo viacerých inštanciách (~15-20 s na obrázok 1024x1024, publikovaná referencia); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — celý čínsky aj západný obrazový stack rezidentný súčasne.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B — mnoho súbežných streamov; HunyuanVideo 13B bf16 vo viacerých súbežných streamoch; Open-Sora 2.0 (11B) vo viacerých inštanciách; Mochi-1 (10B) vo viacerých inštanciách; NVIDIA Cosmos Predict 2 až do 14B.
Audio / reč / TTS
Celý stack rezidentný v dávkovom režime: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B realtime, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Multi-model / multi-tenant prevádzka (definujúci prípad použitia)
- Multi-tenant produkcia v hraničnej triede: 4 modely hraničnej triedy rezidentné súčasne — napr. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — s rozdelenou VRAM a SLO pre každého nájomníka
- Súbežná natívna fp8 inferencia na Blackwelli (rodina DeepSeek V3 / R1, Hunyuan fp8) + kvantizovaná prevádzka na oddelených PCIe doménach
- Výskumné A/B porovnanie 4-5 hraničných modelov s otvorenými váhami vo výskumných kvantizáciách
- Agentová platforma s primárnym modelom 400B+ a viacerými rezidentnými špecialistami 30-70B
Cieľové workloady
- Multi-tenant produkcia s hraničnými modelmi s otvorenými váhami — viacero hraničných modelov rezidentných súčasne s izoláciou medzi nájomníkmi
- Suverénne nasadenie AI — on-premise prístup k DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, dáta zostávajú v EÚ
- Výskumné laboratórium s A/B vyhodnocovaním naprieč 4+ hraničnými modelmi s otvorenými váhami vo výskumných kvantizáciách
- Firemná agentová platforma, kde MoE s 400B+ riadi nástroje a viacero špecializovaných modelov
- Inferencia v regulovaných odvetviach v režime air-gap v hraničnej mierke s ECC a PCIe Gen5
Publikované výkonnostné referencie
Externé referencie | Nemerané na hardvéri Kentino
| Benchmark | Výsledok |
|---|---|
| INT8 TOPS na kartu RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (jeden dotaz) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (dávka 32) | 300-500 tok/s súhrnne |
| Kimi-K2 Q4 na 8x RTX Pro 6000 (jeden dotaz) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 na jednej RTX Pro 6000 | ~15-20 s na obrázok 1024x1024 |
Presné čísla sa potvrdzujú vo fáze PoC. Kentino zverejní vlastné namerané hodnoty po prvej zákazníckej zostave.
Nevhodné pre
- Nasadenia s dôrazom na rozpočet — vlajková SKU za vlajkovú cenu
- Trénovanie modelov hraničnej triedy od nuly — bez NVLinku, len PCIe P2P (na tréning v tejto mierke je správnym nástrojom H100/H200 SXM alebo NVLink fabric GB200)
- Nasadenie v štýle plug-and-play — multi-tenant prevádzka hraničných MoE modelov si vyžaduje skúsený MLOps tím
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOSu, inštaláciu ovládačov, burn-in, memtest, funkčné overenie, ladenie NUMA a prípravu LLM prostredia (vLLM / SGLang / llama.cpp / CUDA 13 stack s fp8 Blackwell kernelmi). Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- NVIDIA ConnectX-5 MCX555A-ECAT alebo ConnectX-7 Gen5 100 GbE NIC pre škálovanie na viac uzlov
- Mellanox ConnectX-6 25 GbE SFP28 pre datacentrovú sieť
- Druhý 4 TB NVMe pre datasety a knižnicu modelov (checkpointy hraničných modelov sú veľké — samotný Kimi-K2 bf16 má ~1 TB)
- Kompletný 24U rack s perforovanými prednými dverami a riadeným PDU
- Online UPS 10 kVA (riadené vypnutie pri výpadku napájania)
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.