Kentino AI 576 Genoa RTXPro6000 12000TOPS — 6× RTX Pro 6000 Blackwell Server Edition AI Frontier server
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 576 Genoa RTXPro6000 12000TOPS
Server pro frontier výzkum s 576 GB ECC VRAM
6x RTX Pro 6000 Server Edition | EPYC Genoa | 12 000 TOPS INT8
Publikované externí reference. Neměřeno na hardwaru Kentino.
Inferenční platforma frontier třídy do racku ve formátu 7U se šesti pasivními kartami NVIDIA RTX Pro 6000 Blackwell Server Edition sdruženými do 576 GB ECC VRAM, jedním CPU AMD EPYC 9354 Genoa (32C/64T), 768 GB DDR5-4800 ECC (osazeno všech 12 kanálů), systémovým 4 TB NVMe a sadou 5x 1200 W serverových zdrojů. Integrovaný switch Broadcom PCIe Gen5 rovnoměrně rozvádí linky do všech 6 GPU slotů. DeepSeek V3 Q4 (~404 GB) v pohodě i s dlouhým kontextem, Kimi-K2 Q2, Mistral Large 3 Q2-Q3 — celá frontier špička on-prem.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 6x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (pasivní, 600 W, PCIe 5.0 x16, 2000 INT8 TOPS na kartu) |
| Pool VRAM | 576 GB celkem napříč 6 kartami (bez NVLink — P2P přes PCIe Gen5 při ~55-60 GB/s v každém směru) |
| CPU | AMD EPYC 9354 Genoa (32C/64T, 280 W, 128x linka PCIe 5.0, 12kanálová DDR5) |
| Základní deska | ASRock Rack GENOAD8X-2T/BCM (SP5 Genoa, integrovaný switch Broadcom PEX PCIe Gen5, 12x DDR5, 2x 10 GbE, IPMI) |
| Systémová RAM | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — osazeny všechny kanály, ~460 GB/s v součtu) |
| Systémový disk / úložiště | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimenzováno pro odkládání frontier checkpointů |
| Zdroj | Sada 5x serverový zdroj 1200 W (kompatibilní s HP, celkem 6 kW) |
| Šasi | Rackové 7U pro 8 GPU, kapacita 10 PCIe slotů, aktivní Gen5 risery |
| Chlazení | Tower chladič pro SP5 Genoa, 8x 120mm ventilátor v šasi, nutné datacentrové proudění vzduchu zepředu dozadu. Pasivní GPU karty. |
| Síť | Integrovaný dvojitý 10 GbE (Intel X550) |
Energetická bilance
- Odběr GPU: 6 x 600 W = 3 600 W
- Celek systému při plné zátěži: ~4 080 W
- Zdroje celkem: 6 000 W (5x 1200 W) — 32% rezerva
- Pro ustálenou inferenci není nutný power cap
Topologie linek
GENOAD8X-2T/BCM má na desce integrovaný switch Broadcom PEX PCIe Gen5. 128 linek Gen5 z kořene EPYC Genoa vede do switche, který je rovnoměrně rozvádí do všech 6 GPU slotů v režimu Gen5 x16 end-to-end přes aktivní risery. Čistá single-root topologie — jednodušší ladění NUMA než u dvoupaticové desky. Bez NVLink; P2P při ~55-60 GB/s v každém směru.
Co na něm můžete provozovat
S 576 GB sdružené ECC VRAM na křemíku Blackwell s nativní fp8 utáhne tento server celou čínskou i západní frontier ligu s otevřenými vahami ve výzkumných kvantizacích: DeepSeek V3 Q4 (~404 GB) s dlouhým kontextem, Kimi-K2 Q2, Mistral Large 3 Q2-Q3, GLM-5 Q2, Qwen3-Coder-480B Q4.
LLM — text / uvažování / kódování
Čínská frontier špička
- DeepSeek V3 / R1 / V3.1 / V3.2 v Q4_K_M (~404 GB) v pohodě s dlouhým kontextem (~5-8 tok/s jedna instance vLLM TP-6, publikovaná reference); nativní fp8 (~670 GB) s přetečením do RAM
- Kimi-K2 (Base / Instruct / Thinking) v Q2_K (~375 GB) v pohodě (~5-8 tok/s jedna instance, publikovaná reference)
- GLM-5 / GLM-5.1 (~745B/44B) v Q2_K (~260 GB) v pohodě; Q3 (~420 GB) s přetečením do RAM
- Qwen3-Coder-480B-A35B v Q4_K_M (~270 GB) s dlouhým kontextem
- Qwen3-235B-A22B v bf16 (~470 GB) nebo fp8 (~240 GB)
- ERNIE-4.5-424B-A47B v Q4 (~240 GB) s plným kontextem 128k
- Intern-S1-Pro (1T/22B aktivních, SAGE) v Q2_K (~325 GB) v pohodě
- Hunyuan-Large A52B v Q4 (~220 GB); MiniMax-M1 v Q4 (~260 GB)
Západní frontier špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) v Q2-Q3 (~243-317 GB) v pohodě (~20-30 tok/s jedna instance, publikovaná reference)
- Llama 4 Maverick (400B/17B) v Q4_K_M (~232 GB) s dlouhým kontextem (~45-55 tok/s jedna instance, publikovaná reference)
- Llama-3.1-Nemotron Ultra 253B v fp8 (~253 GB) nebo bf16 s přetečením do RAM
- Grok-1 314B v Q4 (~182 GB); Snowflake Arctic v Q4 (~278 GB)
- DBRX Instruct 132B/36B v bf16 (~264 GB) nebo fp8 ve více instancích
- Všechny modely třídy 70-120B v bf16 s rezervou
Vision-language modely
Qwen3-VL-235B-A22B jako vlajkový VLM; InternVL3.5-241B-A28B Q4 (~135 GB); GLM-4.5V / 4.6V 106B bf16 (~210 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B fp8; Molmo 72B bf16.
Generování obrázků
HunyuanImage-3.0 úrovně Instruct (3x 80 GB) — vejde se s rezervou; FLUX.1 [dev] / [schnell] / Kontext ve více instancích (~15-20 s na obrázek 1024x1024 na jedné RTX Pro 6000 fp8, publikovaná reference); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B dvouexpertní MoE bf16 (~54 GB); HunyuanVideo 13B bf16 v pohodě; Open-Sora 2.0 (11B) bf16; Mochi-1 (10B) fp16; NVIDIA Cosmos Predict 2 až do 14B; CogVideoX-5B; LTX-Video; Pyramid Flow.
Audio / řeč / TTS
Celý stack rezidentní současně: Whisper v3 large, Parakeet-TDT 1.1B, Canary 1B, Moshi 7B realtime, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Provoz více modelů / více tenantů
- Inference DeepSeek V3 Q4 + FLUX pro obrázky + HunyuanVideo + hlas v reálném čase Whisper/Moshi, vše rezidentní současně
- Souběžně 70B v tensor-parallel a 235B-MoE v oddělených PCIe doménách přes switch Broadcom
- Výzkumné A/B vyhodnocení: 3 frontier modely s otevřenými vahami rezidentní současně
Cílové workloady
- Výzkumná laboratoř pro frontier modely s otevřenými vahami — on-prem přístup ke třídě DeepSeek V3 / Kimi-K2 / Mistral Large 3 bez odchozích dat do cloudu
- Suverénní nasazení AI — data v EU se stackem modelů pod licencí Apache 2.0 / MIT
- Podniková platforma pro multimodelové RAG a agenty — několik rezidentních MoE modelů třídy 200-400B
- Vyhodnocování modelů a výzkum bezpečnosti, porovnání čínských a západních frontier otevřených vah
- Inference ve velkém pro regulovaná odvětví s požadavkem na air-gap + ECC + PCIe Gen5
Publikované výkonnostní reference
Externí reference | Neměřeno na hardwaru Kentino
| Benchmark | Výsledek |
|---|---|
| INT8 TOPS na kartu RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 Q4 na 6x RTX Pro 6000 (jedna instance) | ~25-40 tok/s |
| vLLM — DeepSeek V3 Q4 na 6x RTX Pro 6000 (batch-32) | 200-400 tok/s v součtu |
| FLUX.1 [dev] fp8 na jedné RTX Pro 6000 | ~15-20 s na obrázek 1024x1024 |
Přesná čísla potvrzujeme ve fázi PoC. Kentino zveřejní vlastní naměřené hodnoty po první zákaznické sestavě.
Nevhodné pro
- Produkční provoz Kimi-K2 / DeepSeek V3 v Q4 v reálné rychlosti — pro ten sáhněte po variantě Turin dual se 768 GB
- Trénink frontier modelů od nuly — bez NVLink, pouze PCIe P2P
- Nasazení plug-and-play — provoz frontier MoE vyžaduje zkušený MLOps tým
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, burn-in, memtest, funkční ověření a nastavení prostředí pro LLM (vLLM / SGLang / llama.cpp / CUDA 13 s fp8 kernely pro Blackwell). Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- Síťová karta NVIDIA ConnectX-5 MCX555A-ECAT 100 GbE pro škálování přes více uzlů
- Druhý 4 TB NVMe pro datasety / knihovnu modelů
- Kompletní 24U rackový rozvaděč s perforovanými předními dveřmi
- Online UPS 10 kVA
- Řízené PDU
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.