Kentino AI 576 Genoa RTXPro6000 12000TOPS — 6× RTX Pro 6000 Blackwell Server Edition AI Frontier Server
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 576 Genoa RTXPro6000 12000TOPS
Výskumný server frontier triedy s 576 GB ECC VRAM
6x RTX Pro 6000 Server Edition | EPYC Genoa | 12 000 TOPS INT8
Publikované externé referencie. Nemerané na hardvéri Kentino.
Inferenčná platforma frontier triedy do racku s výškou 7U, so šiestimi pasívnymi kartami NVIDIA RTX Pro 6000 Blackwell Server Edition združenými do 576 GB ECC VRAM, jedným CPU AMD EPYC 9354 Genoa (32C/64T), 768 GB DDR5-4800 ECC (osadených všetkých 12 kanálov), 4 TB NVMe pre systém a 5x serverovým zdrojom 1200 W. Integrovaný switch Broadcom PCIe Gen5 rovnomerne rozvádza linky do všetkých 6 GPU slotov. DeepSeek V3 Q4 (~404 GB) komfortne aj s dlhým kontextom, Kimi-K2 Q2, Mistral Large 3 Q2-Q3 — kompletný frontier on-prem.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 6x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (pasívne, 600 W, PCIe 5.0 x16, 2000 INT8 TOPS na kartu) |
| Pool VRAM | 576 GB celkovo naprieč 6 kartami (bez NVLink — P2P cez PCIe Gen5 pri ~55-60 GB/s v každom smere) |
| CPU | AMD EPYC 9354 Genoa (32C/64T, 280 W, 128x linka PCIe 5.0, 12-kanálová DDR5) |
| Základná doska | ASRock Rack GENOAD8X-2T/BCM (SP5 Genoa, integrovaný switch Broadcom PEX PCIe Gen5, 12x DDR5, 2x 10 GbE, IPMI) |
| Systémová RAM | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — osadené všetky kanály, ~460 GB/s súhrnne) |
| Systémový disk / úložisko | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimenzované na odkladanie checkpointov frontier modelov |
| Zdroj | Sada 5x serverový zdroj 1200 W (kompatibilný s HP, 6 kW celkovo) |
| Skriňa | 7U 8-GPU do racku, kapacita 10 PCIe slotov, aktívne riser karty Gen5 |
| Chladenie | Tower chladič pre SP5 Genoa, 8x ventilátor 120 mm, nutné prúdenie vzduchu spredu dozadu ako v dátovom centre. Pasívne GPU karty. |
| Sieť | Integrované duálne 10 GbE (Intel X550) |
Energetická bilancia
- Odber GPU: 6 x 600 W = 3 600 W
- Celok systému pri plnej záťaži: ~4 080 W
- Zdroje spolu: 6 000 W (5x 1200 W) — 32% rezerva
- Pre ustálenú inferenciu nie je potrebný power-cap
Topológia liniek
GENOAD8X-2T/BCM má integrovaný switch Broadcom PEX PCIe Gen5. 128 liniek Gen5 z rootu EPYC Genoa vedie do switchu, ktorý ich rovnomerne rozvádza do všetkých 6 GPU slotov v režime Gen5 x16 end-to-end cez aktívne risery. Čistá single-root topológia — jednoduchšie ladenie NUMA než pri dvojpätkových zostavách. Bez NVLink; P2P pri ~55-60 GB/s v každom smere.
Čo na ňom spustíte
S 576 GB združenej ECC VRAM na kremíku Blackwell s natívnym fp8 zvláda tento server kompletný čínsky aj západný open-weight frontier vo výskumne použiteľných kvantizáciách: DeepSeek V3 Q4 (~404 GB) s dlhým kontextom, Kimi-K2 Q2, Mistral Large 3 Q2-Q3, GLM-5 Q2, Qwen3-Coder-480B Q4.
LLM — text / uvažovanie / programovanie
Čínsky frontier
- DeepSeek V3 / R1 / V3.1 / V3.2 v Q4_K_M (~404 GB) komfortne aj s dlhým kontextom (~5-8 tok/s jedna inštancia vLLM TP-6, publikovaná referencia); natívne fp8 (~670 GB) s odkladaním do RAM
- Kimi-K2 (Base / Instruct / Thinking) v Q2_K (~375 GB) komfortne (~5-8 tok/s jedna inštancia, publikovaná referencia)
- GLM-5 / GLM-5.1 (~745B/44B) v Q2_K (~260 GB) komfortne; Q3 (~420 GB) s odkladaním do RAM
- Qwen3-Coder-480B-A35B v Q4_K_M (~270 GB) s dlhým kontextom
- Qwen3-235B-A22B v bf16 (~470 GB) alebo fp8 (~240 GB)
- ERNIE-4.5-424B-A47B v Q4 (~240 GB) s plným kontextom 128k
- Intern-S1-Pro (1T/22B aktívnych, SAGE) v Q2_K (~325 GB) komfortne
- Hunyuan-Large A52B v Q4 (~220 GB); MiniMax-M1 v Q4 (~260 GB)
Západný frontier
- Mistral Large 3 (675B/41B MoE, Apache 2.0) v Q2-Q3 (~243-317 GB) komfortne (~20-30 tok/s jedna inštancia, publikovaná referencia)
- Llama 4 Maverick (400B/17B) v Q4_K_M (~232 GB) s dlhým kontextom (~45-55 tok/s jedna inštancia, publikovaná referencia)
- Llama-3.1-Nemotron Ultra 253B v fp8 (~253 GB) alebo bf16 s odkladaním do RAM
- Grok-1 314B v Q4 (~182 GB); Snowflake Arctic v Q4 (~278 GB)
- DBRX Instruct 132B/36B v bf16 (~264 GB) alebo fp8 vo viacerých inštanciách
- Všetky modely triedy 70-120B v bf16 s rezervou navyše
Vizuálno-jazykové modely
Vlajkový VLM Qwen3-VL-235B-A22B; InternVL3.5-241B-A28B Q4 (~135 GB); GLM-4.5V / 4.6V 106B bf16 (~210 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B fp8; Molmo 72B bf16.
Generovanie obrázkov
HunyuanImage-3.0 v triede Instruct (3x 80 GB) — vojde sa aj s rezervou; FLUX.1 [dev] / [schnell] / Kontext vo viacerých inštanciách (~15-20 s na obrázok 1024x1024 na jednej RTX Pro 6000 fp8, publikovaná referencia); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B dual-expert MoE bf16 (~54 GB); HunyuanVideo 13B bf16 komfortne; Open-Sora 2.0 (11B) bf16; Mochi-1 (10B) fp16; NVIDIA Cosmos Predict 2 až do 14B; CogVideoX-5B; LTX-Video; Pyramid Flow.
Zvuk / reč / TTS
Celý stack súbežne v pamäti: Whisper v3 large, Parakeet-TDT 1.1B, Canary 1B, Moshi 7B v reálnom čase, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Prevádzka viacerých modelov / viacerých nájomcov
- Inferencia DeepSeek V3 Q4 + obrázky FLUX + HunyuanVideo + hlas Whisper/Moshi v reálnom čase, všetko súčasne v pamäti
- Súbežne 70B tensor-parallel + 235B-MoE v oddelených PCIe doménach cez switch Broadcom
- Výskumné A/B vyhodnocovanie: 3 open-weight modely frontier triedy súčasne v pamäti
Cieľové workloady
- Výskumné laboratórium pre open-weight frontier modely — on-prem prístup k triede DeepSeek V3 / Kimi-K2 / Mistral Large 3 bez odchodu dát do cloudu
- Suverénne nasadenie AI — dátová rezidencia v EÚ so stackom modelov pod Apache 2.0 / MIT
- Podniková platforma pre viacmodelový RAG a agentov — niekoľko MoE modelov triedy 200-400B súčasne v pamäti
- Vyhodnocovanie modelov a výskum bezpečnosti porovnávajúci čínske a západné open-weight modely frontier triedy
- Inferencia vo veľkom pre regulované odvetvia vyžadujúce air-gap + ECC + PCIe Gen5
Publikované výkonnostné referencie
Externé referencie | Nemerané na hardvéri Kentino
| Benchmark | Výsledok |
|---|---|
| RTX Pro 6000 INT8 TOPS na kartu | 2 000 TOPS |
| vLLM — DeepSeek V3 Q4 na 6x RTX Pro 6000 (jedna inštancia) | ~25-40 tok/s |
| vLLM — DeepSeek V3 Q4 na 6x RTX Pro 6000 (batch-32) | 200-400 tok/s súhrnne |
| FLUX.1 [dev] fp8 na jednej RTX Pro 6000 | ~15-20 s na obrázok 1024x1024 |
Presné hodnoty potvrdíme vo fáze PoC. Kentino zverejní vlastné namerané čísla po prvej zákazníckej zostave.
Nie je ideálny na
- Produkčnú prevádzku Kimi-K2 / DeepSeek V3 v Q4 pri plnej rýchlosti — prejdite na 768 GB Turin dual
- Tréning modelov frontier triedy od nuly — bez NVLink, len PCIe P2P
- Nasadenie v štýle plug-and-play — prevádzka frontier MoE modelov vyžaduje skúsený MLOps tím
Záruka a dodacia lehota
Zostavenie zahŕňa montáž, konfiguráciu BIOS, inštaláciu ovládačov, záťažový burn-in, memtest, funkčné overenie a nastavenie prostredia pre LLM (stack vLLM / SGLang / llama.cpp / CUDA 13 s fp8 jadrami pre Blackwell). Dodacia lehota závisí od dostupnosti komponentov a potvrdzujeme ju pri objednávke.
Odporúčané doplnky
- Sieťová karta NVIDIA ConnectX-5 MCX555A-ECAT 100 GbE pre škálovanie na viac uzlov
- Druhý 4 TB NVMe na dátové sady a knižnicu modelov
- Kompletný 24U rackový rozvádzač s perforovanými prednými dverami
- Online UPS 10 kVA
- Riadená PDU
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.