Kentino AI 384 Rome RTXPro6000 — 4× RTX Pro 6000 Blackwell Server Edition (384 GB ECC VRAM)
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 384 Rome RTXPro6000 8000TOPS
Datacentrový server s 384 GB ECC VRAM
4x RTX Pro 6000 Server Edition | EPYC Milan | 8 000 TOPS INT8
Publikované externí reference. Neměřeno na hardwaru Kentino.
Inferenční server do racku ve formátu 4U se čtyřmi pasivními datacentrovými kartami NVIDIA RTX Pro 6000 Blackwell Server Edition (každá 96 GB ECC) sdruženými do 384 GB ECC VRAM, jedním procesorem AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, 2TB NVMe systémovým diskem a dvojicí synchronizovaných 2.5kW ATX zdrojů. Křemík Blackwell s nativní akcelerací fp8. Pasivní chlazení řízeným prouděním pro datacentrová šasi. Zvládne DeepSeek V3 Q3, Mistral Large 3, Qwen3-Coder-480B i všechny zásadní špičkové modely s otevřenými vahami.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (pasivní datacentrový chladič, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS na kartu, nativní fp8) |
| Sdružená VRAM | 384 GB ECC celkem napříč 4 kartami |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linka PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Operační paměť | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 sloty DIMM volné pro rozšíření na 512 GB) |
| Systémový disk / úložiště | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 2x 2.5 kW ATX se synchronizačním kabelem pro dva zdroje (celkem 5 kW) |
| Šasi | 4U do racku |
| Chlazení | Tower chladič SP3 (třída Arctic Freezer 4U-M) + řízené proudění zepředu dozadu (3x 120mm přední sání + 1x 120mm zadní výfuk). Pasivní GPU karty — vyžadují proudění vzduchu datacentrového šasi. |
| Síť | Integrovaný dvojitý 10 GbE (Intel X550) |
Energetická bilance
- Odběr GPU: 4 x 600 W = 2 400 W
- Celý systém při plné zátěži: ~2 775 W
- Zdroje celkem: 5 000 W (dva synchronizované 2.5 kW) — rezerva 44.5 %
- Dva zdroje pro rozdělené napájení — výpadek jednoho zdroje = ztráta 2 GPU nebo 2 GPU a základní desky
Topologie linek
ROMED8-2T vyvádí 7x PCIe 4.0 x16 přímo z EPYC Milan. Čtyři sloty jsou osazené — tři zůstávají volné pro NIC, úložiště či telemetrii. RTX Pro 6000 je křemík schopný Gen5; na této platformě běží na Gen4 v plném x16 — pro inferenci tedy bez omezení propustnosti. Bez PCIe switche. Bez NVLinku.
Co na něm rozjedete
S 384 GB sdružené ECC VRAM na křemíku Blackwell s nativním fp8 tento server pohodlně udrží přímo v kartách DeepSeek V3 / R1 v Q3, Mistral Large 3 Q3, GLM-5 Q3, Qwen3-Coder-480B Q3 i Llama 3.3 70B v bf16 na jediné kartě (96 GB na kartu).
LLM — text / uvažování / programování
Čínská špička
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) pohodlně přímo v kartách (~30-40 tok/s u jednoho dotazu, publikovaná reference); nativní fp8 (~670 GB) s přeléváním do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, těsné, s přeléváním do RAM) — špičkový otevřený programovací agent (~18-25 tok/s u jednoho dotazu, publikovaná reference)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) s velmi dlouhým kontextem a dávkováním pro více uživatelů
- GLM-5 / GLM-5.1 Q3 (~317 GB) — čínská špička, v programování blízko Claude Opus 4.6
- Kimi-K2 1.58bitový UD (~240 GB) — agent s bilionem parametrů při reálné propustnosti
- Hunyuan-Large 389B/52B Q4 (~220 GB), nativní fp8 (~390 GB s přeléváním)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB), kontext 1M
- Llama 3.3 70B bf16 natrvalo na jediné kartě (96 GB na kartu — bez nutnosti tensor parallelismu)
Západní špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — špičkové západní otevřené váhy (~20-30 tok/s u jednoho dotazu, publikovaná reference)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) se štědrým prostorem pro KV cache (~45-55 tok/s u jednoho dotazu, publikovaná reference)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b nativní MXFP4 (80 GB) s obrovskou rezervou pro souběžný provoz mnoha instancí
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — špičkové otevřené programování s kontextem 256k
- Llama 3.3 70B bf16 na jediné kartě; možné 4 souběžné nasazení modelu 70B
Vision-language modely
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 přes TP. Blackwell s fp8 nabízí oproti Ada zhruba dvojnásobnou propustnost u inference vision části.
Generování obrázků
FLUX.1 [dev] / Kontext / Tools v nativním fp8 (~15-20 s na obrázek 1024x1024 na jedné RTX Pro 6000, publikovaná reference); SD 3.5 Large; HunyuanImage-2.1 (17B nativně 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 souběžní workeři ComfyUI.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B se dvěma experty v bf16; HunyuanVideo 13B bf16 s oběma experty; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / řeč / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen / AudioGen / Bark / SeamlessM4T
Provoz více modelů a více nájemců
- DeepSeek V3 Q3 + souběžný model 70B + FLUX.1 + Whisper, vše současně v paměti
- Čtyřcestný tensor parallelismus u třídy 350-400B v Q4
- Izolace nájemců po kartách — jedna 96GB Llama 3.3 70B bf16 na kartu, 4 nezávislá inferenční sila
- Vícemodelové RAG: reader, reranker, vision model i embedder na jednom stroji
Cílové workloady
- Inferenční backend pro špičkové modely s otevřenými vahami — DeepSeek V3 Q3, Qwen3-Coder-480B Q3, GLM-5 Q3
- Produkční provoz multimodálních agentů Llama 4 Maverick Q4 se štědrým kontextovým rozpočtem
- Izolace čtyř nájemců po kartách — jedna Llama 3.3 70B bf16 na nájemce, nulové vzájemné ovlivnění
- Provoz DeepSeek / R1 / Hunyuan v nativním fp8 na křemíku Blackwell
- Mistral Large 3 Q3 jako západní špičková alternativa s otevřenými vahami pod Apache-2.0
Publikované výkonnostní reference
Externí reference | Neměřeno na hardwaru Kentino
| Benchmark | Výsledek |
|---|---|
| RTX Pro 6000 — INT8 TOPS na kartu | 2 000 TOPS |
| RTX Pro 6000 — propustnost paměti | ~1 800 GB/s na kartu |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (jeden dotaz) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (dávka 8) | ~200 tok/s celkem |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (jeden dotaz) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (jeden dotaz) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na jedné RTX Pro 6000 | ~1.8 s na obrázek 1024x1024 |
Kentino zveřejní vlastní naměřená čísla po první zákaznické sestavě.
Kdy se nehodí
- Jednouživatelské workloady do 70B — 4x RTX 5090 vyjde na 128GB pool výrazně levněji, pokud nepotřebujete ECC a spolehlivost pasivních karet
- Tiché laboratoře a nasazení v blízkosti kanceláří — pasivní chladič vyžaduje pořádné datacentrové proudění zepředu dozadu. Pro hlukově citlivé prostory zvolte variantu Max-Q s turbínovým chladičem (Kentino AI 384 Rome RTXPro6000MQ)
- Trénink špičkových modelů od nuly (bez NVLinku)
- Plný DeepSeek V3 Q4 přímo v kartách (~404 GB) — přejděte na 6x RTX Pro 6000 / 576 GB
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžový test, memtest a ověření funkčnosti. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- Rozšíření RAM na 512 GB DDR4 (doplnit 2x 64 GB — 2 sloty DIMM jsou volné) kvůli rezervě pro přelévání u kvantizací Q3 špičkových modelů
- 4TB NVMe Gen4 x4 pro knihovnu špičkových modelů (samotný DeepSeek V3 Q3 zabere na disku ~290 GB)
- Kompletní 24U rackový rozvaděč s řízeným PDU a online UPS
- Alternativní provedení: varianta Max-Q s turbínovým chladičem (Kentino AI 384 Rome RTXPro6000MQ) — stejný křemík, tišší radiální chladič, pro nasazení v laboratoři
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.