Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Laboratorní server s 384 GB ECC VRAM
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Publikované externí reference. Neměřeno na hardwaru Kentino.
Inferenční server do racku ve formátu 4U se čtyřmi kartami NVIDIA RTX Pro 6000 Blackwell Max-Q s turbofan (blower) chlazením (96 GB ECC každá) sdruženými do 384 GB ECC VRAM, jedním CPU AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe pro systém a dvojicí synchronizovaných zdrojů ATX 2.5 kW. Stejný křemík Blackwell jako u Server Edition — shodný inferenční rozsah i propustnost — jen s tišším blower chlazením vhodným pro laboratoře, vývoj a prostředí v blízkosti kanceláří.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan / blower chladič, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS na kartu, nativní fp8) |
| Pool VRAM | 384 GB ECC celkem napříč 4 kartami |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linka PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 sloty DIMM volné pro rozšíření na 512 GB) |
| Systémový disk / úložiště | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 2x 2.5 kW ATX se synchronizačním kabelem pro dva zdroje (celkem 5 kW) |
| Skříň | Do racku, 4U |
| Chlazení | Věžový chladič SP3 (třída Arctic Freezer 4U-M) + usměrněné proudění vzduchu zepředu dozadu (3x 120mm přední sání + 1x 120mm zadní výfuk). Grafické karty se chladí samy přes turbofan blower (výfuk dozadu) — tišší pro laboratorní prostředí. |
| Síť | Integrovaný dvojitý 10 GbE (Intel X550) |
Příkonová bilance
- Odběr GPU: 4 x 600 W = 2 400 W
- Celkem systém při plné zátěži: ~2 775 W
- Celkem zdroje: 5 000 W (dva synchronizované 2.5 kW) — 44.5% rezerva
- Dva zdroje pro rozdělené napájení — výpadek jednoho zdroje = ztráta 2 GPU nebo 2 GPU a základní desky
Tepelný profil (Max-Q)
Max-Q používá turbofan (blower) chladič se směrovaným výfukem na zadní straně karty. Očekávaný hotspot GPU při trvalé zátěži 72-80 C. Výrazně tišší než pasivní karty ve skříni s vysokým statickým tlakem. Lépe vyhovuje prostředím bez datacentrového proudění vzduchu, otevřeným rackům i umístění v laboratoři či v blízkosti kanceláří. Křemík, TDP, ECC i výkon jsou shodné se Server Edition.
Co na něm můžete provozovat
Shodné se Server Edition (Kentino AI 384 Rome RTXPro6000) — stejný křemík Blackwell, stejný pool 384 GB ECC, stejný nativní fp8, stejná kompatibilita modelů. Rozdíl je akustický, ne výpočetní.
LLM — text / uvažování / programování
Čínská špička
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) pohodlně celý na kartách (~30-40 tok/s u jednoho požadavku, publikovaná reference); nativní fp8 (~670 GB) s přeléváním do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, těsné, s přeléváním do RAM) — špičkový otevřený programovací agent (~18-25 tok/s u jednoho požadavku, publikovaná reference)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) s dlouhým kontextem a dávkováním pro více uživatelů
- GLM-5 / GLM-5.1 Q3 (~317 GB) — čínská špička, v programování blízko Claude Opus 4.6
- Kimi-K2 1.58bit UD (~240 GB) — bilionový model jako agent při reálné propustnosti
- Hunyuan-Large 389B/52B Q4 (~220 GB), nativní fp8 (~390 GB s přeléváním)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) s kontextem 1M
- Llama 3.3 70B bf16 celá na jedné kartě (96 GB na kartu)
Západní špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — špičkové západní otevřené váhy (~20-30 tok/s u jednoho požadavku, publikovaná reference)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) se štědrým rozpočtem na KV cache (~45-55 tok/s u jednoho požadavku, publikovaná reference)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b nativní MXFP4 (80 GB) s rezervou pro souběžný provoz dalších modelů
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — špičkové otevřené programování s 256k kontextem
- Llama 3.3 70B bf16 na jedné kartě; možná 4 souběžná nasazení 70B modelu
Vision-language modely
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 na TP. Blackwell fp8 přináší u inference vision části ~2x vyšší propustnost než Ada.
Generování obrázků
FLUX.1 [dev] / Kontext / Tools v nativním fp8 (~15-20 s na obrázek 1024x1024 na jedné RTX Pro 6000, publikovaná reference); SD 3.5 Large; HunyuanImage-2.1 (17B nativně 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 souběžní workeři ComfyUI.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B dual-expert bf16; HunyuanVideo 13B bf16 oba experti; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / řeč / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen / AudioGen / Bark / SeamlessM4T
Provoz více modelů a více tenantů
- DeepSeek V3 Q3 + souběžný 70B + FLUX.1 + Whisper, vše současně v paměti
- Čtyřcestný tensor-paralelismus na třídě 350-400B v Q4
- Izolace tenantů po kartách — jedna Llama 3.3 70B bf16 v 96 GB na kartu, 4 nezávislá inferenční sila
- RAG s více modely: reader + reranker + vision + embedder, vše na jednom hostiteli
Cílové workloady
- Inference špičkových modelů s otevřenými váhami pro laboratorní / vývojový tým, kde záleží na hlučnosti
- Serverovna malého týmu bez vyhrazeného datacentrového proudění vzduchu — samochlazení Max-Q snese i otevřený rack
- AI workstation v blízkosti kanceláří pro specializovaný tým (výzkum ML, agentní nástroje)
- Nativní fp8 provoz (DeepSeek / R1 / Hunyuan) v laboratorních podmínkách
- Workload se čtyřmi tenanty izolovanými po kartách a s nárokem na nízkou hlučnost
Publikované výkonnostní reference
Externí reference | Stejný křemík jako Server Edition | Neměřeno na hardwaru Kentino
| Benchmark | Výsledek |
|---|---|
| INT8 TOPS na kartu RTX Pro 6000 | 2 000 TOPS |
| Propustnost paměti RTX Pro 6000 | ~1 800 GB/s na kartu |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (jeden požadavek) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (dávka 8) | ~200 tok/s celkem |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (jeden požadavek) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (jeden požadavek) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na jedné RTX Pro 6000 | ~1.8 s na obrázek 1024x1024 |
Kentino zveřejní vlastní naměřená čísla po první zákaznické sestavě.
Není ideální pro
- Řádná nasazení v datacentrovém racku se zavedeným prouděním horké uličky — zvolte raději pasivní Server Edition (Kentino AI 384 Rome RTXPro6000): stejný křemík, mechanicky jednodušší
- Jednouživatelské workloady do 70B (4x RTX 5090 vyjde pro pool 128 GB výrazně levněji)
- Trénink špičkových modelů od nuly (bez NVLinku)
- Celou DeepSeek V3 Q4 na kartách (~404 GB) — rozšiřte na 6x RTX Pro 6000 / 576 GB
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžový test, memtest a funkční ověření. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučené doplňky
- Rozšíření RAM na 512 GB DDR4 (přidat 2x 64 GB — 2 sloty DIMM volné) pro rezervu při přelévání Q3 kvantizací špičkových modelů
- 4 TB NVMe Gen4 x4 pro knihovnu špičkových modelů (samotný DeepSeek V3 Q3 zabere na disku ~290 GB)
- Kompletní rackový rozvaděč 24U s řízenou PDU a online UPS
- Alternativní provedení: pasivní Server Edition (Kentino AI 384 Rome RTXPro6000) — stejný křemík, pro nasazení s datacentrovým prouděním vzduchu
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.