Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Laboratórny server s 384 GB ECC VRAM
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Publikované externé referencie. Nemerané na hardvéri Kentino.
4U rackový inferenčný server so štyrmi kartami NVIDIA RTX Pro 6000 Blackwell Max-Q turbofan (blower), každá s 96 GB ECC, združenými do poolu 384 GB ECC VRAM, s jedným procesorom AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe pre systém a dvojicou synchronizovaných 2.5 kW ATX zdrojov. Rovnaký kremík Blackwell ako pri Server Edition — identická inferenčná obálka, identická priepustnosť — len s tichším blower chladičom vhodným pre laboratóriá, R&D a prostredie v blízkosti kancelárií.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (chladič turbofan / blower, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS na kartu, natívne fp8) |
| Pool VRAM | 384 GB ECC súhrnne naprieč 4 kartami |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 liniek) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 sloty DIMM voľné pre rozšírenie na 512 GB) |
| Systémový disk / úložisko | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 2x 2.5 kW ATX so synchronizačným káblom pre dva zdroje (5 kW súhrnne) |
| Šasi | 4U rackové |
| Chladenie | Vežový chladič SP3 (trieda Arctic Freezer 4U-M) + usmernené prúdenie spredu dozadu (3x 120 mm nasávanie vpredu + 1x 120 mm odvod vzadu). Karty GPU sa chladia samy cez turbofan blower (odvod dozadu) — tichšie pre laboratórne prostredie. |
| Sieť | Integrované dvojité 10 GbE (Intel X550) |
Energetická bilancia
- Odber GPU: 4 x 600 W = 2 400 W
- Celý systém pri plnej záťaži: ~2 775 W
- Zdroje spolu: 5 000 W (dva synchronizované 2.5 kW) — rezerva 44.5%
- Dva zdroje pre rozdelenú dodávku napájania — výpadok jedného zdroja = strata 2 GPU alebo 2 GPU + základná doska
Tepelný profil (Max-Q)
Max-Q používa chladič turbofan (blower) so smerovaným odvodom vzduchu zo zadnej časti karty. Očakávaný hotspot GPU 72-80 C pri trvalej záťaži. Výrazne tichšie než pasívne karty v šasi s vysokým statickým tlakom. Vhodnejšie pre prostredie bez dátacentrového prúdenia, pre otvorený rack alebo umiestnenie v laboratóriu či v blízkosti kancelárií. Kremík, TDP, ECC aj výkon sú identické so Server Edition.
Čo na ňom spustíte
Identické so Server Edition (Kentino AI 384 Rome RTXPro6000) — rovnaký kremík Blackwell, rovnaký pool 384 GB ECC, rovnaká natívna fp8, rovnaká kompatibilita s modelmi. Rozdiel je akustický, nie výpočtový.
LLM — text / uvažovanie / programovanie
Čínska špička
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) pohodlne celé na kartách (~30-40 tok/s pri jednom dotaze, publikovaná referencia); natívne fp8 (~670 GB) s presahom do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB tesne, s presahom do RAM) — špičkový otvorený programátorský agent (~18-25 tok/s pri jednom dotaze, publikovaná referencia)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) s dlhým kontextom a dávkovaním pre viac používateľov
- GLM-5 / GLM-5.1 Q3 (~317 GB) — čínska špička, pri programovaní blízko Claude Opus 4.6
- Kimi-K2 1.58-bit UD (~240 GB) — biliónparametrový agent pri reálnej priepustnosti
- Hunyuan-Large 389B/52B Q4 (~220 GB), natívne fp8 (~390 GB s presahom)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) s kontextom 1M
- Llama 3.3 70B bf16 celá na jednej karte (96 GB na kartu)
Západná špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — špičkové západné otvorené váhy (~20-30 tok/s pri jednom dotaze, publikovaná referencia)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) so štedrým rozpočtom na KV (~45-55 tok/s pri jednom dotaze, publikovaná referencia)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b natívne MXFP4 (80 GB) s rezervou pre súbežnú flotilu
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — špičkový otvorený programátorský model s 256k
- Llama 3.3 70B bf16 na jednej karte; možné sú 4 súbežné nasadenia 70B
Vizuálno-jazykové modely
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 na TP. Blackwell fp8 prináša pri inferencii vizuálnej vetvy približne 2x vyššiu priepustnosť oproti Ada.
Generovanie obrázkov
FLUX.1 [dev] / Kontext / Tools natívne v fp8 (~15-20 s na obrázok 1024x1024 na jednej RTX Pro 6000, publikovaná referencia); SD 3.5 Large; HunyuanImage-2.1 (17B natívne 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 súbežné pracovné procesy ComfyUI.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B dvojexpertné bf16; HunyuanVideo 13B bf16 oba experti; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / reč / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen / AudioGen / Bark / SeamlessM4T
Viacmodelová a viacnájomná prevádzka
- DeepSeek V3 Q3 + súbežne 70B + FLUX.1 + Whisper, všetko naraz v pamäti
- 4-cestný tensor parallel na triede 350-400B pri Q4
- Izolácia nájomníkov po kartách — jedna 96 GB Llama 3.3 70B bf16 na kartu, 4 nezávislé inferenčné silá
- Viacmodelový RAG: reader, reranker, vizuálny model aj embedder na jednom hostiteľovi
Cieľové workloady
- Inferencia špičkových otvorených modelov pre laboratórny alebo R&D tím, kde záleží na hlučnosti
- Serverovňa malého tímu bez dedikovaného dátacentrového prúdenia — samochladiace Max-Q znesie aj otvorený rack
- AI workstation v blízkosti kancelárií pre špecializovaný tím (ML výskum, agentné nástroje)
- Natívne fp8 nasadenie (DeepSeek / R1 / Hunyuan) v laboratórnych podmienkach
- Workload so štyrmi nájomníkmi izolovanými po kartách a s limitom na hluk
Publikované výkonnostné referencie
Externé referencie | Rovnaký kremík ako Server Edition | Nemerané na hardvéri Kentino
| Benchmark | Výsledok |
|---|---|
| RTX Pro 6000 INT8 TOPS na kartu | 2 000 TOPS |
| RTX Pro 6000 priepustnosť pamäte | ~1 800 GB/s na kartu |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (jeden dotaz) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (dávka 8) | ~200 tok/s súhrnne |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (jeden dotaz) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (jeden dotaz) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na jednej RTX Pro 6000 | ~1.8 s na obrázok 1024x1024 |
Kentino zverejní vlastné namerané čísla po prvej zákazníckej zostave.
Nie je ideálny pre
- Plnohodnotné dátacentrové nasadenie v racku so zavedeným prúdením v horúcej uličke — zvoľte radšej pasívnu Server Edition (Kentino AI 384 Rome RTXPro6000): rovnaký kremík, mechanicky jednoduchšie
- Jednopoužívateľské workloady do 70B (4x RTX 5090 vyjde na pool 128 GB výrazne lacnejšie)
- Tréning špičkových modelov od nuly (bez NVLink)
- Celý DeepSeek V3 Q4 na kartách (~404 GB) — prejdite na 6x RTX Pro 6000 / 576 GB
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOS, inštaláciu ovládačov, záťažový test, memtest a funkčné overenie. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- Rozšírenie RAM na 512 GB DDR4 (doplnenie 2x 64 GB — 2 sloty DIMM sú voľné) pre rezervu pri presahu Q3 špičkových kvantizácií do RAM
- 4 TB NVMe Gen4 x4 pre knižnicu špičkových modelov (samotný DeepSeek V3 Q3 má na disku ~290 GB)
- Kompletný 24U rackový rozvádzač s riadenou PDU a online UPS
- Alternatívne vyhotovenie: pasívna Server Edition (Kentino AI 384 Rome RTXPro6000) — rovnaký kremík, pre nasadenie s dátacentrovým prúdením
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.