Kentino AI 384 Rome RTXPro6000 — 4× RTX Pro 6000 Blackwell Server Edition (384 GB ECC VRAM)
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 384 Rome RTXPro6000 8000TOPS
Dátocentrický server s 384 GB ECC VRAM
4x RTX Pro 6000 Server Edition | EPYC Milan | 8 000 TOPS INT8
Publikované externé referencie. Nemerané na hardvéri Kentino.
4U rackový inferenčný server so štyrmi pasívnymi dátocentrickými kartami NVIDIA RTX Pro 6000 Blackwell Server Edition (96 GB ECC každá) zlúčenými do 384 GB ECC VRAM, jedným procesorom AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe pre systém a dvoma synchronizovanými zdrojmi ATX 2.5 kW. Kremík Blackwell s natívnou akceleráciou fp8. Pasívne chladenie s usmerneným prúdením vzduchu pre dátocentrické šasi. Zvládne DeepSeek V3 Q3, Mistral Large 3, Qwen3-Coder-480B a všetky významné frontier modely s otvorenými váhami.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (pasívny dátocentrický chladič, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS/karta, natívne fp8) |
| Spoločná VRAM | 384 GB ECC súhrnne naprieč 4 kartami |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 liniek) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 sloty DIMM voľné na rozšírenie na 512 GB) |
| Systémový disk / úložisko | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 2x 2.5 kW ATX so synchronizačným káblom pre dva zdroje (spolu 5 kW) |
| Šasi | 4U rackové |
| Chladenie | Vežový chladič SP3 (trieda Arctic Freezer 4U-M) + usmernené prúdenie vzduchu spredu dozadu (3x 120 mm predné nasávanie + 1x 120 mm zadné odsávanie). Pasívne GPU karty — vyžadujú prúdenie vzduchu dátocentrického šasi. |
| Sieť | Integrované dvojité 10 GbE (Intel X550) |
Energetická bilancia
- Odber GPU: 4 x 600 W = 2 400 W
- Celý systém pri plnej záťaži: ~2 775 W
- Celkový výkon zdrojov: 5 000 W (dva synchronizované 2.5 kW) — 44.5% rezerva
- Dva zdroje pre rozdelené napájanie — výpadok jedného zdroja = strata 2 GPU alebo 2 GPU + základnej dosky
Topológia liniek
ROMED8-2T poskytuje 7x PCIe 4.0 x16 priamo z EPYC Milan. Štyri sloty sú osadené — tri zostávajú voľné pre NIC, úložisko či telemetriu. RTX Pro 6000 je kremík schopný Gen5; na tejto platforme beží na Gen4 v plnom x16 — pre inferenciu bez obmedzenia priepustnosti. Bez PCIe prepínača. Bez NVLinku.
Čo na ňom spustíte
So 384 GB spoločnej ECC VRAM na kremíku Blackwell s natívnym fp8 tento server pohodlne udrží priamo na kartách DeepSeek V3 / R1 v Q3, Mistral Large 3 Q3, GLM-5 Q3, Qwen3-Coder-480B Q3 aj Llama 3.3 70B v bf16 na jedinej karte (96 GB na kartu).
LLM — text / uvažovanie / programovanie
Čínska špička
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) pohodlne priamo na kartách (~30-40 tok/s pri jednom dotaze, publikovaná referencia); natívne fp8 (~670 GB) s odkladaním do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, tesné, s odkladaním do RAM) — špičkový otvorený kódovací agent (~18-25 tok/s pri jednom dotaze, publikovaná referencia)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) s veľmi dlhým kontextom a dávkovaním pre viacerých používateľov
- GLM-5 / GLM-5.1 Q3 (~317 GB) — čínska špička, v programovaní blízko Claude Opus 4.6
- Kimi-K2 1.58-bit UD (~240 GB) — biliónparametrový agent s reálnou priepustnosťou
- Hunyuan-Large 389B/52B Q4 (~220 GB), natívne fp8 (~390 GB s odkladaním)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) s kontextom 1M
- Llama 3.3 70B bf16 celá na jednej karte (96 GB na kartu — bez potreby tensor-parallel)
Západná špička
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — západné frontier otvorené váhy (~20-30 tok/s pri jednom dotaze, publikovaná referencia)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) so štedrým rozpočtom na KV (~45-55 tok/s pri jednom dotaze, publikovaná referencia)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b natívne MXFP4 (80 GB) s obrovskou rezervou pre súbežné nasadenie
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — špičkový otvorený kódovací model s kontextom 256k
- Llama 3.3 70B bf16 na jednej karte; možné sú 4 súbežné nasadenia modelu 70B
Vizuálno-jazykové modely
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 na TP. Blackwell fp8 prináša pri inferencii vizuálnej vetvy približne dvojnásobnú priepustnosť oproti Ada.
Generovanie obrázkov
FLUX.1 [dev] / Kontext / Tools natívne v fp8 (~15-20 s na obrázok 1024x1024 na jednej RTX Pro 6000, publikovaná referencia); SD 3.5 Large; HunyuanImage-2.1 (17B natívne 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 súbežní pracovníci ComfyUI.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B dual expert bf16; HunyuanVideo 13B bf16 oba experti; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / reč / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: MusicGen / AudioGen / Bark / SeamlessM4T
Viacmodelová a viacnájomná prevádzka
- DeepSeek V3 Q3 + súbežný 70B model + FLUX.1 + Whisper, všetko naraz v pamäti
- 4-cestný tensor-parallel na modeloch triedy 350-400B v Q4
- Izolácia nájomníkov po kartách — jedna Llama 3.3 70B bf16 v 96 GB na kartu, 4 nezávislé inferenčné sila
- Viacmodelový RAG: reader, reranker, vizuálny model aj embedder na jednom hostiteľovi
Cieľové workloady
- Inferenčný backend pre frontier modely s otvorenými váhami — DeepSeek V3 Q3, Qwen3-Coder-480B Q3, GLM-5 Q3
- Produkčná prevádzka multimodálnych agentov Llama 4 Maverick Q4 so štedrým rozpočtom na kontext
- Izolácia 4 nájomníkov po kartách — jedna Llama 3.3 70B bf16 na nájomníka, nulové prelínanie
- Natívna fp8 prevádzka DeepSeek / R1 / Hunyuan na kremíku Blackwell
- Mistral Large 3 Q3 ako západná frontier alternatíva s otvorenými váhami pod Apache-2.0
Publikované výkonnostné referencie
Externé referencie | Nemerané na hardvéri Kentino
| Benchmark | Výsledok |
|---|---|
| RTX Pro 6000 INT8 TOPS na kartu | 2 000 TOPS |
| RTX Pro 6000 priepustnosť pamäte | ~1 800 GB/s na kartu |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (jeden dotaz) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (dávka 8) | ~200 tok/s súhrnne |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (jeden dotaz) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (jeden dotaz) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na jednej RTX Pro 6000 | ~1.8 s na obrázok 1024x1024 |
Kentino zverejní vlastné namerané čísla po prvej zákazníckej zostave.
Nehodí sa na
- Jednopoužívateľské workloady do 70B — 4x RTX 5090 je pre 128 GB pool výrazne lacnejšia, ak nepotrebujete ECC a spoľahlivosť pasívneho chladenia
- Tiché laboratórium či nasadenie vedľa kancelárie — pasívny chladič vyžaduje poriadne dátocentrické prúdenie vzduchu spredu dozadu. Pre akusticky citlivé priestory zvoľte variant Max-Q s turbo ventilátorom (Kentino AI 384 Rome RTXPro6000MQ)
- Tréning frontier modelov od nuly (bez NVLinku)
- Celý DeepSeek V3 Q4 priamo na kartách (~404 GB) — prejdite na 6x RTX Pro 6000 / 576 GB
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOSu, inštaláciu ovládačov, záťažový test, memtest a funkčné overenie. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- Rozšírenie RAM na 512 GB DDR4 (pridať 2x 64 GB — 2 sloty DIMM sú voľné) pre rezervu pri odkladaní Q3 frontier kvantizácií
- 4 TB NVMe Gen4 x4 pre knižnicu frontier modelov (samotný DeepSeek V3 Q3 má na disku ~290 GB)
- Kompletný 24U rackový rozvádzač s manažovateľnou PDU a online UPS
- Alternatívna silueta: variant Max-Q s turbo ventilátorom (Kentino AI 384 Rome RTXPro6000MQ) — rovnaký kremík, tichší blower chladič, pre nasadenie v laboratóriu
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.