Kentino AI 96 Rome RTXPro6000 2000TOPS — jednokartový workstation server s 96 GB Blackwell
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Workstation server s jednou kartou a 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Jedna karta, 96 GB ECC VRAM, celá tensor pipeline Blackwell. 70B dense bf16 na jedinom GPU — bez réžie tensor-parallel.
Workstation server do racku s výškou 4U s jednou kartou NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), jedným CPU AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, 2 TB NVMe pre systém a jedným 2 kW ATX zdrojom s 54 % rezervou. Najjednoduchšia softvérová cesta, akú Kentino dodáva — žiadna konfigurácia tensor-parallel, žiadne ladenie multi-GPU. vLLM, SGLang, llama.cpp aj ComfyUI bežia na jednom zariadení a jednoducho fungujú.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC na jedinej karte — bez zlučovania pamäte, bez réžie tensor-parallel |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x liniek PCIe 4.0) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Systémový disk / úložisko | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 1x 2 kW ATX zdroj |
| Šasi | 4U do racku (kapacita 4 sloty, 1 osadený — priestor na rozšírenie) |
| Chladenie | Arctic Freezer 4U-M SP3 tower + 3x 120 mm predné sanie + 1x 120 mm zadný výfuk |
| Sieť | Integrované dve 10 GbE (Intel X550) |
Energetická bilancia
- Odber GPU: 1 x 600 W = 600 W
- Celý systém pri plnej záťaži: ~925 W
- Celkový výkon zdroja: 2 000 W — 53.8 % rezerva
- Jeden zdroj, jednoduchá kabeláž — veľkorysá rezerva pre zostavu s jednou kartou
Topológia liniek
PCIe Gen4 x16 na GPU (karta je natívne Gen5; doska Rome je limitovaná na Gen4). Priame pripojenie na root complex — bez PCIe prepínača. NVLink nie je potrebný — jedna karta, žiadne prepojenie medzi GPU. Šesť slotov x16 zostáva voľných pre NIC / úložisko / rozšírenia.
Čo na ňom spustíte
So 96 GB ECC VRAM na jedinej karte Blackwell tento server zvládne 70B dense bf16 na jednom GPU, LLM s otvorenými váhami, vizuálne modely, generovanie obrazu a videa, rečovú AI aj produkčnú inferenciu — bez akejkoľvek koordinácie tensor-parallel.
LLM — text / uvažovanie / programovanie
Čínska špička
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-32B dense bf16 (~65 GB) s veľkorysou KV; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s v jednom prúde); Qwen3-30B-A3B MoE bf16; Qwen3-Coder-30B-A3B agentic pri 256k ctx; Qwen3.5-122B-A10B Q4 (~70 GB) s tesnou KV; QwQ-32B bf16 reasoning
- DeepSeek: DeepSeek-R2 32B sparse MoE bf16 (~64 GB, 92.7 % AIME 2025 na jednej karte); DeepSeek-R1-Distill-Qwen-32B bf16; DeepSeek-V2-Lite 16B v plnej presnosti
- GLM / Z.ai: GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB); GLM-4.6V 106B Q4
- Tencent Hunyuan: Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) s 256k ctx a dvojrežimovým uvažovaním
- ByteDance Seed-OSS-36B bf16 (~72 GB, tesne) alebo fp8 (~36 GB) s plným natívnym kontextom 512k
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 s dlhým kontextom
Západná špička
- Meta Llama: Llama 3.3 70B v bf16 (~70 GB) na jedinej karte s 8-16k ctx — hlavná konfigurácia; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s v jednom prúde); Llama 3.1 8B bf16 (~80-120 tok/s); Llama 3.2 90B Vision Q4 (~52 GB); Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B) všetky v bf16 s 256k ctx; Mixtral 8x7B Q6; Codestral Mamba 7B; Pixtral 12B bf16
- OpenAI (otvorené váhy): gpt-oss-20b natívne MXFP4 (16 GB); gpt-oss-120b natívne MXFP4 (80 GB) — jedna karta, jeden prúd
- Google Gemma 3: 27B multimodálny bf16 (~54 GB) so 128k ctx; 12B / 4B bf16
- Microsoft Phi-4 14B dense bf16; Phi-4-reasoning; Phi-4-multimodal
- NVIDIA Nemotron: Llama-3.1-Nemotron-Super 49B Q6 (~40 GB); Nemotron-Nano 8B
- Ďalšie: IBM Granite 4.0 H-Small 32B/9B; OLMo 2 32B; Reka Flash 3 21B; Falcon H1R 7B; Command R 35B
Vizuálno-jazykové modely
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B; InternVL3 až do 78B Q4 (~48 GB); InternVL3.5-38B bf16; DeepSeek-VL2 v plnom rozsahu; Llama 3.2 11B Vision bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Molmo 72B Q4; Molmo 7B bf16; Gemma 3 12B / 27B multimodálny; PaliGemma 2 28B; Phi-3.5-Vision; Aya Vision 8B / 32B; MiniCPM-V 2.6 / MiniCPM-o 2.6; GLM-4.6V.
Generovanie obrazu
FLUX.1 [dev] / [schnell] bf16 (~24 GB) aj kvantizovaný (~15-25 s/obrázok pri fp8); FLUX.1 Kontext [dev] na kontextové úpravy; FLUX Tools (Fill / Depth / Canny / Redux); SD 3.5 Large bf16 (~18 GB); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB) v natívnom 2K; HunyuanDiT 1.5B; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Generovanie videa
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, obaja experti v pamäti); Wan 2.2 TI2V-5B rýchla vetva; HunyuanVideo 13B bf16 (~60-80 GB, tesne pri 720p); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 (11B) bf16; Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / reč / TTS
- ASR: Whisper v3 large / turbo (~50x reálny čas); NVIDIA Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open; Coqui XTTS v2; StyleTTS 2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi (200 ms plne duplexne); Step-Audio 2 mini; Step-Audio-R1 / R1.1; Qwen2.5-Omni-7B
- Hudba / SFX: Meta MusicGen; AudioGen; Suno Bark; SeamlessM4T v2
Viacmodelová / viacnájomná prevádzka
- Streamovací programátorský asistent pre jedného nájomcu — 70B dense bf16, nízka latencia, bez penalizácie TP
- Zmiešaný stack v pamäti: Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi na jednej karte s rozdelenou VRAM
- Doladenie: LoRA / QLoRA na modeloch 13-34B; plné doladenie parametrov na 7B
- Embedding služba: BGE-M3 / E5 / Jina v pamäti vedľa generatívneho LLM
Cieľové workloady
- Streamovací programátorský asistent pre jedného nájomcu s Llama 3.3 70B bf16 alebo Qwen3-Coder-30B-A3B — bez réžie koordinácie TP
- Vývojársky workstation pre jedného inžiniera alebo malý tím, ktorý potrebuje model triedy 70B s kontextom 32-128k
- Laboratórium na generovanie videa alebo obrazu — HunyuanVideo 13B, Wan 2.2 s dvoma expertmi aj HunyuanImage-2.1 naraz v bf16 v pamäti
- VLM / OCR pracovisko — Qwen3-VL-32B bf16 alebo InternVL3.5-38B s pipeline pre dlhé dokumenty
- Čisté riešenie pre malú LLM API bránu — jeden model, jedna karta, jednoduchá prevádzka
Namerané hodnoty
Publikované zdroje | datasheet NVIDIA RTX Pro 6000 Blackwell + komunitné benchmarky
| Benchmark | Výsledok |
|---|---|
| INT8 TOPS na kartu (datasheet NVIDIA) | 2 000 TOPS |
| VRAM na kartu | 96 GB ECC GDDR7 |
| Priepustnosť pamäte | ~1 800 GB/s |
| Llama 3.3 70B Q6 na jednom GPU (komunita) | 40-55 tok/s v jednom prúde |
| Llama 3.3 70B bf16 na jednom GPU (komunita) | 15-25 tok/s v jednom prúde |
| Natívny fp8 na Blackwell | DeepSeek-V3 fp8 a Hunyuan-A13B fp8 bežia bez prevodu na bf16 |
Publikované externé zdroje, nemerané na hardvéri Kentino. Kentino zverejní vlastné čísla po prvej zákazníckej zostave.
Na čo nie je ideálny
- Tréning veľkých modelov od nuly (jedno GPU — žiadny tensor ani pipeline paralelizmus)
- Špičkové MoE modely nad 200B v reálnych kvantizáciách (Qwen3-235B Q4, GLM-4.5/4.6 — použite Kentino AI 192 RTXPro6000 alebo väčší)
- Viacnájomná inferencia s vysokou súbežnosťou (jedna karta obmedzuje celkovú priepustnosť; 4x RTX 4090 alebo 4x L40 škálujú lepšie)
Záruka a dodacia lehota
3-ročná záruka NVIDIA OEM na RTX Pro 6000 + integračná záruka Kentino. Zostava zahŕňa montáž, konfiguráciu BIOSu, inštaláciu ovládačov, záťažové testovanie a funkčné overenie. Dodacia lehota závisí od dostupnosti komponentov a potvrdzuje sa pri objednávke.
Odporúčané doplnky
- Rozšírenie RAM na 512 GB (pridajte 4x 64 GB DDR4 — štyri DIMM sloty sú stále voľné)
- Sekundárny 4 TB NVMe disk pre knižnicu modelov / prípravu datasetov
- Otvorený 24U rack na produkčné osadenie
- Pre linku Gen5 x16 zvážte na požiadanie variant na platforme Genoa
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.