Kentino AI 96 Rome RTXPro6000 2000TOPS — jednokartový 96GB Blackwell workstation server
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Jednokartový workstation server s 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Jedna karta, 96 GB ECC VRAM, celá tenzorová pipeline Blackwell. Model 70B dense v bf16 na jediné GPU — bez režie tensor-parallel.
Workstation server do racku o výšce 4U s jedinou kartou NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), jedním procesorem AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, 2TB NVMe pro systém a jedním 2kW ATX zdrojem s 54% rezervou. Softwarově nejjednodušší cesta, jakou Kentino dodává — žádná konfigurace tensor-parallel, žádné ladění více GPU. vLLM, SGLang, llama.cpp i ComfyUI běží na jednom zařízení a prostě fungují.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC na jediné kartě — žádné sdružování, žádná režie tensor-parallel |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linka PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Systémový disk / úložiště | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | 1x 2kW ATX zdroj |
| Šasi | 4U do racku (kapacita 4 sloty, 1 osazený — prostor pro rozšíření) |
| Chlazení | Arctic Freezer 4U-M SP3 tower + 3x 120mm přední sání + 1x 120mm zadní výfuk |
| Síť | Integrovaná dvojice 10 GbE (Intel X550) |
Energetická bilance
- Odběr GPU: 1 x 600 W = 600 W
- Celek systému při plné zátěži: ~925 W
- Celkový výkon zdroje: 2 000 W — rezerva 53.8 %
- Jeden zdroj, jednoduchá kabeláž — štědrá rezerva pro jednokartovou sestavu
Topologie linek
PCIe Gen4 x16 u GPU (karta je nativně Gen5, deska Rome je ale omezena na Gen4). Přímé spojení s root complexem — bez PCIe přepínače. NVLink není potřeba — jediná karta, žádné propojení mezi GPU. Šest slotů x16 zůstává volných pro síťovou kartu, úložiště nebo další rozšíření.
Co na něm můžete provozovat
S 96 GB ECC VRAM na jediné kartě Blackwell tento server zvládne model 70B dense v bf16 na jedné GPU, LLM s otevřenými vahami, vision modely, generování obrázků i videa, řečovou AI a produkční inferenci — bez jakékoli koordinace tensor-parallel.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-32B dense bf16 (~65 GB) se štědrou KV cache; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s v jednom streamu); Qwen3-30B-A3B MoE bf16; Qwen3-Coder-30B-A3B agentně při 256k ctx; Qwen3.5-122B-A10B Q4 (~70 GB) s úspornou KV cache; QwQ-32B bf16 pro uvažování
- DeepSeek: DeepSeek-R2 32B sparse MoE bf16 (~64 GB, 92.7 % AIME 2025 na jedné kartě); DeepSeek-R1-Distill-Qwen-32B bf16; DeepSeek-V2-Lite 16B v plné přesnosti
- GLM / Z.ai: GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB); GLM-4.6V 106B Q4
- Tencent Hunyuan: Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) s 256k ctx a dvourežimovým uvažováním
- ByteDance Seed-OSS-36B bf16 (~72 GB, těsné) nebo fp8 (~36 GB) s plným nativním kontextem 512k
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 s dlouhým kontextem
Západní špička
- Meta Llama: Llama 3.3 70B v bf16 (~70 GB) na jediné kartě s 8-16k ctx — hlavní konfigurace; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s v jednom streamu); Llama 3.1 8B bf16 (~80-120 tok/s); Llama 3.2 90B Vision Q4 (~52 GB); Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B) vše v bf16 s 256k ctx; Mixtral 8x7B Q6; Codestral Mamba 7B; Pixtral 12B bf16
- OpenAI (otevřené váhy): gpt-oss-20b nativně MXFP4 (16 GB); gpt-oss-120b nativně MXFP4 (80 GB) — jedna karta, jeden stream
- Google Gemma 3: 27B multimodální bf16 (~54 GB) se 128k ctx; 12B / 4B bf16
- Microsoft Phi-4 14B dense bf16; Phi-4-reasoning; Phi-4-multimodal
- NVIDIA Nemotron: Llama-3.1-Nemotron-Super 49B Q6 (~40 GB); Nemotron-Nano 8B
- Další: IBM Granite 4.0 H-Small 32B/9B; OLMo 2 32B; Reka Flash 3 21B; Falcon H1R 7B; Command R 35B
Vision-language modely
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B; InternVL3 až do 78B Q4 (~48 GB); InternVL3.5-38B bf16; DeepSeek-VL2 v celé řadě; Llama 3.2 11B Vision bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Molmo 72B Q4; Molmo 7B bf16; Gemma 3 12B / 27B multimodální; PaliGemma 2 28B; Phi-3.5-Vision; Aya Vision 8B / 32B; MiniCPM-V 2.6 / MiniCPM-o 2.6; GLM-4.6V.
Generování obrázků
FLUX.1 [dev] / [schnell] bf16 (~24 GB) i kvantizované (~15-25 s na obrázek při fp8); FLUX.1 Kontext [dev] pro editaci v kontextu; FLUX Tools (Fill / Depth / Canny / Redux); SD 3.5 Large bf16 (~18 GB); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB) nativně ve 2K; HunyuanDiT 1.5B; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Generování videa
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, oba experti v paměti); Wan 2.2 TI2V-5B jako rychlá varianta; HunyuanVideo 13B bf16 (~60-80 GB, těsné při 720p); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 (11B) bf16; Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Zvuk / řeč / TTS
- ASR: Whisper v3 large / turbo (~50x rychleji než v reálném čase); NVIDIA Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open; Coqui XTTS v2; StyleTTS 2; Step-Audio-EditX
- Realtime / S2S: Kyutai Moshi (plně duplexně, 200 ms); Step-Audio 2 mini; Step-Audio-R1 / R1.1; Qwen2.5-Omni-7B
- Hudba / zvukové efekty: Meta MusicGen; AudioGen; Suno Bark; SeamlessM4T v2
Provoz více modelů / více nájemců
- Streamovací kódovací asistent pro jednoho nájemce — 70B dense bf16, nízká latence, bez penalizace za TP
- Kombinovaná sestava v paměti: Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi na jedné kartě s rozdělenou VRAM
- Doučování: LoRA / QLoRA na modelech 13-34B; plné doučování všech parametrů na 7B
- Embedding služba: BGE-M3 / E5 / Jina v paměti vedle generativního LLM
Cílové workloady
- Streamovací kódovací asistent pro jednoho nájemce s Llama 3.3 70B bf16 nebo Qwen3-Coder-30B-A3B — bez režie na koordinaci TP
- Vývojářský workstation pro jednoho inženýra nebo malý tým, který potřebuje model třídy 70B s kontextem 32-128k
- Laboratoř pro generování videa nebo obrázků — HunyuanVideo 13B, Wan 2.2 se dvěma experty i HunyuanImage-2.1, vše v bf16 v paměti
- Pracoviště pro VLM / OCR — Qwen3-VL-32B bf16 nebo InternVL3.5-38B s pipelinami na dlouhé dokumenty
- Přehledné zařízení pro malou LLM API bránu — jeden model, jedna karta, snadný provoz
Naměřený výkon
Publikované zdroje | datasheet NVIDIA RTX Pro 6000 Blackwell + komunitní benchmarky
| Benchmark | Výsledek |
|---|---|
| INT8 TOPS na kartu (datasheet NVIDIA) | 2 000 TOPS |
| VRAM na kartu | 96 GB ECC GDDR7 |
| Propustnost paměti | ~1 800 GB/s |
| Llama 3.3 70B Q6 na jedné GPU (komunita) | 40-55 tok/s v jednom streamu |
| Llama 3.3 70B bf16 na jedné GPU (komunita) | 15-25 tok/s v jednom streamu |
| Nativní fp8 na Blackwellu | DeepSeek-V3 fp8 i Hunyuan-A13B fp8 běží bez převodu na bf16 |
Jde o publikované externí údaje, nikoli o měření na hardwaru Kentino. Vlastní naměřená čísla Kentino zveřejní po první zákaznické sestavě.
Pro co se nehodí
- Trénování velkých modelů od nuly (jediná GPU — žádný tensor ani pipeline paralelismus)
- Špičkové MoE modely nad 200B v reálných kvantizacích (Qwen3-235B Q4, GLM-4.5/4.6 — použijte Kentino AI 192 RTXPro6000 nebo větší)
- Inference pro mnoho souběžných nájemců (jedna karta omezuje celkovou propustnost; 4x RTX 4090 nebo 4x L40 škálují lépe)
Záruka a dodací lhůta
Tříletá záruka NVIDIA OEM na RTX Pro 6000 a k tomu záruka Kentino na integraci. Sestava zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžové testování a funkční ověření. Dodací lhůta závisí na dostupnosti komponent a potvrzujeme ji při objednávce.
Doporučená rozšíření
- Navýšení RAM na 512 GB (doplnění 4x 64 GB DDR4 — čtyři sloty DIMM zůstávají volné)
- Druhý NVMe disk 4 TB pro knihovnu modelů / přípravu datasetů
- Otevřený rack 24U pro produkční nasazení
- Pokud potřebujete linku Gen5 x16, zvažte na vyžádání variantu na platformě Genoa
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.