Kentino AI 96 Rome RTXPro6000 2000TOPS — jednokartowy serwer stacji roboczej Blackwell 96 GB
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Jednokartowy serwer klasy stacji roboczej z 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Jedna karta, 96 GB pamięci ECC VRAM, cały potok tensorowy Blackwell. Gęsty model 70B w bf16 na jednym GPU — bez narzutu równoległości tensorowej.
Serwer klasy stacji roboczej do montażu w szafie rack 4U z jedną kartą NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), jednym procesorem AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, dyskiem rozruchowym NVMe 2 TB i jednym zasilaczem ATX 2 kW z 54 % zapasu. Najprostsza ścieżka programowa w ofercie Kentino — bez konfiguracji równoległości tensorowej, bez debugowania wielu GPU. vLLM, SGLang, llama.cpp i ComfyUI pracują na jednym urządzeniu i po prostu działają.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC na jednej karcie — bez łączenia pamięci, bez narzutu równoległości tensorowej |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linii PCIe 4.0) |
| Płyta główna | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Pamięć systemowa | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Rozruch / pamięć masowa | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | 1x zasilacz ATX 2 kW |
| Obudowa | Montaż w szafie rack 4U (pojemność 4 sloty, 1 zajęty — miejsce na rozbudowę) |
| Chłodzenie | Arctic Freezer 4U-M SP3 w układzie Tower + 3x 120 mm wlot z przodu + 1x 120 mm wylot z tyłu |
| Sieć | Zintegrowane podwójne 10 GbE (Intel X550) |
Bilans mocy
- Pobór GPU: 1 x 600 W = 600 W
- Cały system przy pełnym obciążeniu: ~925 W
- Zasilacz łącznie: 2 000 W — 53.8 % zapasu
- Jeden zasilacz, proste okablowanie — duży zapas dla konstrukcji jednokartowej
Topologia linii
PCIe Gen4 x16 przy GPU (karta jest natywnie Gen5; płyta Rome ogranicza do Gen4). Bezpośrednie połączenie z kompleksem głównym — bez przełącznika PCIe. NVLink nie jest potrzebny — jedna karta, brak jakiegokolwiek łącza między GPU. Sześć slotów x16 pozostaje wolnych na kartę sieciową / pamięć masową / rozbudowę.
Co można uruchomić
Dzięki 96 GB pamięci ECC VRAM na jednej karcie Blackwell serwer obsłuży gęsty model 70B w bf16 na jednym GPU, modele LLM o otwartych wagach, modele wizyjne, generowanie obrazu i wideo, AI mowy oraz inferencję produkcyjną — bez koordynacji równoległości tensorowej.
LLM — tekst / rozumowanie / kodowanie
Chińska czołówka
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-32B gęsty bf16 (~65 GB) z obszernym KV; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s w jednym strumieniu); Qwen3-30B-A3B MoE bf16; Qwen3-Coder-30B-A3B agentowy przy 256k ctx; Qwen3.5-122B-A10B Q4 (~70 GB) przy ciasnym KV; QwQ-32B bf16 do rozumowania
- DeepSeek: DeepSeek-R2 32B rzadki MoE bf16 (~64 GB, 92.7 % AIME 2025 na jednej karcie); DeepSeek-R1-Distill-Qwen-32B bf16; DeepSeek-V2-Lite 16B w pełnej precyzji
- GLM / Z.ai: GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB); GLM-4.6V 106B Q4
- Tencent Hunyuan: Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) z 256k ctx i dwutrybowym rozumowaniem
- ByteDance Seed-OSS-36B bf16 (~72 GB, ciasno) lub fp8 (~36 GB) z pełnym natywnym kontekstem 512k
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 z długim kontekstem
Zachodnia czołówka
- Meta Llama: Llama 3.3 70B w bf16 (~70 GB) na jednej karcie z 8-16k ctx — konfiguracja flagowa; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s w jednym strumieniu); Llama 3.1 8B bf16 (~80-120 tok/s); Llama 3.2 90B Vision Q4 (~52 GB); Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B) — wszystkie w bf16 z 256k ctx; Mixtral 8x7B Q6; Codestral Mamba 7B; Pixtral 12B bf16
- OpenAI (otwarte wagi): gpt-oss-20b natywnie MXFP4 (16 GB); gpt-oss-120b natywnie MXFP4 (80 GB) — jedna karta, jeden strumień
- Google Gemma 3: 27B multimodalny bf16 (~54 GB) ze 128k ctx; 12B / 4B bf16
- Microsoft Phi-4 14B gęsty bf16; Phi-4-reasoning; Phi-4-multimodal
- NVIDIA Nemotron: Llama-3.1-Nemotron-Super 49B Q6 (~40 GB); Nemotron-Nano 8B
- Pozostałe: IBM Granite 4.0 H-Small 32B/9B; OLMo 2 32B; Reka Flash 3 21B; Falcon H1R 7B; Command R 35B
Modele wizyjno-językowe
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B; InternVL3 do 78B Q4 (~48 GB); InternVL3.5-38B bf16; DeepSeek-VL2 w pełnej gamie; Llama 3.2 11B Vision bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Molmo 72B Q4; Molmo 7B bf16; Gemma 3 12B / 27B multimodalne; PaliGemma 2 28B; Phi-3.5-Vision; Aya Vision 8B / 32B; MiniCPM-V 2.6 / MiniCPM-o 2.6; GLM-4.6V.
Generowanie obrazu
FLUX.1 [dev] / [schnell] bf16 (~24 GB) oraz w wersji skwantyzowanej (~15-25 s/obraz przy fp8); FLUX.1 Kontext [dev] do edycji w kontekście; FLUX Tools (Fill / Depth / Canny / Redux); SD 3.5 Large bf16 (~18 GB); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB) natywnie w 2K; HunyuanDiT 1.5B; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, obaj eksperci rezydentni); Wan 2.2 TI2V-5B w ścieżce szybkiej; HunyuanVideo 13B bf16 (~60-80 GB, ciasno przy 720p); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 (11B) bf16; Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / mowa / TTS
- ASR: Whisper v3 large / turbo (~50x szybciej niż czas rzeczywisty); NVIDIA Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open; Coqui XTTS v2; StyleTTS 2; Step-Audio-EditX
- Czas rzeczywisty / S2S: Kyutai Moshi (200 ms, pełny dupleks); Step-Audio 2 mini; Step-Audio-R1 / R1.1; Qwen2.5-Omni-7B
- Muzyka / efekty dźwiękowe: Meta MusicGen; AudioGen; Suno Bark; SeamlessM4T v2
Serwowanie wielu modeli / wielodostępowe
- Jednodostępowy strumieniowy asystent kodowania — gęsty 70B bf16, niskie opóźnienia, bez narzutu TP
- Mieszany stos rezydentny: Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi na jednej karcie z podzieloną pamięcią VRAM
- Dostrajanie: LoRA / QLoRA na modelach 13-34B; pełnoparametrowe na 7B
- Usługa osadzeń: BGE-M3 / E5 / Jina rezydentne obok generatywnego LLM
Docelowe obciążenia
- Jednodostępowy strumieniowy asystent kodowania na Llama 3.3 70B bf16 lub Qwen3-Coder-30B-A3B — bez narzutu koordynacji TP
- Stacja robocza dla pojedynczego inżyniera lub zgranego zespołu, który potrzebuje modelu klasy 70B z kontekstem 32-128k
- Pracownia generowania wideo lub obrazu — HunyuanVideo 13B, Wan 2.2 z dwoma ekspertami, HunyuanImage-2.1 — wszystkie rezydentne w bf16
- Stanowisko VLM / OCR — Qwen3-VL-32B bf16 lub InternVL3.5-38B z potokami długich dokumentów
- Przejrzyste urządzenie pod niewielką bramę API dla LLM — jeden model, jedna karta, prosta obsługa
Zmierzona wydajność
Opublikowane źródła | karta katalogowa NVIDIA RTX Pro 6000 Blackwell + benchmarki społeczności
| Benchmark | Wynik |
|---|---|
| INT8 TOPS na kartę (karta katalogowa NVIDIA) | 2 000 TOPS |
| VRAM na kartę | 96 GB ECC GDDR7 |
| Przepustowość pamięci | ~1 800 GB/s |
| Llama 3.3 70B Q6 na jednym GPU (społeczność) | 40-55 tok/s w jednym strumieniu |
| Llama 3.3 70B bf16 na jednym GPU (społeczność) | 15-25 tok/s w jednym strumieniu |
| Natywne fp8 w Blackwell | DeepSeek-V3 fp8 i Hunyuan-A13B fp8 działają bez konwersji do bf16 |
Opublikowane źródła zewnętrzne, a nie pomiary na sprzęcie Kentino. Własne wyniki Kentino opublikuje po pierwszej konfiguracji klienckiej.
Mniej odpowiedni do
- Trenowania dużych modeli od zera (jedno GPU — brak równoległości tensorowej i potokowej)
- Czołowych modeli MoE 200B+ w realnych kwantyzacjach (Qwen3-235B Q4, GLM-4.5/4.6 — wskazany Kentino AI 192 RTXPro6000 lub większy)
- Inferencji wielodostępowej o wysokiej współbieżności (jedna karta ogranicza łączną przepustowość; 4x RTX 4090 lub 4x L40 skalują się lepiej)
Gwarancja i termin realizacji
3-letnia gwarancja NVIDIA OEM na RTX Pro 6000 plus gwarancja integracji Kentino. Konfiguracja obejmuje montaż, ustawienia BIOS, instalację sterowników, testy wygrzewające oraz weryfikację działania. Termin realizacji zależy od dostępności komponentów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- Rozszerzenie pamięci RAM do 512 GB (dołożenie 4x 64 GB DDR4 — cztery gniazda DIMM pozostają wolne)
- Dodatkowy dysk NVMe 4 TB na bibliotekę modeli / przygotowanie zbiorów danych
- Otwarta szafa 24U do montażu produkcyjnego
- Dla prędkości łącza Gen5 x16 warto rozważyć wariant na platformie Genoa, dostępny na zamówienie
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.