Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Flagowa para Blackwell 192 GB ECC
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Dwie pasywne karty RTX Pro 6000 Blackwell Server Edition — po 96 GB ECC każda. Mniejszy narzut równoległości tensorowej niż w konfiguracjach 4- lub 8-kartowych. Flagowa para klasy centrum danych na platformie 2U Gen5/DDR5 z prawdziwym zasilaniem redundantnym 1+1.
Serwer inferencyjny do montażu w racku 2U z dwiema pasywnymi kartami RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 na kartę), jednym procesorem AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB NVMe Gen5 klasy centrum danych oraz redundantnym zasilaczem 1+1 o mocy 2.7 kW w standardzie 80+ Platinum CRPS. Cena od 56 600 € bez VAT. Dla modeli gęstych 70B w bf16 i średniej wielkości MoE mniejsza liczba dużych kart bije większą liczbę małych — równoległość tensorowa na dwóch kartach ma minimalny narzut komunikacyjny, a każda karta 96 GB mieści kompletną kopię większości modeli.
Ta sama para Blackwell 192 GB co w naszej konfiguracji 4U Rome, tyle że w gęstej rackowo obudowie ASRock 2U, z pełnym Gen5 po stronie hosta, pamięcią DDR5-4800 i prawdziwym redundantnym zasilaczem 1+1 2.7 kW Platinum CRPS. Ta konfiguracja sprawdza się tam, gdzie liczy się gęstość w racku, gdzie grant lub specyfikacja przetargowa wymaga nowoczesnej platformy PCIe 5.0 / DDR5 albo gdzie redundantne zasilanie jest wymogiem, a nie dodatkiem.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (pasywne, 600 W, PCIe 5.0 x16, dwa sloty) |
| Pula VRAM | 192 GB ECC (96 GB x 2) — każda karta samodzielnie mieści model 70B w bf16 |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x linii PCIe 5.0, Zen5c, 256 MB L3) |
| Płyta główna | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 dwuslotowe pod GPU, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Pamięć systemowa | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC w pełni obsadzone — konfiguracja o maksymalnej przepustowości) |
| Rozruch / pamięć masowa | Kioxia CD8-P 3.84 TB Gen5 U.3 (warstwa gorąca, 1 DWPD, odczyt ~12 GB/s) + Kioxia CD8-P 1.92 TB Gen5 U.3 (warstwa rozruchowa systemu) — łącznie 5.76 TB NVMe Gen5 klasy centrum danych |
| Zasilacz | Redundantny 1+1 2.7 kW 80+ Platinum CRPS (2x 1350 W przy 230 V) — prawdziwa redundancja N+1; jeden zasilacz utrzymuje pełne obciążenie inferencyjne |
| Obudowa | Rack 2U z ukierunkowanym przepływem powietrza od przodu do tyłu (wentylatory 80 mm o wysokim ciśnieniu statycznym). Przystosowana do pracy 24/7. |
| Chłodzenie | Aktywny radiator CPU SP5 + 3x wlot przedni 80x38 mm + 1x wylot tylny 80x80 mm (zaprojektowane pod obciążenie cieplne 4x pasywnych GPU; układ dwukartowy daje duży zapas termiczny) |
| Sieć | Intel X710-T2L PCIe dual 10GBASE-T + wolny slot OCP 3.0 na rozbudowę do 25/100 GbE |
Bilans mocy
- Pobór GPU: 2x 600 W = 1 200 W
- Pobór całego systemu przy pełnym obciążeniu: ~1 510 W
- Konfiguracja zasilaczy: redundantne CRPS 1+1, 2x 1350 W przy 230 V (łącznie 2 700 W)
- Zapas mocy: 44.1 % przy typowym obciążeniu inferencyjnym
- Prawdziwa redundancja N+1 — jeden zasilacz utrzymuje pełne obciążenie inferencyjne; brak ryzyka awarii pojedynczego zasilacza
Topologia linii PCIe
PCIe Gen5 x16 na całej drodze — zarówno host, jak i karty natywnie w Gen5. Bezpośrednie połączenie z root complex, bez przełącznika PCIe. Pozostają wolne: jeden jednoslotowy PCIe 5.0 x16 oraz jeden PCIe 5.0 x8 (slot x8 zajmuje karta sieciowa). Brak NVLink — komunikacja peer-to-peer między GPU przez PCIe. Przepustowość Gen5 eliminuje ograniczenie hosta Gen4 obecne w bliźniaczej konstrukcji 4U Rome.
Co można na tym uruchomić
Przy 192 GB VRAM ECC na zaledwie dwóch kartach Blackwell z natywnym fp8/fp4 jest to najczystsza droga do modeli gęstych 70B w bf16 i średniej wielkości MoE. Dwa niezależne strumienie 70B — po jednym na kartę — albo MoE 200B rozłożone na obie karty przy minimalnym narzucie dwukierunkowego TP.
LLM — tekst / rozumowanie / programowanie
Czołówka chińska
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) komfortowo z długim kontekstem (~15-25 tok/s w pojedynczym strumieniu na 2 kartach); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B gęsty bf16 z ogromnym KV; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB z niewielkim przelewem do RAM) — Blackwell obsługuje fp8 natywnie; DeepSeek-R2 32B bf16 w dwóch równoległych strumieniach (po jednym na kartę)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — sztandarowa konfiguracja na tym poziomie; GLM-4.5-Air fp8 lub bf16 z ogromnym KV
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) — MoE 389B z kontekstem 256k; Hunyuan-A13B natywnie fp8 (~80 GB) z ogromnym KV
- Pozostałe: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Czołówka zachodnia
- Meta Llama: Llama 3.3 70B bf16 na jednej karcie — dwa niezależne równoległe strumienie 70B (~20-30 tok/s na strumień); Llama 4 Scout bf16 (~218 GB, na styk); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) na jednej karcie lub bf16 na obu; Mistral Small 3 w wielu strumieniach
- OpenAI (otwarte wagi): gpt-oss-120b natywnie MXFP4 (80 GB) — mieści się na JEDNEJ karcie, dwa niezależne równoległe strumienie
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 na pojedynczej karcie
- Pozostałe: Cohere Command R+ 104B Q6 (~85 GB) na jednej karcie; Google Gemma 3 27B bf16 w wielu równoległych strumieniach
Modele wizyjno-językowe
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 na jednej karcie; Pixtral Large 124B bf16 lub Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodalny x 2-3 równoległe strumienie.
Generowanie obrazu
FLUX.1 [dev] bf16 w wielu równoległych strumieniach; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 równolegle; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 równolegle; HunyuanImage-3.0 base (MoE 80B, 13B aktywnych) bf16 — mieści się na jednej karcie; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Generowanie wideo
Wan 2.2 MoE dwuekspertowy bf16 z pełnym kontekstem — mieści się na jednej karcie, dwa równoległe strumienie generowania; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 z obydwoma ekspertami; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / mowa / TTS
- ASR: Whisper v3 large / turbo (~50x szybciej niż w czasie rzeczywistym); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Czas rzeczywisty / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Muzyka / efekty dźwiękowe: MusicGen / AudioGen / Bark; SeamlessM4T v2
Serwowanie wielu modeli / wielu najemców
- Dwa niezależne strumienie 70B — po jednym na kartę, najprostsza forma izolacji najemców
- Gęsty 70B bf16 + stos wspierający — LLM na karcie 1, obraz/wideo/audio na karcie 2
- MoE 200B rozłożone na obie karty — minimalny narzut równoległości tensorowej (podział na dwie części)
- Natywne fp8 z czołówki — rodzina DeepSeek V3, Hunyuan-Large fp8 ze ścieżkami natywnymi Blackwell
Docelowe obciążenia
- Inferencja modeli gęstych 70B w bf16 — dwie karty w równoległości tensorowej przy minimalnym narzucie albo po jednym modelu na kartę dla strumieniowania
- MoE 100-150B w Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Inferencja czołowych modeli natywnie w FP8 (rodzina DeepSeek V3, Hunyuan, Llama 4) — Blackwell obsługuje fp8 natywnie
- Obliczenia naukowe wymagające przepustowości NVMe Gen5 klasy centrum danych i pamięci ECC
- Studio generowania obrazu i wideo w bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Wdrożenia ograniczone gęstością racka — format 2U zamiast odpowiednika 4U Rome przy tej samej ilości VRAM
- Specyfikacje przetargowe wymagające platformy PCIe 5.0 / DDR5 lub redundantnego zasilacza
Zmierzona wydajność
Opublikowane źródła | karta katalogowa NVIDIA RTX Pro 6000 Blackwell Server Edition + testy społeczności
| Test | Wynik |
|---|---|
| TOPS INT8 na kartę (karta katalogowa NVIDIA) | 2 000 TOPS |
| Łączne TOPS INT8 (2 karty) | 4 000 TOPS |
| Przepustowość pamięci na kartę | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 na kartę (społeczność) | 15-25 tok/s w pojedynczym strumieniu, 60-90 tok/s wsadowo — spodziewana poprawa dzięki ścieżce pamięci Gen5 po stronie hosta w strumieniowych obciążeniach wsadowych względem hosta Gen4 |
| Przewaga Gen5 po stronie hosta (jedna karta, ten sam krzem) | PCIe 5.0 x16 na całej drodze skraca opóźnienie transferu host-urządzenie przy strumieniowych obciążeniach wsadowych; zadania ograniczone mocą obliczeniową karty osiągają przepustowość identyczną jak w konfiguracjach z hostem Gen4 |
| Dwie karty w równoległości tensorowej, 70B (społeczność) | spodziewane ~30-45 tok/s w pojedynczym strumieniu |
| Natywny fp8 w Blackwell | DeepSeek-V3 fp8 i Hunyuan-A13B fp8 działają bez konwersji w górę do bf16 |
Opublikowane źródła zewnętrzne, nie pomiary na sprzęcie Kentino. Kentino opublikuje własne wyniki po pierwszej konfiguracji klienckiej.
Nie najlepszy wybór do
- Serwowania wielu najemców przy bardzo wysokiej współbieżności — 4x L40 lub 6x L4 rozkłada obciążenie lepiej na większą liczbę kart
- Dużej pamięci podręcznej KV przy bardzo długim kontekście — warto przejść na Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Treningu — Kentino nie sprzedaje struktur NVLink klasy H
- Budżetowej inferencji przy tej puli VRAM — konstrukcja 4U Rome Kentino AI 192 RTXPro6000 4000TOPS jest tańsza, jeśli host w Gen4 jest akceptowalny, a redundancja zasilacza nie jest wymagana
Gwarancja i czas realizacji
3-letnia gwarancja OEM NVIDIA na RTX Pro 6000 Server Edition + 36-miesięczna gwarancja na obudowę + gwarancja integracyjna Kentino. Konfiguracja obejmuje montaż, ustawienia BIOS/firmware, konfigurację IPMI, instalację sterowników, testy wygrzewające i weryfikację funkcjonalną. Czas realizacji 14-21 dni roboczych wynika z zamówienia u dystrybutora komponentów klasy Turin; jest potwierdzany przy składaniu zamówienia.
Zalecane dodatki
- Rozbudowa do konfiguracji 4-kartowej — obudowa natywnie ma 4 zatoki GPU (obecna konfiguracja wykorzystuje 2 z 4), ścieżka rozbudowy do Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Dodanie 25 GbE lub 100 GbE przez slot OCP 3.0 (Mellanox ConnectX-5/6 w wariancie OCP)
- Dodatkowe nośniki Kioxia CD8-P NVMe w 2 pozostałych zatokach U.2 pod RAID lub pamięć roboczą
- Podniesienie warstwy pamięci masowej do Samsung PM1743 lub Kioxia CM7-V dla wyższej wytrzymałości (3 DWPD)
- Szafa rack 24U + UPS online 5 kVA
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.