Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — 8× RTX Pro 6000 Blackwell Max-Q — serwer AI Frontier (Dual Turin)
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
768 GB ECC VRAM — flagowiec klasy frontier
8x RTX Pro 6000 Max-Q | dwa procesory EPYC Turin | 16 000 TOPS INT8
Wycena procesorów ustalana przy zamówieniu — rynek serii Turin 9005 zmienia się co tydzień w 2. kwartale 2026 roku.
Opublikowane źródła zewnętrzne. Nie mierzone na sprzęcie Kentino.
Szczyt oferty serwerów AI Kentino. Flagowa platforma inferencyjna klasy frontier w obudowie rack 7U, z ośmioma kartami NVIDIA RTX Pro 6000 Blackwell Max-Q z dmuchawami turbo, połączonymi w pulę 768 GB ECC VRAM, dwoma procesorami AMD EPYC Turin serii 9005 (Zen5c, SP5), 1.5 TB DDR5-4800 ECC (wszystkie 24 kanały obsadzone), nośnikiem startowym NVMe 4 TB oraz 5x zasilacz serwerowy 1200 W. PCIe Gen5 na całej trasie. DeepSeek V3 w natywnym fp8 (~670 GB) w pamięci kart. Kimi-K2 w Q4-Q5. 4 modele klasy frontier rezydentne jednocześnie.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| Karty GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (dmuchawa turbo, 600 W TDP wg specyfikacji, PCIe 5.0 x16, 2000 TOPS INT8 na kartę, natywne fp8) |
| Pula VRAM | Łącznie 768 GB na 8 kartach (bez NVLink — P2P przez PCIe Gen5 z prędkością ~55-60 GB/s w obrębie gniazda, między gniazdami przez łącze międzyprocesorowe) |
| CPU | 2x AMD EPYC Turin seria 9005 (Zen5c, SP5, PCIe 5.0) — wycena w toku, dokładny model potwierdzany przy zamówieniu |
| Płyta główna | ASRock Rack TURIN2D24XGM/500W (dwa gniazda SP5 Turin, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Pamięć systemowa | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — wszystkie 24 kanały obsadzone, ~920 GB/s łącznie) |
| Nośnik startowy / pamięć masowa | 4 TB NVMe M.2 (PCIe 4.0 x4) — pojemność dobrana pod punkty kontrolne modeli klasy frontier |
| Zasilanie | Zestaw 5 zasilaczy serwerowych 1200 W (łącznie 6 kW) |
| Obudowa | Rack 7U na 8 kart GPU, 10 slotów PCIe, aktywne risery Gen5 |
| Chłodzenie | 2x chłodzenie wieżowe na SP5 Turin + 8x wentylator obudowy Martech 120 mm. Każda karta GPU ma własną dmuchawę turbo. |
| Sieć | Zintegrowane dwa porty 10 GbE (Intel X550) |
Bilans mocy
- Pobór GPU (wg specyfikacji): 8 x 600 W = 4 800 W
- Pobór CPU: 2 x 360 W = 720 W (szacunek dla średniej półki Turin)
- Łącznie przy pełnym obciążeniu wg specyfikacji: ~5 720 W
- Łączna moc zasilaczy: 6 000 W — ~4.7% surowego zapasu wg specyfikacji
- W praktyce: Max-Q utrzymuje 520-550 W podczas inferencji, co podnosi trwały zapas do ponad ~20%
- Dostępne ograniczenie mocy w firmware do 520 W dla gwarantowanego zapasu
Topologia linii PCIe
Dwa procesory Turin zapewniają 2x 128 linii PCIe Gen5. TURIN2D24XGM/500W prowadzi 8 slotów GPU bezpośrednio do procesorów w trybie Gen5 x16 przez aktywne risery — po 4 sloty na każdy korzeń CPU. W ścieżce GPU nie ma przełącznika PCIe — czysta topologia dwukorzeniowa. Do optymalnej komunikacji peer-to-peer między gniazdami wymagane jest dostrojenie NUMA. Brak NVLink; P2P na poziomie ~55-60 GB/s w każdym kierunku w obrębie gniazda.
Co można na nim uruchomić
Dzięki puli 768 GB ECC VRAM — szczytowi możliwości Kentino — serwer ten uruchamia DeepSeek V3 w natywnym fp8 (~670 GB) w pamięci kart, komfortowo obsługuje Kimi-K2 w Q4-Q5 (~630 GB) oraz realizuje swoje sztandarowe zastosowanie: 4 modele klasy frontier rezydentne jednocześnie na potrzeby wielodostępowej obsługi produkcyjnej.
Modele LLM — tekst / rozumowanie / kodowanie
Chińska czołówka w kwantyzacjach produkcyjnych
- Kimi-K2 (Base / Instruct / Thinking) w Q4_K_M / Q5_K_M (~630 GB) komfortowo (~15-25 tok/s pojedynczo, dane publikowane) — flagowy chiński model klasy frontier na jednej maszynie w kwantyzacjach produkcyjnych
- DeepSeek V3 / R1 / V3.1 / V3.2 w natywnym fp8 (~670 GB) w pamięci kart (~30-50 tok/s pojedynczo, dane publikowane) — rdzenie tensorowe fp8 Blackwell obsługują to natywnie i z pełną prędkością
- DeepSeek V3 w Q4_K_M (~404 GB) z wieloma równoległymi instancjami obsługującymi duże wsady
- GLM-5 / GLM-5.1 (~745B/44B) w Q3-Q4 (~420-560 GB) komfortowo w pamięci kart
- Intern-S1-Pro (1T/22B aktywnych, SAGE) w Q3-Q4 (~440-580 GB) komfortowo
- Qwen3-Coder-480B-A35B w Q5-Q6 (~340-400 GB) z kontekstem 1M
- Qwen3-235B-A22B w bf16 (~470 GB) z obszerną pamięcią KV dla długiego kontekstu
- ERNIE-4.5-424B-A47B w Q6 (~360 GB); Hunyuan-Large w fp8 (~390 GB)
- MiniMax-Text-01 / M1 w Q5-Q6 (~325-390 GB)
Zachodnia czołówka w kwantyzacjach produkcyjnych
- Mistral Large 3 (675B/41B MoE, Apache 2.0) w Q3-Q4 (~317-404 GB) komfortowo (~20-30 tok/s pojedynczo, dane publikowane)
- Llama 4 Maverick (400B/17B, 128 ekspertów) w Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B w bf16 (~506 GB) w pamięci kart
- Snowflake Arctic w Q5-Q6 (~350-420 GB); Grok-1 w Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B w bf16 (~264 GB), wiele instancji
Modele wizyjno-językowe
Qwen3-VL-235B-A22B — flagowy model VLM z długim kontekstem; InternVL3.5-241B-A28B w bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 w wielu instancjach; Llama 3.2 90B Vision bf16 w wielu instancjach; Pixtral Large 124B bf16; Molmo 72B bf16 w wielu instancjach.
Generowanie obrazu
HunyuanImage-3.0 Instruct w równoległych instancjach; FLUX.1 w wielu instancjach (~15-20 s na obraz 1024x1024, dane publikowane); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — pełny chiński i zachodni stos graficzny rezydentny jednocześnie.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B — wiele równoległych strumieni; HunyuanVideo 13B bf16 w wielu równoległych strumieniach; Open-Sora 2.0 (11B) w wielu instancjach; Mochi-1 (10B) w wielu instancjach; NVIDIA Cosmos Predict 2 do 14B.
Dźwięk / mowa / TTS
Pełny stos rezydentny w trybie wsadowym: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B w czasie rzeczywistym, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Obsługa wielu modeli w trybie wielodostępowym (sztandarowe zastosowanie)
- Wielodostępowa produkcja na modelach klasy frontier: 4 modele klasy frontier rezydentne jednocześnie — np. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — z podziałem VRAM i osobnymi poziomami SLO dla każdego odbiorcy
- Równoległa inferencja w natywnym fp8 na Blackwell (rodzina DeepSeek V3 / R1, Hunyuan fp8) oraz obsługa modeli kwantyzowanych w osobnych domenach PCIe
- Badawcze testy A/B na 4-5 modelach open-weight klasy frontier w kwantyzacjach badawczych
- Platforma agentowa z modelem głównym 400B+ i kilkoma rezydentnymi specjalistami 30-70B
Docelowe obciążenia
- Wielodostępowa produkcja na modelach open-weight klasy frontier — kilka modeli rezydentnych jednocześnie z izolacją między odbiorcami
- Suwerenne wdrożenie AI klasy frontier — lokalny dostęp do DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, dane przechowywane w UE
- Laboratorium badawcze z ewaluacją A/B na co najmniej 4 modelach open-weight klasy frontier w kwantyzacjach badawczych
- Firmowa platforma agentowa, w której model MoE 400B+ steruje narzędziami i kilkoma modelami specjalistycznymi
- Inferencja w środowisku odciętym od sieci, w branżach regulowanych, w skali frontier, z ECC i PCIe Gen5
Opublikowane wyniki referencyjne
Źródła zewnętrzne | nie mierzone na sprzęcie Kentino
| Test | Wynik |
|---|---|
| RTX Pro 6000 — TOPS INT8 na kartę | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (pojedynczo) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 na 8x RTX Pro 6000 (wsad 32) | 300-500 tok/s łącznie |
| Kimi-K2 Q4 na 8x RTX Pro 6000 (pojedynczo) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 na jednej karcie RTX Pro 6000 | ~15-20 s na obraz 1024x1024 |
Dokładne wartości potwierdzane na etapie PoC. Kentino opublikuje własne pomiary po pierwszej realizacji klienckiej.
Mniej odpowiedni do
- Wdrożeń z ograniczonym budżetem — flagowa konfiguracja we flagowej cenie
- Trenowania modeli klasy frontier od zera — brak NVLink, wyłącznie P2P po PCIe (do treningu w tej skali właściwym narzędziem jest H100/H200 SXM lub struktura NVLink GB200)
- Wdrożeń typu plug-and-play — wielodostępowa obsługa modeli MoE klasy frontier wymaga doświadczonego zespołu MLOps
Gwarancja i termin realizacji
Budowa obejmuje montaż, konfigurację BIOS, instalację sterowników, wygrzewanie, test pamięci, weryfikację funkcjonalną, dostrojenie NUMA oraz przygotowanie środowiska LLM (vLLM / SGLang / llama.cpp / stos CUDA 13 z jądrami fp8 dla Blackwell). Termin realizacji zależy od dostępności komponentów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- Karta sieciowa NVIDIA ConnectX-5 MCX555A-ECAT lub ConnectX-7 Gen5 100 GbE do skalowania na wiele węzłów
- Mellanox ConnectX-6 25 GbE SFP28 do infrastruktury centrum danych
- Drugi dysk NVMe 4 TB na zbiory danych i bibliotekę modeli (punkty kontrolne modeli klasy frontier są duże — sam Kimi-K2 bf16 zajmuje ~1 TB)
- Pełna szafa rack 24U z perforowanymi drzwiami przednimi i zarządzalnym PDU
- Zasilacz UPS online 10 kVA (kontrolowane wyłączenie przy zaniku zasilania)
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.