Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Serwer laboratoryjny z 384 GB ECC VRAM
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Opublikowane źródła zewnętrzne. Nie mierzone na sprzęcie Kentino.
Serwer inferencyjny 4U do montażu w racku z czterema kartami NVIDIA RTX Pro 6000 Blackwell Max-Q z chłodzeniem turbofan (blower), po 96 GB ECC każda, łączonymi w pulę 384 GB ECC VRAM, jednym procesorem AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, dyskiem systemowym 2 TB NVMe i dwoma zsynchronizowanymi zasilaczami ATX 2.5 kW. Ten sam krzem Blackwell co w wersji Server Edition — identyczna charakterystyka inferencji, identyczna przepustowość — z cichszym chłodzeniem typu blower, odpowiednim do laboratoriów, działów R&D i pomieszczeń sąsiadujących z biurem.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (chłodzenie turbofan / blower, 600 W TGP, PCIe 5.0 x16, 2000 TOPS INT8 na kartę, natywne fp8) |
| Pula VRAM | 384 GB łącznej pamięci ECC na 4 kartach |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linii PCIe 4.0) |
| Płyta główna | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Pamięć RAM | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 wolne sloty DIMM do rozbudowy do 512 GB) |
| Dysk systemowy / pamięć masowa | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | 2x ATX 2.5 kW z kablem synchronizującym oba zasilacze (łącznie 5 kW) |
| Obudowa | 4U do montażu w racku |
| Chłodzenie | Chłodzenie wieżowe SP3 (klasy Arctic Freezer 4U-M) + ukierunkowany przepływ powietrza od przodu do tyłu (3x 120 mm wlot z przodu + 1x 120 mm wylot z tyłu). Karty GPU chłodzone samodzielnie przez turbofan (wyrzut do tyłu) — ciszej w warunkach laboratoryjnych. |
| Sieć | Zintegrowane dwa porty 10 GbE (Intel X550) |
Bilans mocy
- Pobór GPU: 4 x 600 W = 2 400 W
- Cały system przy pełnym obciążeniu: ~2 775 W
- Łączna moc zasilaczy: 5 000 W (dwa zsynchronizowane po 2.5 kW) — 44.5% zapasu
- Dwa zasilacze dla rozdzielonego zasilania — awaria jednego oznacza utratę 2 GPU albo 2 GPU i płyty głównej
Profil termiczny (Max-Q)
Max-Q wykorzystuje chłodzenie turbofan (blower) z ukierunkowanym wyrzutem powietrza z tyłu karty. Oczekiwany hotspot GPU 72-80 C przy pracy ciągłej. Wyraźnie ciszej niż karty pasywne w obudowie o wysokim ciśnieniu statycznym. Lepiej sprawdza się tam, gdzie nie ma przepływu powietrza jak w centrum danych — w otwartych rackach, laboratoriach i pomieszczeniach sąsiadujących z biurem. Krzem, TDP, ECC i wydajność są identyczne jak w wersji Server Edition.
Co można uruchomić
Identycznie jak w wersji Server Edition (Kentino AI 384 Rome RTXPro6000) — ten sam krzem Blackwell, ta sama pula 384 GB ECC, to samo natywne fp8, ta sama zgodność z modelami. Różnica jest akustyczna, nie obliczeniowa.
LLM — tekst / rozumowanie / programowanie
Chińska czołówka
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) swobodnie w pamięci kart (~30-40 tok/s pojedynczo, źródło publikowane); natywne fp8 (~670 GB) z przeniesieniem części do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, ciasno, z przeniesieniem do RAM) — czołowy otwarty agent programistyczny (~18-25 tok/s pojedynczo, źródło publikowane)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) z długim kontekstem i batchowaniem wielu użytkowników
- GLM-5 / GLM-5.1 Q3 (~317 GB) — chińska czołówka, blisko Claude Opus 4.6 w programowaniu
- Kimi-K2 1.58-bit UD (~240 GB) — agent z bilionem parametrów przy realnej przepustowości
- Hunyuan-Large 389B/52B Q4 (~220 GB), natywne fp8 (~390 GB z przeniesieniem)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB), kontekst 1M
- Llama 3.3 70B bf16 mieści się na jednej karcie (96 GB na kartę)
Zachodnia czołówka
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — czołowe zachodnie otwarte wagi (~20-30 tok/s pojedynczo, źródło publikowane)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) z dużym budżetem KV (~45-55 tok/s pojedynczo, źródło publikowane)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b natywne MXFP4 (80 GB) z zapasem na równoległą flotę modeli
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — 256k, czołowy otwarty model do programowania
- Llama 3.3 70B bf16 na jednej karcie; możliwe 4 równoległe wdrożenia modelu 70B
Modele wizualno-językowe
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 na TP. Blackwell fp8 zapewnia około 2x wyższą przepustowość inferencji wieży wizyjnej niż Ada.
Generowanie obrazów
FLUX.1 [dev] / Kontext / Tools w natywnym fp8 (~15-20 s na obraz 1024x1024 na pojedynczej RTX Pro 6000, źródło publikowane); SD 3.5 Large; HunyuanImage-2.1 (17B, natywnie 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 równoległe procesy ComfyUI.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B dwuekspertowy bf16; HunyuanVideo 13B bf16 z obydwoma ekspertami; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / mowa / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Czas rzeczywisty / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Muzyka / SFX: MusicGen / AudioGen / Bark / SeamlessM4T
Obsługa wielu modeli i wielu najemców
- DeepSeek V3 Q3 + równoległy model 70B + FLUX.1 + Whisper — wszystko w pamięci
- Tensor-parallel na 4 kartach dla modeli klasy 350-400B w Q4
- Izolacja najemców na poziomie karty — jedna Llama 3.3 70B bf16 w 96 GB na kartę, 4 niezależne silosy inferencyjne
- RAG wielomodelowy: reader + reranker + model wizyjny + embedder na jednym hoście
Docelowe obciążenia
- Inferencja czołowych modeli o otwartych wagach dla laboratorium lub zespołu R&D, gdzie liczy się poziom hałasu
- Serwerownia małego zespołu bez dedykowanego przepływu powietrza jak w centrum danych — samodzielne chłodzenie Max-Q toleruje montaż w otwartym racku
- Stacja robocza AI w sąsiedztwie biura dla wyspecjalizowanego zespołu (badania ML, narzędzia agentowe)
- Serwowanie natywnie w fp8 (DeepSeek / R1 / Hunyuan) w warunkach laboratoryjnych
- Obciążenie z izolacją czterech najemców po jednej karcie, przy ograniczonym budżecie hałasu
Publikowane odniesienia wydajnościowe
Źródła zewnętrzne | Ten sam krzem co w Server Edition | Nie mierzone na sprzęcie Kentino
| Benchmark | Wynik |
|---|---|
| RTX Pro 6000 — TOPS INT8 na kartę | 2 000 TOPS |
| RTX Pro 6000 — przepustowość pamięci | ~1 800 GB/s na kartę |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (pojedynczo) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (batch-8) | ~200 tok/s łącznie |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (pojedynczo) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (pojedynczo) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na pojedynczej RTX Pro 6000 | ~1.8 s na obraz 1024x1024 |
Kentino opublikuje własne pomiary po pierwszej realizacji dla klienta.
Mniej odpowiedni do
- Pełnoprawnych wdrożeń w racku w centrum danych z gotowym układem gorących korytarzy — lepszym wyborem jest pasywna wersja Server Edition (Kentino AI 384 Rome RTXPro6000): ten sam krzem, prostsza mechanika
- Obciążeń jednego użytkownika do 70B (4x RTX 5090 jest wyraźnie tańsze przy puli 128 GB)
- Treningu czołowych modeli od zera (brak NVLink)
- Pełnego DeepSeek V3 Q4 w pamięci kart (~404 GB) — wymagana rozbudowa do 6x RTX Pro 6000 / 576 GB
Gwarancja i termin realizacji
Montaż obejmuje złożenie, konfigurację BIOS, instalację sterowników, wygrzewanie, memtest i weryfikację funkcjonalną. Termin realizacji zależy od dostępności komponentów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- Rozbudowa RAM do 512 GB DDR4 (dołożenie 2x 64 GB — 2 wolne sloty DIMM) dla zapasu przy przenoszeniu do RAM w kwantyzacjach Q3 czołowych modeli
- Dysk 4 TB NVMe Gen4 x4 na bibliotekę czołowych modeli (sam DeepSeek V3 Q3 zajmuje ~290 GB na dysku)
- Pełna szafa rack 24U z zarządzalnym PDU i zasilaczem UPS online
- Wariant alternatywny: pasywna wersja Server Edition (Kentino AI 384 Rome RTXPro6000) — ten sam krzem, do wdrożeń z przepływem powietrza jak w centrum danych
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.