Kentino AI 384 Rome RTXPro6000 — 4× RTX Pro 6000 Blackwell Server Edition (384 GB ECC VRAM)
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 384 Rome RTXPro6000 8000TOPS
Serwer centrum danych z 384 GB ECC VRAM
4x RTX Pro 6000 Server Edition | EPYC Milan | 8 000 TOPS INT8
Publikowane źródła zewnętrzne. Nie mierzono na sprzęcie Kentino.
Serwer inferencyjny 4U do montażu w racku z czterema pasywnymi kartami NVIDIA RTX Pro 6000 Blackwell Server Edition klasy centrum danych (96 GB ECC każda), połączonymi w pulę 384 GB ECC VRAM, jednym procesorem AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, dyskiem startowym NVMe 2 TB i dwoma zsynchronizowanymi zasilaczami ATX 2.5 kW. Krzem Blackwell z natywną akceleracją fp8. Pasywne chłodzenie z ukierunkowanym przepływem powietrza do obudów centrum danych. Uruchamia DeepSeek V3 Q3, Mistral Large 3, Qwen3-Coder-480B i wszystkie najważniejsze modele frontier o otwartych wagach.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (pasywny chłodzący klasy DC, 600 W TGP, PCIe 5.0 x16, 2000 TOPS INT8 na kartę, natywne fp8) |
| Pula VRAM | 384 GB ECC łącznie na 4 kartach |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linii PCIe 4.0) |
| Płyta główna | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM systemowy | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 wolne sloty DIMM do rozbudowy do 512 GB) |
| Dysk startowy / magazyn | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | 2x 2.5 kW ATX z kablem synchronizacji dwóch zasilaczy (łącznie 5 kW) |
| Obudowa | 4U do montażu w racku |
| Chłodzenie | Chłodzenie wieżowe SP3 (klasa Arctic Freezer 4U-M) + ukierunkowany przepływ powietrza od przodu do tyłu (3x wlot 120 mm z przodu + 1x wylot 120 mm z tyłu). Karty GPU pasywne — wymagają przepływu powietrza obudowy centrum danych. |
| Sieć | Zintegrowane podwójne 10 GbE (Intel X550) |
Bilans mocy
- Pobór GPU: 4 x 600 W = 2 400 W
- Cały system przy pełnym obciążeniu: ~2 775 W
- Moc zasilaczy łącznie: 5 000 W (dwa zsynchronizowane 2.5 kW) — 44.5% zapasu
- Dwa zasilacze dla rozdzielonego zasilania — awaria jednego oznacza utratę 2 GPU lub 2 GPU i płyty głównej
Topologia linii PCIe
ROMED8-2T udostępnia 7x PCIe 4.0 x16 bezpośrednio z EPYC Milan. Cztery sloty zajęte — trzy wolne na kartę sieciową, magazyn lub telemetrię. RTX Pro 6000 to krzem obsługujący Gen5; na tej platformie pracuje w Gen4 przy pełnym x16 — bez wąskiego gardła przepustowości dla inferencji. Bez przełącznika PCIe. Bez NVLink.
Co można uruchomić
Dzięki 384 GB wspólnej puli ECC VRAM na krzemie Blackwell z natywnym fp8 serwer ten komfortowo uruchamia na kartach DeepSeek V3 / R1 w Q3, Mistral Large 3 Q3, GLM-5 Q3, Qwen3-Coder-480B Q3 oraz Llama 3.3 70B bf16 w całości na jednej karcie (96 GB na kartę).
LLM — tekst / rozumowanie / kodowanie
Chińska czołówka
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) komfortowo na kartach (~30-40 tok/s pojedynczo, źródło publikowane); natywne fp8 (~670 GB) z przelewem do RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, ciasno, z przelewem do RAM) — czołowy otwarty agent programistyczny (~18-25 tok/s pojedynczo, źródło publikowane)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) z bardzo długim kontekstem i wsadowaniem wielu użytkowników
- GLM-5 / GLM-5.1 Q3 (~317 GB) — chińska czołówka, blisko Claude Opus 4.6 w kodowaniu
- Kimi-K2 1.58-bit UD (~240 GB) — agent z bilionem parametrów przy realnej przepustowości
- Hunyuan-Large 389B/52B Q4 (~220 GB), natywne fp8 (~390 GB z przelewem)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) z kontekstem 1M
- Llama 3.3 70B bf16 w całości na jednej karcie (96 GB na kartę — bez potrzeby równoległości tensorowej)
Zachodnia czołówka
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — zachodnie otwarte wagi z najwyższej półki (~20-30 tok/s pojedynczo, źródło publikowane)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) z hojnym budżetem KV (~45-55 tok/s pojedynczo, źródło publikowane)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b natywnie MXFP4 (80 GB) z ogromnym zapasem na równoległą flotę
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — czołowy otwarty model kodowania z kontekstem 256k
- Llama 3.3 70B bf16 na jednej karcie; możliwe 4 równoległe wdrożenia 70B
Modele wizyjno-językowe
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 na TP. Blackwell fp8 daje ok. 2x większą przepustowość w inferencji wieży wizyjnej niż Ada.
Generowanie obrazu
FLUX.1 [dev] / Kontext / Tools natywnie w fp8 (~15-20 s na obraz 1024x1024 na jednej RTX Pro 6000, źródło publikowane); SD 3.5 Large; HunyuanImage-2.1 (17B natywnie 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 równoległe workery ComfyUI.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B dual expert bf16; HunyuanVideo 13B bf16 obaj eksperci; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / mowa / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Czas rzeczywisty / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Muzyka / efekty dźwiękowe: MusicGen / AudioGen / Bark / SeamlessM4T
Obsługa wielu modeli / wielu najemców
- DeepSeek V3 Q3 + równolegle 70B + FLUX.1 + Whisper — wszystko rezydentnie
- Równoległość tensorowa 4-drożna dla klasy 350-400B w Q4
- Izolacja najemców na kartę — jedna Llama 3.3 70B bf16 na karcie 96 GB, 4 niezależne silosy inferencyjne
- RAG wielomodelowy: czytnik, przeszeregowujący, model wizyjny i model osadzeń na jednym hoście
Docelowe obciążenia
- Zaplecze inferencyjne dla czołowych modeli o otwartych wagach — DeepSeek V3 Q3, Qwen3-Coder-480B Q3, GLM-5 Q3
- Produkcyjna obsługa multimodalnych agentów Llama 4 Maverick Q4 z hojnym budżetem kontekstu
- Izolacja 4 najemców na kartę — jedna Llama 3.3 70B bf16 na najemcę, zero przenikania
- Natywna obsługa fp8 dla DeepSeek / R1 / Hunyuan na krzemie Blackwell
- Mistral Large 3 Q3 jako zachodnia alternatywa klasy frontier na licencji Apache 2.0
Publikowane wyniki referencyjne
Źródła zewnętrzne | Nie mierzono na sprzęcie Kentino
| Test | Wynik |
|---|---|
| RTX Pro 6000 — TOPS INT8 na kartę | 2 000 TOPS |
| RTX Pro 6000 — przepustowość pamięci | ~1 800 GB/s na kartę |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (pojedynczo) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 na 4x Blackwell PCIe (wsad 8) | ~200 tok/s łącznie |
| SGLang — Llama 4 Maverick Q4 na 4x Blackwell (pojedynczo) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 na 4x Blackwell (pojedynczo) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 na jednej RTX Pro 6000 | ~1.8 s na obraz 1024x1024 |
Kentino opublikuje własne pomiary po pierwszej realizacji klienckiej.
Mniej odpowiedni do
- Obciążeń jednego użytkownika do 70B — 4x RTX 5090 wychodzi wyraźnie taniej przy puli 128 GB, jeśli ECC i niezawodność chłodzenia pasywnego nie są wymagane
- Cichych wdrożeń w laboratorium lub obok biura — chłodzenie pasywne wymaga właściwego przepływu powietrza od przodu do tyłu w centrum danych. Dla lokalizacji wrażliwych akustycznie polecamy wariant Max-Q z turbiną (Kentino AI 384 Rome RTXPro6000MQ)
- Treningu modeli frontier od zera (brak NVLink)
- Pełnego DeepSeek V3 Q4 na kartach (~404 GB) — wówczas rozbudowa do 6x RTX Pro 6000 / 576 GB
Gwarancja i termin realizacji
Zestaw obejmuje montaż, konfigurację BIOS, instalację sterowników, wygrzewanie, memtest i weryfikację funkcjonalną. Termin realizacji zależy od dostępności komponentów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- Rozbudowa RAM do 512 GB DDR4 (dodanie 2x 64 GB — 2 wolne sloty DIMM) dla zapasu na przelew z VRAM przy kwantyzacjach Q3 modeli frontier
- NVMe Gen4 x4 o pojemności 4 TB na bibliotekę modeli frontier (sam DeepSeek V3 Q3 zajmuje ~290 GB na dysku)
- Pełna szafa rack 24U z zarządzalnym PDU i zasilaczem UPS online
- Alternatywna sylwetka: wariant Max-Q z turbiną (Kentino AI 384 Rome RTXPro6000MQ) — ten sam krzem, cichsze chłodzenie typu blower, do wdrożeń laboratoryjnych
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.