Kentino AI 64 Rome 5090 3352TOPS — serwer AI 2x RTX 5090 Blackwell
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 64 Rome 5090 3352TOPS
Podstawowy serwer Blackwell z 2 GPU
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Podstawowy serwer Blackwell z 2 GPU — 64 GB wspólnej pamięci VRAM, 3 352 TOPS INT8, natywne fp8. Krok z architektury Ada na Blackwella w miejsce 2x4090.
Serwer AI Blackwell z dwoma układami GPU, zbudowany na ROMED8-2T / EPYC Milan. Dwie karty RTX 5090 zapewniają 64 GB wspólnej pamięci VRAM i natywne obliczenia tensorowe fp8 — mniej więcej dwukrotność surowych TOPS 2x RTX 4090 w tej samej obudowie, a zarazem pierwszą klasę z dwoma GPU, która z zapasem obsługuje Llama 3.3 70B Q4, Qwen3.5-122B-A10B Q4 oraz HunyuanVideo w bf16 / fp8.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| Układy GPU | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| Pula VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48 rdzeni/96 wątków, 225 W, 128 linii PCIe 4.0) |
| Płyta główna | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Pamięć RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Dysk systemowy / pamięć masowa | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | Pojedynczy zasilacz ATX 2 kW |
| Obudowa | Rack 4U, pasywne risery Gen4 x16 |
| Chłodzenie | Chłodzenie wieżowe SP3, 3x 120 mm nawiewu z przodu + 1x 120 mm wywiewu z tyłu (wentylatory przemysłowe) |
| Sieć | Zintegrowane dwa porty 10 GbE (Intel X550) + IPMI |
Bilans mocy
- Pobór GPU: 2 x 575 W = 1 150 W
- Cały system przy pełnym obciążeniu: ~1 475 W
- Zasilacz łącznie: 2 000 W (pojedynczy ATX 2 kW) — 26.25 % zapasu
- Wystarczający zapas przy jednym zasilaczu; dostępna rozbudowa do dwóch zasilaczy dla większej rezerwy
Topologia linii PCIe
ROMED8-2T rozprowadza 2x16 Gen4 bezpośrednio z root complexu CPU. 5090 to krzem Gen5 pracujący w Gen4 x16 bez straty przepustowości przy inferencji. Bez przełącznika PCIe. GeForce 5090 nie ma NVLink — dwukierunkowa komunikacja P2P w trybie tensor-parallel korzysta z PCIe.
Co można uruchomić
Dzięki 64 GB wspólnej pamięci VRAM GDDR7 na dwóch kartach Blackwell serwer obsługuje modele 70B Q4 w trybie tensor-parallel, flagowe modele MoE, natywne generowanie obrazów w fp8, wideo AI oraz równoczesne serwowanie wielu modeli.
Modele LLM — tekst / rozumowanie / kodowanie
Czołówka chińska
- Qwen3-32B Q8 / bf16 (jakość zbliżona do fp16) (~40-55 tok/s w pojedynczym strumieniu na Blackwell fp8, dane publikowane)
- QwQ-32B bf16; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB, mieści się)
- Qwen3.5-122B-A10B Q4 (~70-75 GB z przelewem do RAM) — flagowy MoE w Q4 się mieści
- Hunyuan-A13B fp8 (~80 GB, na styk) lub Q6 (~36 GB, komfortowo)
- Seed-OSS-36B bf16 (~72 GB, na styk — lepiej fp8 ~36 GB)
- DeepSeek-R2 32B rzadki MoE bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE z zapasem
- ERNIE-4.5-47B-A3B Q6-Q8
Czołówka zachodnia
- Llama 3.3 70B Q4_K_M (~43 GB) — sztandarowe obciążenie tej klasy (~20-28 tok/s w pojedynczym strumieniu na 2x 5090, dane publikowane)
- Hermes 3 70B / Tulu 3 70B Q4 — otwarte pochodne Llamy po dotrenowaniu
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16; Mixtral 8x7B bf16
- Gemma 3 27B multimodalny bf16 + zapas na rozumowanie
- Phi-4 14B bf16; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — mieści się na styk przy krótkim kontekście)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Modele wizyjno-językowe
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB, na styk); Gemma 3 27B multimodalny bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Generowanie obrazów
Natywne fp8 w 5090 to przede wszystkim szybkość — FLUX.1 / SD 3.5 / HunyuanImage działają wyraźnie szybciej niż na architekturze Ada: FLUX.1 [dev] / [schnell] natywnie w fp8 (~12 GB) z podwójną równoległością na obu kartach (~8-12 sekund na obraz 1024x1024 na Blackwell, dane publikowane); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16 lub 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB); HunyuanImage-3.0 NF4; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB łącznie) — MoE z dwoma ekspertami w pełnej precyzji; Wan 2.2 TI2V-5B bf16 na kartę, 2 równoległe instancje; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 na styk; HunyuanVideo 1.5 (8.3B) bf16 na kartę; Open-Sora 2.0 (11B) bf16; CogVideoX-5B / 1.5 bf16; Mochi-1 bf16 (~42 GB, mieści się); LTX-Video 2B; NVIDIA Cosmos Predict 2.
Dźwięk / mowa / TTS
Ten sam pełny chiński i zachodni stos mowy co w klasie 4090 mieści się z większym zapasem: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Na 5090 z natywnym fp8 Whisper / Parakeet dekodują z wyraźnie wyższym współczynnikiem czasu rzeczywistego. Whisper v3 turbo osiąga ~75x czasu rzeczywistego na Blackwell (dane publikowane).
Wiele modeli / wielu użytkowników
- Stos rezydentny: Llama 3.3 70B Q4 (~43 GB, tensor-parallel dwukierunkowo) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2-4 równoczesnych użytkowników na modelach klasy 32B w Q6-Q8 na kartę
- Dostrajanie LoRA / QLoRA modeli 7-14B komfortowo, 24-32B na styk
Docelowe zastosowania
- Stacja robocza dla małego zespołu deweloperskiego z zapasem na serwowanie 70B Q4
- Przejście na Blackwella z maszyny 2x RTX 4090 — ta sama obudowa, ~2.5x TOPS, natywne fp8
- Stacja robocza do generowania obrazów i wideo z przyspieszeniem FLUX w natywnym fp8
- Maszyna do równoczesnej pracy wielu modeli: 70B Q4 + FLUX + Whisper + Moshi rezydentne jednocześnie
- Punkt inferencyjny dla 4-8 równoczesnych użytkowników modeli LLM klasy 32B
Publikowane wyniki wydajności
Dane publikowane | sprzęt porównywalny z 2x RTX 5090
| Benchmark | Wynik |
|---|---|
| Llama 3.3 70B Q4_K_M, dekodowanie llama.cpp | ~20-28 tok/s w pojedynczym strumieniu |
| Qwen3-32B Q8 vLLM, pojedynczy strumień | ~45-60 tok/s dekodowania w fp8 |
| FLUX.1 [dev] natywne fp8 na Blackwell | ~1.5-1.9 s na obraz 1024x1024 przy 20 krokach |
| HunyuanVideo 13B Q5 TP-2 | 5 s w 720p w ~5-7 min |
Dane publikowane, nie mierzone na sprzęcie Kentino. Pomiar referencyjny Kentino na 4x RTX 4090: 647 TFLOPS fp16, 179 tok/s łącznie przy wsadzie 32.
Mniej odpowiedni do
- Gęste modele 100B+ w bf16 (DeepSeek-V3, Kimi K2, Mistral Large 3 — wymagają puli 256+ GB)
- Generowanie wideo klasy frontier w bf16, długie formy w pełnej rozdzielczości
Gwarancja i czas realizacji
Zestaw obejmuje montaż, konfigurację BIOS, instalację sterowników, testy wygrzewania i weryfikację działania. Czas realizacji zależy od dostępności podzespołów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Rozszerzenie dysku systemowego do 2 TB NVMe — lub 4 TB
- Rozszerzenie RAM do 256 GB (4x 64 GB) — zapas na pamięć KV modeli MoE / równoczesne serwowanie wielu modeli
- Listwa PDU do racka (C13/C19 z pomiarem) i zasilacz UPS online 3 kVA
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.