Kentino AI 256 TurinDual 5090 — flagowiec 8× RTX 5090, dwa gniazda Zen5c
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 256 TurinDual 5090 13408TOPS
Flagowy serwer inferencyjny z 256 GB VRAM
8x RTX 5090 | dwa EPYC Turin | 13 408 TOPS INT8
Cena CPU ustalana przy zamówieniu — rynek serii Turin 9005 zmienia się co tydzień w II kwartale 2026.
Publikowane dane zewnętrzne. Nie mierzone na sprzęcie Kentino.
Flagowy serwer inferencyjny 7U do montażu w szafie rack, z ośmioma kartami GeForce RTX 5090 (32 GB GDDR7, Blackwell, natywny fp8) na dwuprocesorowej platformie EPYC Turin (Zen5c, SP5), z 768 GB DDR5-4800 ECC na wszystkich 12 kanałach, dyskiem systemowym 2 TB NVMe i pięcioma zasilaczami serwerowymi 1200 W. PCIe Gen5 na całej ścieżce do GPU dzięki aktywnym riserom z retimerem/redriverem. Uruchamia vLLM, SGLang, llama.cpp, ComfyUI i każdy liczący się stos inferencyjny na otwartych wagach od ręki.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, natywny fp8, 1676 TOPS INT8 na kartę) |
| Pula VRAM | 256 GB łącznie na 8 kartach (brak NVLink w konsumenckich RTX 5090) |
| CPU | 2x AMD EPYC Turin serii 9005 (Zen5c, SP5, PCIe 5.0) — wycena przy zamówieniu |
| Płyta główna | ASRock Rack TURIN2D24XGM/500W (dwa SP5, PCIe 5.0, 24x DDR5 DIMM) |
| Pamięć systemowa | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — obsadzone wszystkie 12 kanałów; pozostaje 12 slotów do rozbudowy do 1.5 TB) |
| Dysk systemowy / pamięć masowa | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | Zestaw 5x zasilacz serwerowy 1200 W (zgodny z HP, łącznie 6 kW) |
| Obudowa | 7U na 8 GPU (do 10 slotów PCIe, osobne zatoki zasilaczy) |
| Chłodzenie | 2x wieżowe chłodzenie SP5 + rackowy przepływ powietrza od przodu do tyłu (wentylatory przemysłowe) |
| Risery | 8x aktywny PCIe Gen5 x16 (retimer/redriver) — Gen5 na całej ścieżce |
| Sieć | Zintegrowane 10 GbE (zależnie od płyty) |
Bilans mocy
- Pobór GPU: 8 x 575 W = 4 600 W
- Cały system przy pełnym obciążeniu: ~5 520 W
- Moc zasilaczy łącznie: 6 000 W (5x 1200 W) — 8% zapasu względem specyfikacji
- Kentino dostarcza serwer z limitem mocy GPU 500 W — całość spada do ~4 920 W (~15% zapasu)
Topologia linii PCIe
Dwa procesory Turin dają 2x 128 = 256 linii PCIe Gen5 po stronie hosta. Aktywne risery Gen5 prowadzą Gen5 x16 na całej ścieżce do każdego GPU — bez przełącznika PCIe (jeden CPU na bank czterech kart). Brak NVLink; komunikacja P2P między GPU po Gen5 x16 (~60 GB/s nominalnie na łącze).
Co można uruchomić
Dzięki 256 GB wspólnej puli VRAM na ośmiu kartach Blackwell z natywnym fp8 serwer celuje w czołowe modele MoE 235-480B w Q4 z realnym kontekstem, rodzinę DeepSeek V3 w Q2 oraz Kimi-K2 w dynamicznej kwantyzacji 1.58-bit przy realnej przepustowości.
LLM — tekst / rozumowanie / kodowanie
Czołówka chińska
- Qwen3-235B-A22B (Instruct / Thinking / „2507”) Q4 (~132 GB) z długim kontekstem i batchowaniem wielu użytkowników (~25-40 tok/s w pojedynczym strumieniu na 8x RTX 5090, dane publikowane)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — flagowe rozumowanie i kodowanie, 200k ctx w 4.6+
- GLM-5 / GLM-5.1 Q2 (~260 GB) z niewielkim przelewem do RAM — czołowe kodowanie, blisko Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) przy użytecznej szybkości inferencji (~28 tok/s w pojedynczym strumieniu na 8x Blackwell, dane publikowane)
- Kimi-K2 1.58-bit UD-TQ1_0 (~240 GB) — agent o bilionie parametrów przy realnej przepustowości tokenów (~7-10 tok/s w pojedynczym strumieniu, dane publikowane)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, ciasno, z przelewem do RAM) — czołowy otwarty model do kodowania
- MiniMax-M1 / Text-01 Q4 (~260 GB), kontekst 1M; Qwen3.5-397B-A17B Q4 (~214 GB)
Czołówka zachodnia
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB z przelewem) — zachodnia czołówka otwartych wag
- Llama 4 Maverick (400B/17B, 128 ekspertów) Q4 (~232 GB), multimodalny
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — dorównuje DeepSeek-R1 przy połowie rozmiaru
- gpt-oss-120b natywny MXFP4 (80 GB) swobodnie, z miejscem na kilka modeli
- Devstral 2 123B (zmodyfikowana licencja MIT) Q6 — czołowe otwarte kodowanie, 256k ctx
- Llama 3.3 70B bf16 (~142 GB), obsługa wielu najemców (~30-40 tok/s w pojedynczym strumieniu na parę RTX 5090 w TP2, dane publikowane)
Modele wizyjno-językowe
Qwen3-VL-235B-A22B w pełnym bf16 (~240 GB na kartach); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, ciasno); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V w pełnej wersji. Ścieżka fp8 w Blackwell daje ~2x większą przepustowość w inferencji wieży wizyjnej niż Ada.
Generowanie obrazu
FLUX.1 [dev] / Kontext / Tools w pełnym bf16 (~10-18 s na obraz przy fp8 na kartę, dane publikowane); SD 3.5 Large; HunyuanImage-2.1 (17B, natywne 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; farmy ComfyUI z wieloma procesami roboczymi.
Generowanie wideo
Wan 2.2 T2V-A14B / I2V-A14B, dwa modele eksperckie w bf16 (wariant wysokoszumowy i niskoszumowy rezydentne jednocześnie); HunyuanVideo 13B bf16, oba modele eksperckie; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Dźwięk / mowa / TTS
- ASR: Whisper v3 large / turbo (~50x szybciej niż czas rzeczywisty); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Czas rzeczywisty / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Muzyka / efekty dźwiękowe: MusicGen; AudioGen; Bark; SeamlessM4T v2
Obsługa wielu modeli i wielu najemców
- Brama inferencyjna dla czołowych modeli — MoE 200B+, równolegle 70B, obraz i wideo, wszystko rezydentne
- Ośmiodrożny tensor parallel dla Kimi-K2 / DeepSeek V3 przy realnym kontekście
- Wielonajemcze API LLM — 50-100 równoczesnych użytkowników na 235B Q4 przez vLLM/SGLang
- Jednoczesna rezydencja pełnej czołówki chińskiej i zachodniej na potrzeby ewaluacji i benchmarków
Docelowe obciążenia
- Backend inferencyjny na czołowych otwartych wagach dla organizacji liczącej 100-500 stanowisk, łączący Qwen3-235B, GLM-4.5+ i DeepSeek V3 Q2
- Platforma agentowa Kimi-K2 1.58-bit przy produkcyjnej przepustowości (użycie narzędzi, ponad 200 wywołań sekwencyjnych)
- Obsługa DeepSeek V3 / R1 w pełnym fp8 na układach Blackwell
- Węzeł czołowy wielowęzłowego treningu z siecią Gen5 100 GbE / InfiniBand
- Podwójna rola: inferencja i farma dyfuzyjna (Qwen3-235B + FLUX.1 + HunyuanVideo 13B jednocześnie)
Publikowane dane o wydajności
Dane zewnętrzne | nie mierzone na sprzęcie Kentino
| Benchmark | Wynik |
|---|---|
| TOPS INT8 na kartę RTX 5090 | 1 676 TOPS |
| Przepustowość pamięci RTX 5090 | ~1 800 GB/s na kartę |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (pojedynczy strumień) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M na 4x RTX 5090 (batch 32) | ~450 tok/s łącznie |
| SGLang — DeepSeek V3 Q2 na 8x Blackwell (pojedynczy strumień) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 na 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino opublikuje własne pomiary tok/s po pierwszej konfiguracji klienckiej z finalnym SKU Turin.
Mniej odpowiedni do
- Wdrożeń z napiętym budżetem (dopłata za Turin wobec alternatyw Genoa lub Rome)
- Jednonajemczych obciążeń z gęstym modelem 70B (przesada — właściwą półką jest 4x RTX 5090 lub 4x RTX Pro 6000)
- Czołowych modeli 600B+ w Q4+ z pełnym kontekstem (wymagają puli 576 GB+ — zob. 6x RTX Pro 6000)
- Długiego trenowania od zera (brak NVLink w konsumenckich RTX 5090)
Gwarancja i czas realizacji
Konfiguracja obejmuje montaż, ustawienie BIOS-u, instalację sterowników, testy wygrzewające i weryfikację funkcjonalną. Czas realizacji zależy od dostępności komponentów i jest potwierdzany przy zamówieniu.
Zalecane rozszerzenia
- Rozbudowa RAM do 1.5 TB DDR5 (pełne obsadzenie 24x 64 GB) — konieczna dla Kimi-K2 Q4 lub DeepSeek V3 Q3 bez przelewu do RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — sieć Gen5 dla węzłów klastra
- Mellanox ConnectX-6 25 GbE SFP28 do sieci centrum danych
- 4 TB NVMe Gen4 x4 na system i bibliotekę modeli
- Pełna szafa rack 24U z zarządzalnym PDU
- UPS online 8-10 kVA (kluczowy — pobór szczytowy 5.5 kW)
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.