Kentino AI 64 Rome 5080 3600TOPS — budżetowy serwer AI 4x RTX 5080
Platforma klasy korporacyjnej, składana i testowana w UE.
Kentino AI 64 Rome 5080 3600TOPS
Budżetowy serwer Blackwell z 4 GPU
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
Budżetowy serwer Blackwell z 4 GPU od Kentino — pula 64 GB VRAM, łącznie 3 600 TOPS INT8, najniższy koszt CZK za TOPS w całej ofercie.
Serwer inferencyjny Blackwell z 4 GPU zbudowany wokół RTX 5080 — 360 W na kartę, krzem PCIe 5, po 16 GB GDDR7 na kartę. Cztery karty dają wspólną pulę 64 GB VRAM i łącznie 3 600 TOPS INT8 przy najlepszym stosunku CZK do TOPS w ofercie Kentino. To wejście w inferencję Blackwell na wielu GPU: idealne do klastrów embeddingów, serwowania modeli 7-13B na dużą skalę, wsadowego generowania obrazu i wideo oraz modeli 70B Q4 w trybie tensor-parallel.
Sprzęt
| Komponent | Szczegóły |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| Pula VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linii PCIe 4.0) |
| Płyta główna | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Pamięć systemowa | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Dysk systemowy / magazyn | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Zasilacz | Pojedynczy zasilacz ATX 2 kW |
| Obudowa | 4U do montażu w racku, 4x GPU, pasywne risery Gen4 x16, ukierunkowany przepływ powietrza przód-tył |
| Chłodzenie | Chłodzenie wieżowe SP3, 3x wlot 120 mm z przodu + 1x wylot 120 mm z tyłu (wentylatory przemysłowe) |
| Sieć | Zintegrowane podwójne 10 GbE (Intel X550) + IPMI |
Bilans mocy
- Pobór GPU: 4 x 360 W = 1 440 W
- Pobór całego systemu przy pełnym obciążeniu: ~1 765 W
- Moc zasilacza: 2 000 W (pojedynczy ATX 2 kW) — 11.75 % zapasu
- Powyżej progu 10 %, ale ciaśniej niż w innych konfiguracjach 4-GPU; przy obciążeniach pracujących w trybie ciągłym zalecamy rozbudowę do dwóch zasilaczy
Topologia linii PCIe
ROMED8-2T rozprowadza 4x16 Gen4 bezpośrednio z root complex procesora. 5080 to krzem PCIe Gen5 pracujący w trybie Gen4 x16, bez wąskiego gardła przepustowości dla inferencji. Brak przełącznika PCIe. Brak NVLink — tensor parallel po PCIe.
Co można uruchomić
Dzięki 64 GB wspólnej puli VRAM na 4 kartach Blackwell serwer obsługuje modele 70B Q4 w trybie tensor-parallel, klastry embeddingów na dużą skalę, wsadowe potoki obrazu i wideo oraz wielodostępne serwowanie modeli 7-13B dla 64-128 równoczesnych użytkowników.
LLM — tekst / rozumowanie / kodowanie
Czołowe modele chińskie
- Qwen3-32B Q8 (model gęsty w jakości bliskiej fp16); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, mieści się na styk)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — na styk, przelew do pamięci DDR4)
- Hunyuan-A13B fp8 (~80 GB natywnie — na styk, lepiej Q6)
- Seed-OSS-36B bf16 (~72 GB, na styk)
- DeepSeek-R2 32B rzadki MoE bf16 (~64 GB) (~45-60 tok/s w pojedynczym strumieniu przy Q4 na Blackwell, dane publikowane)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — niewielki zapas na KV
- ERNIE-4.5-47B-A3B Q4 (~28 GB z zapasem na drugi model)
Czołowe modele zachodnie
- Llama 3.3 70B Q4_K_M (~43 GB) — optymalny punkt dla tej puli (~30-36 tok/s w pojedynczym strumieniu na 4x 5080, dane publikowane)
- Hermes 3 70B / Tulu 3 70B Q4 — otwarte pochodne Llamy z pełną przejrzystością post-treningu
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16, multimodalny
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 instancje na 4 kartach do równoległej obsługi); gpt-oss-120b MXFP4 (80 GB — na styk; przelew do opanowania)
Wizja i język
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, na styk); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodalny bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Generowanie obrazu
FLUX.1 [dev] / [schnell] fp16 — równolegle w partiach po 4 (~10-15 sekund na obraz 1024x1024 przy fp8 na Blackwell, dane publikowane); FLUX.1 Kontext [dev] — edycja w kontekście na 4 instancjach; SD 3.5 Large (18 GB fp16) — 4 równoległe generatory; SDXL 1.0 + ControlNet + AnimateDiff, stosy x 4; HunyuanImage-2.1 bf16 na kartę; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Generowanie wideo
Wan 2.2 TI2V-5B bf16 na jednej karcie — 4 równoległe instancje; Wan 2.1 14B T2V/I2V Q4-Q6 na kartę; HunyuanVideo 13B Q4 (~30 GB) w trybie tensor-parallel na 2 karty; HunyuanVideo 1.5 (8.3B) bf16 na kartę; Open-Sora 2.0 (11B) Q8 na kartę — 4 równoległe generacje; CogVideoX-5B int8; Mochi-1 Q4 na kartę.
Audio / mowa / TTS
Pełny zachodni i chiński stos audio mieści się na jednej karcie: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Przy 4 kartach każda z nich może obsługiwać dedykowaną instancję mowy. Whisper v3 turbo działa z prędkością ~50x czasu rzeczywistego na kartę (dane publikowane).
Wiele modeli / wielu użytkowników
Docelowe zastosowanie. 16 GB na kartę premiuje obciążenia dzielone na partycje:
- Klaster embeddingów: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 instancje przy wysokim RPS
- Serwowanie modeli 7-13B na dużą skalę: 16-32 równoczesnych użytkowników na kartę przez vLLM / SGLang; łącznie 64-128 równocześnie
- Mieszany potok: karta 1 = Qwen3-14B + reranker; karta 2 = Whisper + Moshi; karta 3 = FLUX.1; karta 4 = Wan 2.2 TI2V
- Tensor-parallel na 4 karty dla 70B Q4 — Llama 3.3 70B AWQ INT4 na 4 kartach, ~90-130 tok/s łącznie w trybie wsadowym (ekstrapolacja z testu gf-logic na 4x4090)
Docelowe obciążenia
- Budżetowa platforma serwowania AI z wieloma GPU dla startupu lub laboratorium o ograniczonym budżecie inwestycyjnym
- Infrastruktura embeddingów i RAG w skali poziomej na 4 karty
- Wsadowa farma generowania obrazu i wideo (Stable Diffusion / FLUX / Wan 2.2)
- Serwowanie małych modeli 7-13B na dużą skalę — 4 niezależne instancje lub 64-128 równoczesnych użytkowników w puli
- Maszyna deweloperska i testowa dla przepływów 70B Q4 w trybie tensor-parallel
Publikowane odniesienia wydajnościowe
Pomiary Kentino (odniesienie 4x4090) + publikowane szacunki dla 5080
| Benchmark | Wynik |
|---|---|
| Odniesienie 4x4090: trwała wydajność fp16 | 647 TFLOPS |
| Odniesienie 4x4090: vLLM Llama 3.3 70B AWQ (partia 32) | 179.3 tok/s łącznie |
| Odniesienie 4x4090: llama.cpp 70B Q4_K_M (pojedynczy strumień) | 20.3 tok/s dekodowania |
| Szacunek dla 5080: Llama 3.3 70B Q4 TP-4, pojedynczy strumień | ~15-20 tok/s |
| Szacunek dla 5080: FLUX.1 fp8 na kartę | ~2.2-2.8 s na obraz 1024x1024 przy 20 krokach |
Przepustowość tensorowa 5080 jest ~1.35x wyższa niż 4090 w przeliczeniu na TOPS INT8; dekodowanie w pojedynczym strumieniu ogranicza przepustowość pamięci (GDDR7 ~960 GB/s wobec ~1 008 GB/s w 4090 — zasadniczo na równi).
Mniej odpowiedni do
- Gęstych modeli 70B przy Q6+ (16 GB na kartę ogranicza rozmiar przypadający na kartę; pula 64 GB jest ciasna dla Q6)
- Flagowych modeli MoE o długim kontekście (Qwen3-235B, GLM-4.5) — za mało VRAM nawet przy Q2
- Zadań wrażliwych na opóźnienia w pojedynczym strumieniu na bardzo dużych modelach (narzut TP zjada pamięć kart 16 GB)
Gwarancja i termin realizacji
Budowa obejmuje montaż, konfigurację BIOS, instalację sterowników, testy wygrzewające i weryfikację funkcjonalną. Termin realizacji zależy od dostępności podzespołów i jest potwierdzany przy zamówieniu.
Zalecane dodatki
- Rozbudowa do dwóch zsynchronizowanych zasilaczy ATX 2 kW — zwiększa zapas do 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Rozbudowa dysku systemowego do 4 TB NVMe
- Rozbudowa pamięci RAM do 384 GB (6x 64 GB) — większy zapas przy równoczesnej pracy wielu modeli
- Listwa PDU do racka (C13/C19 z pomiarem) i UPS online 3 kVA
Pytania, które kupujący zadają nam najczęściej przed zamówieniem serwera.
Ile to trwa?
Maszyny budowane z podzespołów, które mamy na stanie, wysyłamy szybko; wszystko, co wymaga konkretnej generacji GPU, zależy od dostępności. Termin podajemy przed płatnością, a jeśli się przesunie, informujemy o tym sami, zamiast pozostawiać Państwa w niepewności.
Czy konfigurację można zmienić przed montażem?
Niemal zawsze. Karty GPU, pamięć, nośniki i chłodzenie dobieramy pod konkretne zamówienie, a podana konfiguracja jest punktem wyjścia, a nie sztywnym pakietem. Jeśli potrzebują Państwo więcej VRAM, szybszych nośników lub innego rozwiązania chłodzenia, prosimy o informację przed złożeniem zamówienia — wycenimy zmianę.
Czy serwer można odebrać osobiście?
Jak najbardziej. Nasz magazyn znajduje się w Pradze i zapraszamy po odbiór osobisty — większość osób, które przyjeżdżają, wykorzystuje wizytę na przejrzenie maszyny razem z naszym inżynierem i zadanie pytań, które źle się zadaje mailem. Przy zamówieniach na terenie Czech staramy się również dostarczyć sprzęt osobiście i na miejscu przeprowadzić Państwa przez konfigurację.
Czy można porozmawiać z kimś, kto naprawdę rozumie to obciążenie?
Tak. Mamy inżyniera, który zajmuje się wyłącznie systemami AI, a nie ogólny dział sprzedaży. Jeśli pytanie dotyczy rozmiarów batcha, kwantyzacji, interconnectu albo tego, gdzie pojawi się wąskie gardło — prosimy je zadać. Taka rozmowa zwykle zmienia konfigurację na lepsze.
Jaki model można uruchomić w tej konfiguracji?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Jak testujemy serwer przed wysyłką?
Testujemy go na rzeczywistych obciążeniach AI, a nie na syntetycznych wynikach punktowych: przepustowość inferencji, zachowanie przy trwałym obciążeniu i temperatury w pracy ciągłej. Wyniki benchmarków otrzymują Państwo razem z maszyną, więc obiecana wydajność to dokładnie ta wydajność, którą można zweryfikować pierwszego dnia.
Czy serwer po dostarczeniu jest gotowy do pracy?
Tak. Każda maszyna jest składana, poddawana testom burn-in i benchmarkom na rzeczywistych obciążeniach AI przed wysyłką, a opuszcza nas z zainstalowanym i działającym modelem LLM. Wystarczy ją podłączyć do zasilania i sieci, aby rozpocząć pracę — jedyną decyzją, jaka pozostaje, jest to, który projekt uruchomić jako pierwszy.
Wysyłka z naszego magazynu w UE. Ciężkie przedmioty mogą wymagać zorganizowania transportu spedycyjnego — prosimy o kontakt w sprawie wyceny wysyłki i terminu realizacji. 2-letnia gwarancja ograniczona z zaawansowanym wsparciem RMA; dostępne przedłużenie gwarancji.
Nie znaleźli Państwo tego, czego szukają?
Prosimy opisać swoje obciążenie, a dobierzemy tę platformę pod nie — GPU, pamięć, dyski i chłodzenie dopasowane do tego, co faktycznie Państwo uruchamiają.