Kentino AI 64 Rome 5080 3600TOPS — budget-AI-server med 4x RTX 5080
Plattform i företagsklass, monterad och testad i EU.
Kentino AI 64 Rome 5080 3600TOPS
Prisvärd Blackwell-server med 4 GPU:er
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
Kentinos prisvärda Blackwell-server med 4 GPU:er — 64 GB VRAM-pool, 3 600 TOPS INT8 sammanlagt, lägst CZK per TOPS i sortimentet.
En Blackwell-inferensserver med 4 GPU:er byggd kring RTX 5080 — 360 W per kort, PCIe 5-kisel, 16 GB GDDR7 vardera. Fyra kort ger 64 GB poolat VRAM och 3 600 INT8 TOPS sammanlagt till den bästa CZK-per-TOPS-nivån Kentino erbjuder. Instegsmodellen för Blackwell-inferens med flera GPU:er: idealisk för embedding-kluster, servering av 7-13B-modeller i stor skala, batchgenerering av bild / video och 70B Q4 tensor-parallel.
Hårdvara
| Komponent | Detalj |
|---|---|
| GPU:er | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| VRAM-pool | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 lanes) |
| Moderkort | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systemminne | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Boot / lagring | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Nätaggregat | Ett 2 kW ATX-nätaggregat |
| Chassi | 4U rackmonterat, 4x GPU, passiva Gen4 x16-riser, riktat luftflöde fram-till-bak |
| Kylning | SP3-tornkylare, 3x 120 mm intag fram + 1x 120 mm utblås bak (industrifläktar) |
| Nätverk | Inbyggd dubbel 10 GbE (Intel X550) + IPMI |
Effektbudget
- GPU-förbrukning: 4 x 360 W = 1 440 W
- Systemet totalt vid full last: ~1 765 W
- Nätaggregat totalt: 2 000 W (ett 2 kW ATX) — 11.75 % marginal
- Över 10 %-golvet men snävare än andra byggen med 4 GPU:er; uppgradering till dubbla nätaggregat rekommenderas för tunga arbetsbelastningar
Lane-topologi
ROMED8-2T fördelar 4x16 Gen4 från CPU:ns root complex. 5080 är PCIe Gen5-kisel som körs i Gen4 x16 utan bandbreddsflaskhals för inferens. Ingen PCIe-switch. Ingen NVLink — tensor parallel över PCIe.
Vad du kan köra
Med 64 GB poolat VRAM över 4 Blackwell-kort klarar servern 70B Q4 tensor-parallel, embedding-kluster i stor skala, batchpipelines för bild och video samt 7-13B multi-tenant-servering för 64-128 samtidiga användare.
LLM:er — text / resonemang / kodning
Kinesiska frontiermodeller
- Qwen3-32B Q8 (dense med nära fp16-kvalitet); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, ryms med knapp marginal)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — snävt, spill till DDR4 RAM)
- Hunyuan-A13B fp8 (~80 GB nativt — snävt, välj hellre Q6)
- Seed-OSS-36B bf16 (~72 GB, snävt)
- DeepSeek-R2 32B sparse MoE bf16 (~64 GB) (~45-60 tok/s single-stream vid Q4 på Blackwell, publicerad referens)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — snäv KV-marginal
- ERNIE-4.5-47B-A3B Q4 (~28 GB med marginal för en andra modell)
Västerländska frontiermodeller
- Llama 3.3 70B Q4_K_M (~43 GB) — den optimala nivån för denna pool (~30-36 tok/s single-stream på 4x 5080, publicerad referens)
- Hermes 3 70B / Tulu 3 70B Q4 — öppna Llama-derivat med full transparens kring efterträningen
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodal
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 instanser på 4 kort för parallella tenants); gpt-oss-120b MXFP4 (80 GB — snävt; spill hanterbart)
Vision-språk
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, snävt); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodal bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Bildgenerering
FLUX.1 [dev] / [schnell] fp16 — batch-4 parallellt (~10-15 sekunder per 1024x1024-bild vid fp8 på Blackwell, publicerad referens); FLUX.1 Kontext [dev] — redigering i kontext över 4 tenants; SD 3.5 Large (18 GB fp16) — 4 parallella generatorer; SDXL 1.0 + ControlNet + AnimateDiff-stackar x 4; HunyuanImage-2.1 bf16 per kort; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Videogenerering
Wan 2.2 TI2V-5B bf16 på ett enda kort — 4 parallella tenants; Wan 2.1 14B T2V/I2V Q4-Q6 per kort; HunyuanVideo 13B Q4 (~30 GB) tensor-parallel 2-vägs; HunyuanVideo 1.5 (8.3B) bf16 per kort; Open-Sora 2.0 (11B) Q8 per kort — 4 parallella genereringar; CogVideoX-5B int8; Mochi-1 Q4 per kort.
Ljud / tal / TTS
Hela den västerländska och kinesiska ljudstacken ryms per kort: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Med 4 kort kan varje kort hysa en dedikerad tal-tenant. Whisper v3 turbo körs i ~50x realtid per kort (publicerad referens).
Flera modeller / multi-tenant
Det primära användningsfallet. 16 GB per kort gynnar uppdelade arbetsbelastningar:
- Embedding-kluster: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 tenants vid hög RPS
- 7-13B-servering i stor skala: 16-32 samtidiga användare per kort via vLLM / SGLang; 64-128 samtidiga totalt
- Blandad pipeline: Kort 1 = Qwen3-14B + reranker; Kort 2 = Whisper + Moshi; Kort 3 = FLUX.1; Kort 4 = Wan 2.2 TI2V
- 4-vägs tensor-parallel för 70B Q4 — Llama 3.3 70B AWQ INT4 över 4 kort, ~90-130 tok/s sammanlagt i batch (extrapolerat från gf-logic 4x4090-benchmark)
Målarbetsbelastningar
- Prisvärd AI-plattform med flera GPU:er för en startup eller ett labb med snäv investeringsbudget
- Embedding- och RAG-infrastruktur i 4-vägs horisontell skala
- Batchfarm för bild- / videogenerering (Stable Diffusion / FLUX / Wan 2.2)
- Servering av små 7-13B-modeller i stor skala — 4 oberoende tenants eller 64-128 samtidiga i pool
- Utvecklings- och stagingmaskin för 70B Q4 tensor-parallel-arbetsflöden
Publicerade prestandareferenser
Uppmätt av Kentino (4x4090-referens) + publicerade uppskattningar för 5080
| Benchmark | Resultat |
|---|---|
| 4x4090-referens: bibehållen fp16 | 647 TFLOPS |
| 4x4090-referens: vLLM Llama 3.3 70B AWQ (batch-32) | 179.3 tok/s sammanlagt |
| 4x4090-referens: llama.cpp 70B Q4_K_M (single) | 20.3 tok/s avkodning |
| 5080 uppskattat: Llama 3.3 70B Q4 TP-4 single | ~15-20 tok/s |
| 5080 uppskattat: FLUX.1 fp8 per kort | ~2.2-2.8 s per 1024x1024 vid 20 steg |
5080 tensorgenomströmning ~1.35x 4090 per INT8 TOPS; single-stream-avkodning begränsas av minnesbandbredden (GDDR7 ~960 GB/s vs 4090 ~1 008 GB/s — ungefär likvärdigt).
Mindre lämplig för
- 70B dense vid Q6+ (16 GB per kort begränsar fotavtrycket per kort; 64 GB-poolen är snäv för Q6)
- MoE-flaggskepp med lång kontext (Qwen3-235B, GLM-4.5) — otillräckligt VRAM även vid Q2
- Latenskänsligt single-stream-arbete på mycket stora modeller (TP-overhead äter upp marginalen på 16 GB-kort)
Garanti och leveranstid
Bygget omfattar montering, BIOS-konfiguration, drivrutinsinstallation, inbränningstest och funktionsverifiering. Leveranstiden beror på komponenttillgång och bekräftas vid beställning.
Rekommenderade tillval
- Uppgradera till dubbla synkade 2 kW ATX-nätaggregat — höjer marginalen till 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Uppgradera bootdisken till 4 TB NVMe
- Uppgradera RAM till 384 GB (6x 64 GB) — bättre marginal för flera samtidiga modeller
- Rack-PDU (C13/C19 med mätning) och 3 kVA online-UPS
De frågor köpare oftast ställer till oss innan de beställer en server.
Hur lång tid tar det?
Maskiner byggda av komponenter vi har i lager skickas snabbt; allt som kräver en viss GPU-generation beror på tillgången. Vi ger dig ett datum innan du betalar, och om det ändras säger vi till i stället för att låta dig upptäcka det själv.
Kan konfigurationen ändras innan ni bygger den?
Nästan alltid. GPU:er, minne, lagring och kylning väljs per order, och den listade konfigurationen är en utgångspunkt snarare än ett fast paket. Behöver du mer VRAM, snabbare lagring eller en annan kyllösning, säg till innan du beställer så offererar vi ändringen.
Kan jag hämta servern personligen?
Det kan du. Vårt lager ligger i Prag och du är välkommen att hämta personligen – de flesta som kommer passar på att gå igenom maskinen med vår ingenjör och ställa de frågor som är krångliga via mejl. För beställningar inom Tjeckien försöker vi också leverera personligen och gå igenom installationen med dig på plats.
Kan jag prata med någon som faktiskt förstår arbetsbelastningen?
Ja. Vi har en ingenjör som arbetar specifikt med AI-system, inte en allmän säljavdelning. Om din fråga gäller batchstorlekar, kvantisering, interconnect eller var din flaskhals kommer att uppstå, så ställ den — det samtalet brukar förändra konfigurationen till det bättre.
Vilken modell kan jag köra på den här konfigurationen?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Hur testar ni en server före leverans?
Vi kör den mot verkliga AI-arbetsbelastningar i stället för syntetiska poäng: inferensgenomströmning, beteende under ihållande last och temperaturer vid kontinuerlig drift. Du får benchmarkresultaten tillsammans med maskinen, så att den prestanda du blev lovad är den prestanda du kan verifiera redan första dagen.
Är servern redo att köras när den levereras?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Skickas från vårt lager i EU. Tunga artiklar kan kräva särskild godsfrakt — kontakta oss för en fraktoffert och leveranstid. 2 års begränsad garanti med avancerad RMA-support; förlängd garanti finns.
Inte riktigt vad du behöver?
Berätta om din arbetsbelastning så specificerar vi plattformen kring den – GPU:er, minne, lagring och kylning anpassade efter det du faktiskt kör.