Kentino AI 48 Rome 4090 1322TOPS — vstupný AI server
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI 48 Rome 4090 1322TOPS
Vstupný 2-GPU server s 48 GB VRAM
2x RTX 4090 | EPYC Rome | 1 322 TOPS INT8
48 GB spoločnej VRAM naprieč dvoma RTX 4090 — cenové dno pre tensor-parallel inferenciu triedy 32B.
Dvojgrafický AI server triedy workstation na architektúre Ada, postavený na ROMED8-2T / EPYC Rome. Dve RTX 4090 dávajú spoločnú VRAM 48 GB, na ktorej pohodlne beží 32B dense Q6-Q8, Hunyuan-A13B v Q6, video Wan 2.1 14B aj vision model Pixtral 12B — najlepší všestranný výber modelov za euro, aký v ponuke Kentino nájdete pred prechodom na Blackwell.
Hardvér
| Komponent | Detail |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 4090 24 GB GDDR6X (450 W, PCIe 4.0 x16) |
| spoločná VRAM | 48 GB (bez NVLink — tensor-parallel cez PCIe) |
| CPU | AMD EPYC 7542 Rome (32C/64T, 225 W, 128x linka PCIe 4.0) |
| Základná doska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Bootovacie / dátové úložisko | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden zdroj ATX 2 kW |
| Šasi | 4U do racku, pasívne risery Gen4 x16 |
| Chladenie | Tower chladič SP3, 3x 120 mm predný prívod + 1x 120 mm zadný odvod |
| Sieť | Integrované dvojité 10 GbE (Intel X550) + IPMI |
Energetická bilancia
- Odber GPU: 2 x 450 W = 900 W
- Celkovo pri plnej záťaži: ~1 225 W
- Celkový výkon zdroja: 2 000 W (jeden ATX 2 kW) — 38.75 % rezerva
- Pohodlná rezerva na jednom zdroji
Topológia liniek
ROMED8-2T rozvádza 2x16 priamo z root complexu CPU — žiadny PLX switch. Spotrebiteľská 4090 nemá NVLink, takže tensor-parallel komunikuje cez PCIe. Obe GPU bežia na PCIe Gen4 x16.
Čo na ňom spustíte
So 48 GB spoločnej VRAM naprieč dvoma kartami zvládne tento server dense LLM triedy 32B v Q6-Q8, vlajkové MoE modely, generáciu obrazu a videa, rečové AI aj obsluhu viacerých používateľov naraz.
LLM — text / uvažovanie / kódovanie
Čínska špička
- Qwen3-32B dense Q6-Q8 (~25-35 tok/s single-stream na 2x 4090, publikovaná referencia); QwQ-32B Q6; Qwen3.5-27B Q6-Q8
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB tesne; použite Q6)
- Hunyuan-A13B Q6 alebo fp8 (~48 GB) — 80B/13B MoE, 256k ctx
- Seed-OSS-36B Q6 — 512k natívny ctx
- DeepSeek-R2 32B sparse MoE bf16 (~64 GB tesne — radšej Q6 ~45 GB) (~30-40 tok/s single-stream pri Q4, publikovaná referencia)
- ERNIE-4.5-47B-A3B Q4 (~28 GB s rezervou) / Q6 (~42 GB)
Západná špička
- Llama 3.3 70B Q4_K_M (~43 GB) tensor-parallel na dve karty — sladký bod tejto triedy (~14-17 tok/s single-stream na 2x 4090, publikovaná referencia)
- Llama 4 Scout 109B/17B MoE Q3_K (~51 GB tesne)
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B) bf16
- Mixtral 8x7B Q6
- Gemma 3 27B bf16; Phi-4 14B bf16
- Nemotron-Super 49B Q4 (~28 GB)
- Ďalej: OLMo 2 32B; Reka Flash 3 21B bf16; Falcon H1R 7B
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B MoE / Qwen3-Omni-30B-A3B; InternVL3-38B Q4-Q5; InternVL3.5-38B; DeepSeek-VL2; ERNIE-4.5-VL-28B-A3B-Thinking; Llama 3.2 11B Vision bf16; Pixtral 12B bf16; Gemma 3 27B multimodálny; PaliGemma 2 28B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6.
Generácia obrazu
FLUX.1 [dev] / [schnell] fp16 (24 GB) alebo fp8 (~12 GB) so štedrým batchom (~15-25 sekúnd na obrázok 1024x1024 pri fp8 na kartu, publikovaná referencia); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16); SDXL 1.0 + ControlNet + AnimateDiff; HunyuanImage-2.1 bf16 (~34 GB sa do poolu zmestí); AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generácia videa
Wan 2.1 14B T2V/I2V Q6/fp8; Wan 2.2 TI2V-5B bf16 na jednej karte; Wan 2.2 T2V-A14B / I2V-A14B Q4 (~32 GB); HunyuanVideo 13B Q4-Q5 (~30 GB); HunyuanVideo 1.5 (8.3B) bf16; Open-Sora 2.0 (11B) Q8; CogVideoX-5B / 1.5 bf16; Mochi-1 Q4-Q8; LTX-Video 2B; Pyramid Flow 2B.
Zvuk / reč / TTS
Celý stack 24GB triedy sa zmestí aj s rezervou na súbežné použitie: Whisper v3 large + Parakeet-TDT + Canary 1B + Moshi + Step-Audio 2 mini + CosyVoice 3.0 + Kokoro 82M + Stable Audio Open môžu byť načítané súčasne. Whisper v3 turbo beží na jednej karte približne 50x rýchlejšie než reálny čas (publikovaná referencia).
Viac modelov / viac používateľov
- 2-4 súbežní používatelia na LLM triedy 32B Q6 cez vLLM tensor-parallel
- Zmiešaný workload: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB) + Whisper-turbo (1.6 GB) + Moshi (8 GB) načítané naprieč dvoma kartami
- LoRA / QLoRA fine-tuning modelov 7-14B pohodlne, 24-32B už tesne
Cieľové nasadenie
- AI workstation pre dvoch operátorov so zmiešaným stackom LLM + obraz + zvuk
- Serving endpoint triedy 32B pre vývojárske prostredie menšieho tímu (4-8 súbežných používateľov na Qwen3-32B / Gemma 3 27B)
- Dávková produkcia obrazu v pipeline (FLUX.1 + SD 3.5 + ControlNet)
- Vývojársky stroj na generáciu videa (Wan 2.1 / Wan 2.2 TI2V / HunyuanVideo 1.5)
- Výskumný stroj na LoRA / QLoRA fine-tuning čínskych aj západných váh 7-34B
Publikované referencie výkonu
Publikovaná referencia | porovnateľný hardvér 2x RTX 4090
| Benchmark | Výsledok |
|---|---|
| Llama 3.3 70B Q4_K_M dekódovanie v llama.cpp | ~14-17 tok/s single-stream |
| Qwen3-32B Q6 vLLM single-stream | ~35-45 tok/s dekódovanie |
| FLUX.1 [dev] fp8 | ~2.5-3.0 s na 1024x1024 pri 20 krokoch |
| vLLM batch-32 celkovo (extrapolované zo 4x4090) | ~90 tok/s celkovo |
Publikované referenčné body z porovnateľného hardvéru 2x4090. Nemerali sme ich na hardvéri Kentino.
Menej vhodné pre
- 70B dense v Q6+ (žiada si pool 96 GB — prejdite na 4x RTX 4090 alebo 4x RTX 5090)
- Špičkové MoE nad 100B v bf16 (GLM-4.5, Kimi K2, Mistral Large 3)
Záruka a dodacia lehota
Zostava zahŕňa montáž, konfiguráciu BIOSu, inštaláciu ovládačov, záťažový burn-in test a funkčnú kontrolu. Dodacia lehota závisí od dostupnosti komponentov a potvrdzujeme ju pri objednávke.
Odporúčané doplňky
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Navýšenie bootovacieho disku na 2 TB NVMe
- Navýšenie RAM na 256 GB (4x 64 GB) — viac miesta pre KV cache pri MoE s dlhým ctx
- Rackový PDU (C13/C19 s meraním) a online UPS 2 kVA
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.