Kentino AI 48 Rome 4090 — 2x RTX 4090 vstupní AI server
Platforma podnikové třídy, sestavená a otestovaná v EU.
Kentino AI 48 Rome 4090 1322TOPS
Vstupní 2GPU server s 48 GB VRAM
2x RTX 4090 | EPYC Rome | 1 322 TOPS INT8
Pool 48 GB VRAM napříč dvěma RTX 4090 — cenové dno pro tensor-parallel inferenci třídy 32B.
Dvougrafický AI server třídy workstation na architektuře Ada, postavený na ROMED8-2T / EPYC Rome. Dvě RTX 4090 dávají pool 48 GB VRAM, který pohodlně utáhne husté modely 32B v Q6-Q8, Hunyuan-A13B v Q6, video Wan 2.1 14B i vizuální Pixtral 12B — nejlepší všestranný výběr modelů za euro, jaký řada Kentino nabízí, než přejdete na Blackwell.
Hardware
| Komponenta | Detail |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 4090 24 GB GDDR6X (450 W, PCIe 4.0 x16) |
| pool VRAM | 48 GB (bez NVLink — tensor-parallel přes PCIe) |
| CPU | AMD EPYC 7542 Rome (32 jader / 64 vláken, 225 W, 128 linek PCIe 4.0) |
| Základní deska | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systémová RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Boot / úložiště | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Zdroj | Jeden zdroj 2 kW ATX |
| Šasi | 4U do racku, pasivní riser karty Gen4 x16 |
| Chlazení | Věžový chladič SP3, 3x 120mm přední nasávání + 1x 120mm zadní výfuk |
| Síť | Dvakrát 10 GbE na desce (Intel X550) + IPMI |
Energetická bilance
- Odběr GPU: 2 x 450 W = 900 W
- Celek systému při plné zátěži: ~1 225 W
- Celkem zdroj: 2 000 W (jeden 2 kW ATX) — rezerva 38.75 %
- Pohodlná rezerva na jednom zdroji
Topologie linek
ROMED8-2T vyvádí 2x16 přímo z root complexu CPU — bez PLX switche. Spotřebitelská 4090 nemá NVLink; tensor-parallel komunikuje přes PCIe. PCIe Gen4 x16 u obou GPU.
Co na něm můžete provozovat
S poolem 48 GB VRAM napříč 2 kartami tento server zvládá husté LLM třídy 32B v Q6-Q8, vlajkové MoE modely, generování obrazu i videa, řečovou AI a provoz pro více nájemců.
LLM — text / uvažování / kódování
Čínská špička
- Qwen3-32B hustý Q6-Q8 (~25-35 tok/s v jednom proudu na 2x 4090, publikovaná reference); QwQ-32B Q6; Qwen3.5-27B Q6-Q8
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB těsné; použijte Q6)
- Hunyuan-A13B Q6 nebo fp8 (~48 GB) — MoE 80B/13B, kontext 256k
- Seed-OSS-36B Q6 — nativní kontext 512k
- DeepSeek-R2 32B řídký MoE bf16 (~64 GB těsné — raději Q6 ~45 GB) (~30-40 tok/s v jednom proudu v Q4, publikovaná reference)
- ERNIE-4.5-47B-A3B Q4 (~28 GB s rezervou) / Q6 (~42 GB)
Západní špička
- Llama 3.3 70B Q4_K_M (~43 GB) tensor-parallel po dvou — ideální bod této třídy (~14-17 tok/s v jednom proudu na 2x 4090, publikovaná reference)
- Llama 4 Scout MoE 109B/17B Q3_K (~51 GB těsné)
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B) bf16
- Mixtral 8x7B Q6
- Gemma 3 27B bf16; Phi-4 14B bf16
- Nemotron-Super 49B Q4 (~28 GB)
- Další: OLMo 2 32B; Reka Flash 3 21B bf16; Falcon H1R 7B
Vision-Language
Qwen3-VL-32B / Qwen3-VL-30B-A3B MoE / Qwen3-Omni-30B-A3B; InternVL3-38B Q4-Q5; InternVL3.5-38B; DeepSeek-VL2; ERNIE-4.5-VL-28B-A3B-Thinking; Llama 3.2 11B Vision bf16; Pixtral 12B bf16; Gemma 3 27B multimodal; PaliGemma 2 28B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6.
Generování obrazu
FLUX.1 [dev] / [schnell] fp16 (24 GB) nebo fp8 (~12 GB) se štědrou dávkou (~15-25 sekund na obrázek 1024x1024 ve fp8 na kartu, publikovaná reference); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16); SDXL 1.0 + ControlNet + AnimateDiff; HunyuanImage-2.1 bf16 (~34 GB se vejde do poolu); AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generování videa
Wan 2.1 14B T2V/I2V Q6/fp8; Wan 2.2 TI2V-5B bf16 na jedné kartě; Wan 2.2 T2V-A14B / I2V-A14B Q4 (~32 GB); HunyuanVideo 13B Q4-Q5 (~30 GB); HunyuanVideo 1.5 (8.3B) bf16; Open-Sora 2.0 (11B) Q8; CogVideoX-5B / 1.5 bf16; Mochi-1 Q4-Q8; LTX-Video 2B; Pyramid Flow 2B.
Audio / řeč / TTS
Celý stack třídy 24 GB se vejde i s prostorem pro souběžné použití: Whisper v3 large + Parakeet-TDT + Canary 1B + Moshi + Step-Audio 2 mini + CosyVoice 3.0 + Kokoro 82M + Stable Audio Open mohou být rezidentní současně. Whisper v3 turbo běží na jedné kartě ~50x rychleji než reálný čas (publikovaná reference).
Více modelů / více nájemců
- 2-4 souběžní uživatelé na LLM třídy 32B Q6 přes vLLM tensor-parallel
- Smíšený workload: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB) + Whisper-turbo (1.6 GB) + Moshi (8 GB) rezidentní napříč 2 kartami
- Doladění LoRA / QLoRA modelů 7-14B pohodlně, 24-32B těsně
Cílové workloady
- AI workstation pro dva operátory se smíšeným stackem LLM + obraz + audio
- Serving endpoint třídy 32B pro vývojové prostředí malého týmu (4-8 souběžných uživatelů na Qwen3-32B / Gemma 3 27B)
- Pipeline pro generování obrazu (FLUX.1 + SD 3.5 + ControlNet) v dávkové produkci
- Vývojový stroj pro generování videa (Wan 2.1 / Wan 2.2 TI2V / HunyuanVideo 1.5)
- Výzkumný stroj pro doladění LoRA / QLoRA čínských i západních vah 7-34B
Publikované reference výkonu
Publikovaná reference | srovnatelný hardware 2x RTX 4090
| Benchmark | Výsledek |
|---|---|
| Llama 3.3 70B Q4_K_M dekódování v llama.cpp | ~14-17 tok/s v jednom proudu |
| Qwen3-32B Q6 vLLM v jednom proudu | ~35-45 tok/s dekódování |
| FLUX.1 [dev] fp8 | ~2.5-3.0 s na 1024x1024 při 20 krocích |
| souhrn vLLM dávka-32 (extrapolováno ze 4x4090) | ~90 tok/s souhrnně |
Publikované referenční body ze srovnatelného hardwaru 2x4090. Neměřeno na hardwaru Kentino.
Není ideální pro
- husté 70B v Q6+ (potřebuje pool 96 GB — přejděte na 4x RTX 4090 nebo 4x RTX 5090)
- špičkové MoE 100B+ v bf16 (GLM-4.5, Kimi K2, Mistral Large 3)
Záruka a dodací lhůta
Sestavení zahrnuje montáž, konfiguraci BIOSu, instalaci ovladačů, zátěžové testování a funkční ověření. Dodací lhůta závisí na dostupnosti komponent a potvrzuje se při objednávce.
Doporučené doplňky
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade systémového disku na 2 TB NVMe
- Upgrade RAM na 256 GB (4x 64 GB) — více rezervy pro KV cache u MoE s dlouhým kontextem
- Rack PDU (měřené C13/C19) a online UPS 2 kVA
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.