Kentino AI 64 Rome 5090 3352TOPS – 2x RTX 5090 Blackwell -AI-palvelin
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 64 Rome 5090 3352TOPS
Blackwell-lähtötason 2-GPU-palvelin
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Blackwell-lähtötason 2-GPU-palvelin — 64 GB yhdistettyä VRAM:ia, 3 352 INT8 TOPS, natiivi fp8. Askel Adasta Blackwelliin 2x4090-kokoonpanosta.
Kahden GPU:n Blackwell-AI-palvelin, joka perustuu ROMED8-2T / EPYC Milan -alustaan. Kaksi RTX 5090 -korttia tarjoavat 64 GB:n yhdistetyn VRAM-kapasiteetin ja natiivin fp8-tensorilaskennan — noin kaksinkertaiset raa'at TOPS-arvot 2x RTX 4090:een verrattuna samassa kotelossa. Samalla tämä on ensimmäinen 2-GPU-luokka, joka ajaa väljästi Llama 3.3 70B Q4:ää, Qwen3.5-122B-A10B Q4:ää ja HunyuanVideota bf16- / fp8-tarkkuudella.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| VRAM-pooli | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 -linjaa) |
| Emolevy | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Järjestelmän RAM | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Käynnistys / tallennus | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Virtalähde | Yksi 2 kW:n ATX-virtalähde |
| Kotelo | 4U-räkkiasennus, passiiviset Gen4 x16 -riserit |
| Jäähdytys | SP3-tornijäähdytin, 3x 120 mm etuimu + 1x 120 mm takapoisto (teollisuustuulettimet) |
| Verkko | Integroitu kaksois-10 GbE (Intel X550) + IPMI |
Tehobudjetti
- GPU-kulutus: 2 x 575 W = 1 150 W
- Järjestelmä yhteensä täydellä kuormalla: ~1 475 W
- Virtalähde yhteensä: 2 000 W (yksi 2 kW ATX) — 26.25 % varaa
- Riittävä marginaali yhdellä virtalähteellä; kahden virtalähteen päivitys saatavilla lisävaraa varten
Linjatopologia
ROMED8-2T jakaa 2x16 Gen4 -linjaa suoraan CPU:n root complexista. 5090 on Gen5-piiri, joka toimii Gen4 x16 -tilassa ilman kaistanleveyshaittaa inferenssissä. Ei PCIe-kytkintä. GeForce 5090:ssä ei ole NVLinkiä — 2-suuntainen tensor-parallel P2P kulkee PCIe:n kautta.
Mitä sillä voi ajaa
64 GB:n yhdistetyllä GDDR7 VRAM:lla kahdessa Blackwell-kortissa tämä palvelin hoitaa 70B Q4 tensor-parallel -ajot, MoE-lippulaivat, natiivin fp8-kuvageneroinnin, video-AI:n ja usean mallin samanaikaisen palvelun.
LLM:t — teksti / päättely / koodaus
Kiinalaiset huippumallit
- Qwen3-32B Q8 / bf16 (lähes fp16-laatu) (~40-55 tok/s yhdellä virralla Blackwellin fp8:lla, julkaistu vertailuarvo)
- QwQ-32B bf16; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB mahtuu)
- Qwen3.5-122B-A10B Q4 (~70-75 GB RAM-ylivuodolla) — MoE-lippulaiva mahtuu Q4:llä
- Hunyuan-A13B fp8 (~80 GB, tiukka) tai Q6 (~36 GB, väljä)
- Seed-OSS-36B bf16 (~72 GB, tiukka — suositus fp8 ~36 GB)
- DeepSeek-R2 32B harva MoE bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE varalla
- ERNIE-4.5-47B-A3B Q6-Q8
Länsimaiset huippumallit
- Llama 3.3 70B Q4_K_M (~43 GB) — tämän luokan pääkuormitus (~20-28 tok/s yhdellä virralla 2x 5090:llä, julkaistu vertailuarvo)
- Hermes 3 70B / Tulu 3 70B Q4 — avoimet jälkikoulutetut Llama-johdannaiset
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16; Mixtral 8x7B bf16
- Gemma 3 27B multimodaalinen bf16 + varaa päättelylle
- Phi-4 14B bf16; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — mahtuu tiukasti lyhyellä ctx:llä)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Visio-kielimallit
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB, tiukka); Gemma 3 27B multimodaalinen bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Kuvien generointi
5090:n natiivi fp8 ratkaisee nopeuden — FLUX.1 / SD 3.5 / HunyuanImage toimivat selvästi Adaa nopeammin: FLUX.1 [dev] / [schnell] natiivi fp8 (~12 GB) 2x rinnakkain korttien kesken (~8-12 sekuntia per 1024x1024-kuva Blackwellilla, julkaistu vertailuarvo); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16 tai 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB); HunyuanImage-3.0 NF4; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Videoiden generointi
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB yhteensä) — MoE two-expert täydellä tarkkuudella; Wan 2.2 TI2V-5B bf16 korttikohtaisesti, 2 rinnakkaista vuokralaista; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 tiukka; HunyuanVideo 1.5 (8.3B) bf16 korttikohtaisesti; Open-Sora 2.0 (11B) bf16; CogVideoX-5B / 1.5 bf16; Mochi-1 bf16 (~42 GB mahtuu); LTX-Video 2B; NVIDIA Cosmos Predict 2.
Ääni / puhe / TTS
Sama täysi kiinalainen ja länsimainen puhepino kuin 4090-luokassa mahtuu mukaan suuremmalla varalla: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Natiivia fp8:aa tukevalla 5090:llä Whisper / Parakeet dekoodaavat huomattavasti korkeammalla reaaliaikakertoimella. Whisper v3 turbo toimii Blackwellilla noin 75x reaaliaikaisesti (julkaistu vertailuarvo).
Usea malli / usea vuokralainen
- Muistissa pysyvä pino: Llama 3.3 70B Q4 (~43 GB, 2-suuntainen tensor-parallel) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2-4 samanaikaista vuokralaista 32B-luokassa, Q6-Q8 per kortti
- 7-14B:n LoRA / QLoRA -hienosäätö väljästi, 24-32B tiukasti
Kohdekuormitukset
- Pienen tiimin kehitystyöasema, jossa on varaa 70B Q4 -palvelulle
- Blackwell-päivitys 2x RTX 4090 -laitteesta — sama kotelo, ~2.5x TOPS, natiivi fp8
- Kuvien / videoiden generoinnin työasema FLUXin natiivilla fp8-kiihdytyksellä
- Usean mallin samanaikainen laite: 70B Q4 + FLUX + Whisper + Moshi muistissa yhtä aikaa
- 4-8 samanaikaisen käyttäjän inferenssipiste 32B-luokan LLM-malleille
Julkaistut suorituskykyvertailut
Julkaistu vertailuarvo | 2x RTX 5090 -vastaava laitteisto
| Testi | Tulos |
|---|---|
| Llama 3.3 70B Q4_K_M llama.cpp -dekoodaus | ~20-28 tok/s, yksi virta |
| Qwen3-32B Q8 vLLM, yksi virta | ~45-60 tok/s dekoodaus fp8:lla |
| FLUX.1 [dev] natiivi fp8, Blackwell | ~1.5-1.9 s per 1024x1024, 20 askelta |
| HunyuanVideo 13B Q5 TP-2 | 5 s 720p noin 5-7 minuutissa |
Julkaistu arvo, ei mitattu Kentinon laitteistolla. Kentinon mittaama vertailuarvo 4x RTX 4090 -kokoonpanolla: 647 TFLOPS fp16, 179 tok/s batch-32 yhteensä.
Ei ihanteellinen
- Yli 100B:n tiheät mallit bf16:lla (DeepSeek-V3, Kimi K2, Mistral Large 3 — vaativat 256+ GB:n poolin)
- Huippuluokan pitkien täyden resoluution videoiden generointi bf16:lla
Takuu ja toimitusaika
Toimitukseen sisältyy kokoonpano, BIOS-konfigurointi, ajureiden asennus, burn-in-testaus ja toiminnallinen tarkastus. Toimitusaika riippuu komponenttien saatavuudesta, ja se vahvistetaan tilauksen yhteydessä.
Suositellut lisävarusteet
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Käynnistysaseman päivitys 2 TB:n NVMe-levyyn — tai 4 TB:n
- RAM-päivitys 256 GB:hen (4x 64 GB) — varaa MoE:n KV-välimuistille / usean mallin samanaikaiselle palvelulle
- Räkki-PDU (C13/C19, mittaroitu) ja 3 kVA:n online-UPS
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.