Kentino AI 256 TurinDual 5090 — 8× RTX 5090 2-kantainen Zen5c
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 256 TurinDual 5090 13408TOPS
256 GB VRAM:n lippulaiva-inferenssipalvelin
8x RTX 5090 | Dual EPYC Turin | 13 408 TOPS INT8
Suorittimen hinta vahvistetaan tilauksen yhteydessä — Turin 9005 -sarjan markkinahinnat muuttuvat viikoittain vuoden 2026 toisella neljänneksellä.
Julkaistuja ulkoisia vertailutietoja. Ei mitattu Kentinon laitteistolla.
Räkkiin asennettava 7U-lippulaiva-inferenssipalvelin, jossa on kahdeksan GeForce RTX 5090 -näytönohjainta (32 GB GDDR7, Blackwell, natiivi fp8) kaksikantaisella EPYC Turin -alustalla (Zen5c, SP5), 768 GB DDR5-4800 ECC -muistia kaikissa 12 kanavassa, 2 TB:n NVMe-käynnistysasema ja 5x 1200 W:n palvelinvirtalähteet. PCIe Gen5 päästä päähän GPU:lle asti aktiivisten retimer/redriver-riserien kautta. Ajaa vLLM:ää, SGLangia, llama.cpp:tä, ComfyUI:ta ja kaikkia merkittäviä avoimien painojen inferenssipinoja suoraan paketista.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, natiivi fp8, 1676 INT8 TOPS/kortti) |
| VRAM-pooli | 256 GB yhteensä 8 kortissa (kuluttajamallin RTX 5090:ssä ei ole NVLinkiä) |
| Suoritin | 2x AMD EPYC Turin 9005 -sarja (Zen5c, SP5, PCIe 5.0) — hinta vahvistetaan tilattaessa |
| Emolevy | ASRock Rack TURIN2D24XGM/500W (kaksi SP5-kantaa, PCIe 5.0, 24x DDR5 DIMM) |
| Keskusmuisti | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — kaikki 12 kanavaa käytössä; 12 paikkaa vapaana laajennukseen 1.5 TB:hen asti) |
| Käynnistys / tallennus | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Virtalähde | 5x 1200 W:n palvelinvirtalähdesarja (HP-yhteensopiva, yhteensä 6 kW) |
| Kotelo | 7U, 8 GPU:ta (enintään 10 PCIe-paikkaa, erilliset virtalähdepaikat) |
| Jäähdytys | 2x SP5-tornijäähdytin + räkkiasennuksen etu–taka-ilmavirta (teollisuustuulettimet) |
| Riserit | 8x aktiivinen PCIe Gen5 x16 (retimer/redriver) — Gen5 päästä päähän |
| Verkko | Integroitu 10 GbE (emolevystä riippuen) |
Tehobudjetti
- GPU-kulutus: 8 x 575 W = 4 600 W
- Järjestelmä yhteensä täydellä kuormalla: ~5 520 W
- Virtalähteet yhteensä: 6 000 W (5x 1200 W) — 8 % varaa spesifikaation mukaan
- Kentino toimittaa GPU:t 500 W:n tehorajalla — kokonaiskulutus laskee ~4 920 W:iin (~15 % varaa)
Väylätopologia
Kaksi Turin-suoritinta tarjoaa isäntäpuolelle 2x 128 = 256 PCIe Gen5 -väylää. Aktiiviset Gen5-riserit vievät Gen5 x16 -yhteyden päästä päähän jokaiselle GPU:lle — PCIe-kytkintä ei tarvita (yksi suoritin 4 kortin ryhmää kohden). Ei NVLinkiä; GPU:iden välinen P2P Gen5 x16 -nopeudella (~60 GB/s nimellisesti linkkiä kohden).
Mitä sillä voi ajaa
256 GB:n yhdistetyllä VRAM-muistilla 8 Blackwell-kortissa ja natiivilla fp8-tuella tämä palvelin on mitoitettu huipputason 235-480B MoE -malleille Q4-tarkkuudella todellisella kontekstilla, DeepSeek V3 -perheelle Q2-tarkkuudella sekä Kimi-K2:n 1.58-bittiselle dynaamiselle kvantisoinnille todellisella läpäisykyvyllä.
LLM:t — teksti / päättely / koodaus
Kiinalaiset huippumallit
- Qwen3-235B-A22B (Instruct / Thinking / "2507") Q4 (~132 GB) pitkällä kontekstilla + monikäyttäjäerätyksellä (~25-40 tok/s yksittäisvirtana 8x RTX 5090:llä, julkaistu vertailutieto)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — lippulaivatason päättely/koodaus, 200k konteksti versiosta 4.6 alkaen
- GLM-5 / GLM-5.1 Q2 (~260 GB) pienellä RAM-ylivuodolla — huipputason koodaus lähellä Claude Opus 4.6:ta
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) käyttökelpoisella inferenssinopeudella (~28 tok/s yksittäisvirtana 8x Blackwellillä, julkaistu vertailutieto)
- Kimi-K2 1.58-bit UD-TQ1_0 (~240 GB) — biljoonan parametrin agentti todellisella token-läpäisykyvyllä (~7-10 tok/s yksittäisvirtana, julkaistu vertailutieto)
- Hunyuan-Large 389B/52B MoE Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, tiukka, RAM-ylivuodolla) — huipputason avoin koodauslippulaiva
- MiniMax-M1 / Text-01 Q4 (~260 GB) 1M konteksti; Qwen3.5-397B-A17B Q4 (~214 GB)
Länsimaiset huippumallit
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB ylivuodolla) — länsimaisen huippuluokan avoimet painot
- Llama 4 Maverick (400B/17B, 128 asiantuntijaa) Q4 (~232 GB) multimodaalinen
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — DeepSeek-R1:n tasoa puolella koosta
- gpt-oss-120b MXFP4 natiivisti (80 GB) väljästi, tilaa useammalle mallille
- Devstral 2 123B (Modified MIT) Q6 — huipputason avoin koodausmalli, 256k konteksti
- Llama 3.3 70B bf16 (~142 GB) monivuokralaiskäytössä (~30-40 tok/s yksittäisvirtana RTX 5090 -parilla TP2, julkaistu vertailutieto)
Näkö-kielimallit
Qwen3-VL-235B-A22B täysi bf16 (~240 GB korteilla); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, tiukka); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V täysi. Blackwellin fp8-polku antaa ~2x läpäisykyvyn näkötornin inferenssissä Adaan verrattuna.
Kuvien generointi
FLUX.1 [dev] / Kontext / Tools täysi bf16 (~10-18 s/kuva fp8:lla korttia kohden, julkaistu vertailutieto); SD 3.5 Large; HunyuanImage-2.1 (17B, natiivi 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; monityöntekijäiset ComfyUI-farmit.
Videon generointi
Wan 2.2 T2V-A14B / I2V-A14B kaksoisasiantuntija bf16 (sekä high-noise- että low-noise-malli muistissa samanaikaisesti); HunyuanVideo 13B bf16 molemmat asiantuntijat; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Ääni / puhe / TTS
- ASR: Whisper v3 large / turbo (~50x reaaliaikainen); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Reaaliaika / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Musiikki / äänitehosteet: MusicGen; AudioGen; Bark; SeamlessM4T v2
Monimalli- / monivuokralaiskäyttö
- Huipputason inferenssiyhdyskäytävä — 200B+ MoE + samanaikainen 70B + kuva + video, kaikki muistissa
- 8-tie tensoririnnakkaisuus Kimi-K2:lle / DeepSeek V3:lle todellisella kontekstilla
- Monivuokralainen LLM-API — 50-100 samanaikaista käyttäjää 235B Q4 -mallilla vLLM/SGLang-pinolla
- Kiinalaiset ja länsimaiset huippumallit muistissa samanaikaisesti arviointia / vertailutestausta varten
Kohdekuormitukset
- Huipputason avoimien painojen inferenssitausta 100-500 käyttäjän organisaatiolle, yhdistelmänä Qwen3-235B, GLM-4.5+ ja DeepSeek V3 Q2
- Kimi-K2 1.58-bit -agenttialusta tuotantotason läpäisykyvyllä (työkalujen käyttö, 200+ peräkkäistä kutsua)
- Täysi fp8 DeepSeek V3 / R1 -palvelu Blackwell-piillä
- Usean solmun koulutuksen pääsolmu Gen5 100 GbE / InfiniBand -verkolla
- Kaksoisroolinen inferenssi- ja diffuusiofarmi (Qwen3-235B + FLUX.1 + HunyuanVideo 13B samanaikaisesti)
Julkaistut suorituskykyvertailut
Ulkoiset vertailutiedot | Ei mitattu Kentinon laitteistolla
| Vertailutesti | Tulos |
|---|---|
| RTX 5090:n INT8 TOPS korttia kohden | 1 676 TOPS |
| RTX 5090:n muistikaista | ~1 800 GB/s korttia kohden |
| vLLM — Qwen3-235B Q4_K_M, 4x RTX 5090 (yksittäinen) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M, 4x RTX 5090 (erä 32) | ~450 tok/s yhteensä |
| SGLang — DeepSeek V3 Q2, 8x Blackwell (yksittäinen) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0, 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino julkaisee omat tok/s-mittaukset ensimmäisen asiakaskokoonpanon jälkeen lopullisella Turin-SKU:lla.
Ei ihanteellinen
- Budjettitietoiset käyttöönotot (Turinin hintapreemio verrattuna Genoa- tai Rome-vaihtoehtoihin)
- Yhden vuokralaisen 70B dense -kuormitukset (ylimitoitettu — 4x RTX 5090 tai 4x RTX Pro 6000 on oikea taso)
- Huipputason 600B+ Q4+ täydellä kontekstilla (vaatii 576 GB+ poolin — katso 6x RTX Pro 6000)
- Jatkuva koulutus alusta alkaen (kuluttajamallin RTX 5090:ssä ei ole NVLinkiä)
Takuu ja toimitusaika
Kokoonpano sisältää asennuksen, BIOS-määritykset, ajurien asennuksen, rasitustestauksen ja toiminnallisen tarkastuksen. Toimitusaika riippuu komponenttien saatavuudesta ja vahvistetaan tilauksen yhteydessä.
Suositellut lisävarusteet
- RAM-laajennus 1.5 TB:hen DDR5 (24x 64 GB, kaikki paikat käytössä) — vaaditaan Kimi-K2 Q4:lle tai DeepSeek V3 Q3:lle ilman RAM-ylivuotoa
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — Gen5-verkko klusterisolmuille
- Mellanox ConnectX-6 25 GbE SFP28 konesaliverkkoon
- 4 TB NVMe Gen4 x4 käynnistykseen + mallikirjastolle
- Täysi 24U-räkkikaappi hallitulla PDU:lla
- Online-UPS 8-10 kVA (kriittinen — 5.5 kW:n huippukulutus)
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.