Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — 8× RTX Pro 6000 Blackwell Max-Q AI Frontier -palvelin (Dual Turin)
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
768 GB ECC VRAM – frontier-luokan lippulaiva
8x RTX Pro 6000 Max-Q | Kaksi EPYC Turin -suoritinta | 16 000 TOPS INT8
CPU:n hinta vahvistetaan tilattaessa — Turin 9005 -sarjan markkinahinnat muuttuvat viikoittain Q2 2026.
Julkaistut ulkoiset viitearvot. Ei mitattu Kentinon laitteistolla.
Kentinon AI-palvelinvalikoiman huippumalli. Räkkiin asennettava 7U-lippulaiva frontier-luokan inferenssiin: kahdeksan NVIDIA RTX Pro 6000 Blackwell Max-Q -turbofan-korttia, yhteensä 768 GB ECC VRAM, kaksi AMD EPYC Turin 9005 -sarjan suoritinta (Zen5c, SP5), 1.5 TB DDR5-4800 ECC (kaikki 24 kanavaa käytössä), 4 TB NVMe-käynnistyslevy ja 5x 1200 W palvelinvirtalähde. PCIe Gen5 päästä päähän. DeepSeek V3 natiivina fp8-mallina (~670 GB) kokonaan korttien muistissa. Kimi-K2 Q4-Q5. 4 frontier-luokan mallia muistissa samanaikaisesti.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan, 600 W TDP -spesifikaatio, PCIe 5.0 x16, 2000 INT8 TOPS/kortti, natiivi fp8) |
| VRAM-pooli | 768 GB yhteensä 8 kortissa (ei NVLinkiä — P2P PCIe Gen5:n kautta ~55-60 GB/s saman kannan sisällä, kantojen välillä CPU-väylän kautta) |
| CPU | 2x AMD EPYC Turin 9005 -sarja (Zen5c, SP5, PCIe 5.0) — hinta tarjouksen mukaan, tarkka SKU vahvistetaan tilattaessa |
| Emolevy | ASRock Rack TURIN2D24XGM/500W (kaksi SP5 Turin -kantaa, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| Keskusmuisti | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — kaikki 24 kanavaa käytössä, yhteensä ~920 GB/s) |
| Käynnistys / tallennus | 4 TB NVMe M.2 (PCIe 4.0 x4) — mitoitettu frontier-mallien checkpointeille |
| Virtalähde | 5x 1200 W palvelinvirtalähdesarja (yhteensä 6 kW) |
| Runko | 7U 8-GPU-räkkirunko, 10 PCIe-paikkaa, aktiiviset Gen5-riserit |
| Jäähdytys | 2x SP5 Turin -tornijäähdytin + 8x 120 mm Martech-runkotuuletin. GPU-kohtaiset turbofan-puhaltimet ovat itsenäisiä. |
| Verkko | Integroitu kaksiporttinen 10 GbE (Intel X550) |
Tehobudjetti
- GPU-kulutus (spesifikaatio): 8 x 600 W = 4 800 W
- CPU-kulutus: 2 x 360 W = 720 W (arvio Turin-keskiluokalle)
- Järjestelmä yhteensä spesifikaation täydellä kuormalla: ~5 720 W
- Virtalähteet yhteensä: 6 000 W — ~4.7% raakavaraa spesifikaatiolla
- Käytännössä: Max-Q pysyy inferenssissä 520-550 W:ssa, jolloin jatkuva varaus nousee ~20%+:iin
- Laiteohjelmiston tehokatto 520 W:iin saatavilla taatun varan varmistamiseksi
Kaistatopologia
Kaksi Turin-suoritinta tarjoaa 2x 128 PCIe Gen5 -kaistaa. TURIN2D24XGM/500W kytkee 8 GPU-paikkaa suoraan suorittimiin Gen5 x16 -nopeudella aktiivisten riserien kautta — 4 paikkaa kutakin CPU-juurta kohden. GPU-polulla ei ole PCIe-kytkintä — selkeä kaksijuurinen topologia. NUMA-viritys tarvitaan optimaaliseen kantojen väliseen vertaisliikenteeseen. Ei NVLinkiä; P2P ~55-60 GB/s suuntaansa saman kannan sisällä.
Mitä sillä voi ajaa
768 GB:n yhteisellä ECC VRAM -muistilla — Kentinon valikoiman huippu — tämä palvelin ajaa DeepSeek V3:n natiivina fp8-mallina (~670 GB) korttien muistissa, Kimi-K2 Q4-Q5:n (~630 GB) väljästi sekä määrittävän käyttötapauksensa: 4 frontier-luokan mallia muistissa samanaikaisesti monivuokralaiseen tuotantokäyttöön.
LLM:t — teksti / päättely / koodaus
Kiinalaiset frontier-mallit tuotantokvantisoinneilla
- Kimi-K2 (Base / Instruct / Thinking) Q4_K_M / Q5_K_M -kvantisoinnilla (~630 GB) väljästi (~15-25 tok/s yksittäin, julkaistu viitearvo) — kiinalainen frontier-lippulaiva yhdessä laitteessa tuotantokvantisoinneilla
- DeepSeek V3 / R1 / V3.1 / V3.2 natiivina fp8-mallina (~670 GB) korttien muistissa (~30-50 tok/s yksittäin, julkaistu viitearvo) — Blackwellin fp8-tensoriytimet ajavat tämän natiivisti täydellä nopeudella
- DeepSeek V3 Q4_K_M-kvantisoinnilla (~404 GB) useana samanaikaisena suurten erien palveluinstanssina
- GLM-5 / GLM-5.1 (~745B/44B) Q3-Q4-kvantisoinnilla (~420-560 GB) väljästi korttien muistissa
- Intern-S1-Pro (1T/22B aktiivista, SAGE) Q3-Q4-kvantisoinnilla (~440-580 GB) väljästi
- Qwen3-Coder-480B-A35B Q5-Q6-kvantisoinnilla (~340-400 GB) 1M kontekstilla
- Qwen3-235B-A22B bf16-tarkkuudella (~470 GB) runsaalla KV-välimuistilla pitkää kontekstia varten
- ERNIE-4.5-424B-A47B Q6-kvantisoinnilla (~360 GB); Hunyuan-Large fp8-tarkkuudella (~390 GB)
- MiniMax-Text-01 / M1 Q5-Q6-kvantisoinnilla (~325-390 GB)
Länsimaiset frontier-mallit tuotantokvantisoinneilla
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3-Q4-kvantisoinnilla (~317-404 GB) väljästi (~20-30 tok/s yksittäin, julkaistu viitearvo)
- Llama 4 Maverick (400B/17B, 128 asiantuntijaa) Q5-Q6-kvantisoinnilla (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B bf16-tarkkuudella (~506 GB) korttien muistissa
- Snowflake Arctic Q5-Q6-kvantisoinnilla (~350-420 GB); Grok-1 Q5-Q6-kvantisoinnilla (~225-270 GB)
- DBRX Instruct 132B/36B bf16-tarkkuudella (~264 GB) useana instanssina
Näkö-kielimallit
Qwen3-VL-235B-A22B, lippulaiva-VLM pitkällä kontekstilla; InternVL3.5-241B-A28B bf16-tarkkuudella (~482 GB); GLM-4.5V / 4.6V 106B bf16 useana instanssina; Llama 3.2 90B Vision bf16 useana instanssina; Pixtral Large 124B bf16; Molmo 72B bf16 useana instanssina.
Kuvagenerointi
HunyuanImage-3.0 Instruct rinnakkaisina instansseina; FLUX.1 useana instanssina (~15-20 s / 1024x1024-kuva, julkaistu viitearvo); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — koko kiinalainen ja länsimainen kuvamallivalikoima muistissa samanaikaisesti.
Videogenerointi
Wan 2.2 T2V-A14B / I2V-A14B — lukuisia rinnakkaisia virtoja; HunyuanVideo 13B bf16 useita rinnakkaisia virtoja; Open-Sora 2.0 (11B) useana instanssina; Mochi-1 (10B) useana instanssina; NVIDIA Cosmos Predict 2 jopa 14B.
Ääni / puhe / TTS
Koko pino muistissa eräajona: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B reaaliaikainen, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Monimalli- ja monivuokralaispalvelu (määrittävä käyttötapaus)
- Monivuokralainen frontier-tuotanto: 4 frontier-luokan mallia muistissa samanaikaisesti — esim. DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — osioidulla VRAM-muistilla ja vuokralaiskohtaisilla SLO-tasoilla
- Samanaikainen natiivi fp8-inferenssi Blackwellillä (DeepSeek V3 / R1 -perhe, Hunyuan fp8) + kvantisoitu palvelu erillisissä PCIe-domaineissa
- Tutkimuksen A/B-vertailu 4-5 frontier-luokan avoimen painon mallin välillä tutkimustason kvantisoinneilla
- Agenttialusta, jossa 400B+ päämalli + useita 30-70B erikoismalleja muistissa
Kohdekuormitukset
- Monivuokralainen frontier-tuotanto avoimen painon malleilla — useita frontier-malleja muistissa samanaikaisesti vuokralaiskohtaisella eristyksellä
- Suvereeni frontier-AI-käyttöönotto — paikallinen DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, datan säilytys EU:ssa
- Frontier-tutkimuslaboratorio, jossa A/B-arviointi 4+ frontier-luokan avoimen painon mallin välillä tutkimustason kvantisoinneilla
- Yritystason agenttialusta, jossa 400B+ MoE ohjaa työkaluja + useita erikoismalleja
- Eristetty (air-gapped) inferenssi säännellyille toimialoille frontier-mittakaavassa ECC:llä + PCIe Gen5:llä
Julkaistut suorituskykyviitteet
Ulkoiset viitearvot | Ei mitattu Kentinon laitteistolla
| Testi | Tulos |
|---|---|
| RTX Pro 6000 INT8 TOPS korttia kohden | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8, 8x RTX Pro 6000 (yksittäin) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8, 8x RTX Pro 6000 (batch-32) | 300-500 tok/s yhteensä |
| Kimi-K2 Q4 -palvelu, 8x RTX Pro 6000 (yksittäin) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 yhdellä RTX Pro 6000 -kortilla | ~15-20 s / 1024x1024-kuva |
Tarkat luvut vahvistetaan PoC-vaiheessa. Kentino julkaisee omat mittaustuloksensa ensimmäisen asiakastoimituksen jälkeen.
Ei ihanteellinen
- Budjettitietoisille käyttöönotoille — lippulaivamalli lippulaivahintaan
- Frontier-luokan mallien koulutukseen alusta alkaen — ei NVLinkiä, vain PCIe P2P (tämän mittakaavan koulutukseen oikea työkalu on H100/H200 SXM tai GB200 NVLink -verkko)
- Plug-and-play-käyttöönottoon — frontier-luokan monivuokralainen MoE-palvelu vaatii osaavan MLOps-tiimin
Takuu ja toimitusaika
Toimitukseen sisältyy kokoonpano, BIOS-määritys, ajurien asennus, rasitustestaus, muistitesti, toiminnallinen varmennus, NUMA-viritys ja LLM-ympäristön käyttöönotto (vLLM / SGLang / llama.cpp / CUDA 13 -pino fp8 Blackwell -ytimillä). Toimitusaika riippuu komponenttien saatavuudesta ja vahvistetaan tilattaessa.
Suositellut lisävarusteet
- NVIDIA ConnectX-5 MCX555A-ECAT tai ConnectX-7 Gen5 100 GbE -verkkokortti usean solmun laajentamiseen
- Mellanox ConnectX-6 25 GbE SFP28 konesaliverkkoon
- Toinen 4 TB NVMe data- ja mallikirjastolle (frontier-checkpointit ovat suuria — pelkkä Kimi-K2 bf16 on ~1 TB)
- Täysi 24U-räkkikaappi rei'itetyllä etuovella ja hallittavalla PDU:lla
- Online-UPS 10 kVA (hallittu alasajo sähkökatkoksessa)
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.