Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS — 6× RTX Pro 6000 Blackwell Max-Q AI Frontier -palvelin
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS
576 GB:n ECC VRAM -huippupalvelin
6x RTX Pro 6000 Max-Q Turbofan | EPYC Genoa | 12 000 TOPS INT8
Julkaistut ulkoiset viitearvot. Ei mitattu Kentinon laitteistolla.
7U:n räkkiasennettava huippuluokan inferenssialusta, jossa on kuusi NVIDIA RTX Pro 6000 Blackwell Max-Q -turbotuuletinkorttia, yhteensä 576 GB ECC VRAM -muistia, yksi AMD EPYC 9354 Genoa -suoritin (32C/64T), 768 GB DDR5-4800 ECC (kaikki 12 kanavaa käytössä), 4 TB NVMe-käynnistyslevy ja 5x 1200 W:n palvelinvirtalähde. Sama piiri ja muistipooli kuin passiivisessa Server Edition -kokoonpanossa – vain jäähdytin on eri. Max-Q-turbotuuletin on jokaisessa kortissa itsenäinen, toimii hiljaisemmin ja sietää väljemmät kotelon ilmavirtavaatimukset. Mallivalikoima on identtinen passiivisen sisarmallin kanssa.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 6x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbopuhallin, 600 W TDP-spesifikaatio, PCIe 5.0 x16, 2000 INT8 TOPS per kortti) |
| VRAM-pooli | Yhteensä 576 GB 6 kortissa (ei NVLinkiä – P2P PCIe Gen5:n kautta ~55-60 GB/s suuntaansa) |
| Suoritin | AMD EPYC 9354 Genoa (32C/64T, 280 W, 128x PCIe 5.0 -linjaa, 12-kanavainen DDR5) |
| Emolevy | ASRock Rack GENOAD8X-2T/BCM (SP5 Genoa, integroitu Broadcom PEX PCIe Gen5 -kytkin, 12x DDR5, 2x 10 GbE, IPMI) |
| Järjestelmän RAM | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB – kaikki kanavat käytössä, ~460 GB/s yhteensä) |
| Käynnistys / tallennustila | 4 TB NVMe M.2 (PCIe 4.0 x4) – mitoitettu huippumallien checkpointien välivarastointiin |
| Virtalähde | 5x 1200 W:n palvelinvirtalähdesarja (HP-yhteensopiva, yhteensä 6 kW) |
| Kotelo | 7U 8-GPU räkkiasennus, kapasiteetti 10 PCIe-paikkaa, aktiiviset Gen5-jatkokaapelit |
| Jäähdytys | SP5 Genoa -tornijäähdytin + 8x 120 mm kotelotuuletinta. GPU-kohtaiset turbopuhaltimet ovat itsenäisiä – konesalin ilmavirta on suositeltava mutta ei välttämätön. Hiljaisempi laboratorioympäristöihin. |
| Verkko | Integroitu kaksois-10 GbE (Intel X550) |
Tehobudjetti
- GPU-kulutus (spesifikaatio): 6 x 600 W = 3 600 W
- Järjestelmä yhteensä spesifikaation mukaisella täydellä kuormalla: ~4 080 W
- Virtalähteet yhteensä: 6 000 W (5x 1200 W) – 32% varaa
- Max-Q-kortit toimivat tyypillisesti jatkuvalla 520-550 W:n teholla – todellinen varaus yli 20%
Jäähdytys (Max-Q:n erottava tekijä)
Jokainen kortti imee ilman edestä taakse omalla puhaltimellaan – itsenäisesti korttikohtaisesti. Sietää sekaräkki- ja avokaappiasennukset. Hiljaisempi kuin vastaava aksiaalituuletinpino. Max-Q-laiteohjelmistoprofiili suosii matalampaa jatkuvaa tehoa (tyypillisesti 520-550 W inferenssissä). Suositus: kaappi, jossa on rei'itetty etuovi ja vapaa takapoistoreitti.
Mitä palvelimella voi ajaa
Identtinen Server Edition -sisarmallin kanssa – sama piiri, sama 576 GB:n pooli. DeepSeek V3 Q4 (~404 GB) pitkällä kontekstilla, Kimi-K2 Q2, Mistral Large 3 Q2-Q3, GLM-5 Q2, Qwen3-Coder-480B Q4.
LLM:t – teksti / päättely / koodaus
Kiinalaiset huippumallit
- DeepSeek V3 / R1 / V3.1 / V3.2 Q4_K_M-tarkkuudella (~404 GB) mukavasti pitkällä kontekstilla (~5-8 tok/s yksittäinen vLLM TP-6, julkaistu viitearvo); fp8-natiivi (~670 GB) RAM-ylivuodolla
- Kimi-K2 (Base / Instruct / Thinking) Q2_K-tarkkuudella (~375 GB) mukavasti (~5-8 tok/s yksittäinen, julkaistu viitearvo)
- GLM-5 / GLM-5.1 (~745B/44B) Q2_K-tarkkuudella (~260 GB); Q3 (~420 GB) RAM-ylivuodolla
- Qwen3-Coder-480B-A35B Q4_K_M-tarkkuudella (~270 GB) pitkällä kontekstilla
- Qwen3-235B-A22B bf16-tarkkuudella (~470 GB) tai fp8 (~240 GB)
- ERNIE-4.5-424B-A47B Q4-tarkkuudella (~240 GB) 128k-kontekstilla
- Intern-S1-Pro Q2_K-tarkkuudella (~325 GB); Hunyuan-Large Q4-tarkkuudella (~220 GB)
- MiniMax-Text-01 / M1 Q4-tarkkuudella (~260 GB)
Länsimaiset huippumallit
- Mistral Large 3 Q2-Q3-tarkkuudella (~243-317 GB) mukavasti (~20-30 tok/s yksittäinen, julkaistu viitearvo)
- Llama 4 Maverick Q4_K_M-tarkkuudella (~232 GB) pitkällä kontekstilla (~45-55 tok/s yksittäinen, julkaistu viitearvo)
- Llama-3.1-Nemotron Ultra 253B fp8-tarkkuudella (~253 GB)
- Grok-1 314B Q4-tarkkuudella (~182 GB); Snowflake Arctic Q4-tarkkuudella (~278 GB)
- DBRX Instruct 132B/36B bf16-tarkkuudella (~264 GB) tai fp8
Visio-kielimallit
Qwen3-VL-235B-A22B; InternVL3.5-241B-A28B Q4; GLM-4.5V / 4.6V 106B bf16; Llama 3.2 90B Vision bf16; Pixtral Large 124B fp8; Molmo 72B bf16.
Kuvien generointi
HunyuanImage-3.0 Instruct; FLUX.1 [dev] / [schnell] / Kontext useana instanssina (~15-20 s per 1024x1024-kuva, julkaistu viitearvo); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0.
Videon generointi
Wan 2.2 T2V-A14B kahden asiantuntijan MoE bf16; HunyuanVideo 13B bf16; Open-Sora 2.0 (11B); Mochi-1 (10B); NVIDIA Cosmos Predict 2 enintään 14B; CogVideoX-5B; LTX-Video; Pyramid Flow.
Ääni / puhe / TTS
Koko pino muistissa: Whisper v3 large, Parakeet-TDT 1.1B, Canary 1B, Moshi 7B reaaliaikainen, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Usean mallin / usean vuokralaisen palvelu
- DeepSeek V3 Q4 + FLUX + HunyuanVideo + Whisper/Moshi reaaliaikaisena, kaikki muistissa
- Samanaikaiset 70B-tensoririnnakkaisuus + 235B-MoE erillisillä PCIe-alueilla
- 3 huippumallia muistissa A/B-arviointia varten
Kohdekuormitukset
- Open-weight-huippumallien tutkimuslaboratorio, jonka ilmavirtainfrastruktuuri on sekalainen tai epäihanteellinen
- Colocation / yksityinen konesali, jossa korttikohtainen turbotuuletin on operatiivisesti yksinkertaisempi kuin täysin passiivinen ilmavirta
- Suvereeni AI-käyttöönotto Apache 2.0 / MIT -mallipinolla
- Yritystason usean mallin RAG- ja agenttialusta
- Laboratorioympäristöt avoimilla räkeillä
Julkaistut suorituskykyviitteet
Ulkoiset viitearvot | Sama piiri kuin Server Editionissa | Ei mitattu Kentinon laitteistolla
| Testi | Tulos |
|---|---|
| RTX Pro 6000 INT8 TOPS per kortti | 2 000 TOPS |
| vLLM – DeepSeek V3 Q4, 6x RTX Pro 6000 (yksittäinen) | ~25-40 tok/s |
| vLLM – DeepSeek V3 Q4, 6x RTX Pro 6000 (erä-32) | 200-400 tok/s yhteensä |
| FLUX.1 [dev] fp8 yhdellä RTX Pro 6000:lla | ~15-20 s per 1024x1024-kuva |
Tarkat luvut vahvistetaan PoC-vaiheessa. Kentino julkaisee omat mittaustulokset ensimmäisen asiakaskokoonpanon jälkeen.
Ei ihanteellinen
- Kimi-K2 / DeepSeek V3 Q4-tarkkuudella todellisen nopeuden tuotantopalveluna – valitse Kentino AI 768 TurinDual RTXPro6000MQ
- Huippuluokan mallien koulutus alusta alkaen – ei NVLinkiä
- Plug-and-play-käyttöönotto – huippuluokan MoE-palvelu vaatii osaavan MLOps-tiimin
Takuu ja toimitusaika
Kokoonpano sisältää asennuksen, BIOS-määrityksen, ajurien asennuksen, burn-in-testauksen, muistitestin, toiminnallisen tarkastuksen ja LLM-ympäristön käyttöönoton. Toimitusaika riippuu komponenttien saatavuudesta ja vahvistetaan tilauksen yhteydessä.
Suositellut lisävarusteet
- NVIDIA ConnectX-5 MCX555A-ECAT 100 GbE -verkkokortti usean solmun skaalaukseen
- Toinen 4 TB:n NVMe datasetteja / mallikirjastoa varten
- Täysi 24U-räkkikaappi rei'itetyllä etuovella
- Online-UPS 10 kVA
- Hallittava PDU
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.