Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Laboratoriopalvelin, 384 GB ECC VRAM
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Julkaistuja ulkoisia viitearvoja. Ei mitattu Kentinon laitteistolla.
4U-räkkiin asennettava inferenssipalvelin, jossa on neljä NVIDIA RTX Pro 6000 Blackwell Max-Q -turbofan-korttia (blower, kussakin 96 GB ECC) yhdistettynä 384 GB:n ECC VRAM -muistiksi, yksi AMD EPYC 7643 Milan -suoritin (48C/96T), 384 GB DDR4-2666 ECC -muistia, 2 TB:n NVMe-käynnistyslevy ja kaksi synkronoitua 2.5 kW:n ATX-virtalähdettä. Sama Blackwell-piisiru kuin Server Editionissa — identtinen inferenssikapasiteetti, identtinen läpäisy — mutta hiljaisemmalla blower-jäähdyttimellä, joka sopii laboratorioihin, R&D-käyttöön ja toimistojen läheisyyteen.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan- / blower-jäähdytin, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS/kortti, natiivi fp8) |
| VRAM yhteensä | 384 GB ECC-muistia yhteensä 4 kortilla |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 -linjaa) |
| Emolevy | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Keskusmuisti | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 vapaata DIMM-paikkaa laajennukseen 512 GB:iin) |
| Käynnistys / tallennus | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Virtalähde | 2x 2.5 kW ATX, kahden virtalähteen synkronointikaapeli (yhteensä 5 kW) |
| Kotelo | 4U-räkkikotelo |
| Jäähdytys | SP3-tornijäähdytin (Arctic Freezer 4U-M -luokka) + edestä taakse ohjattu ilmavirta (3x 120 mm imu edessä + 1x 120 mm poisto takana). GPU-kortit jäähtyvät omilla turbofan-puhaltimillaan (poisto taakse) — hiljaisempi laboratorioympäristöihin. |
| Verkko | Integroitu kaksois-10 GbE (Intel X550) |
Tehobudjetti
- GPU-kulutus: 4 x 600 W = 2 400 W
- Järjestelmä yhteensä täydellä kuormalla: ~2 775 W
- Virtalähteet yhteensä: 5 000 W (kaksi synkronoitua 2.5 kW) — 44.5% varaa
- Kaksi virtalähdettä jaettuun tehonsyöttöön — yhden virtalähteen vikaantuessa menetetään 2 GPU:ta tai 2 GPU:ta + emolevy
Lämpöprofiili (Max-Q)
Max-Q käyttää turbofan-jäähdytintä (blower), joka puhaltaa poistoilman suunnatusti kortin takaosasta. GPU:n hotspot-lämpötila on jatkuvassa kuormassa odotetusti 72-80 C. Huomattavasti hiljaisempi kuin passiiviset kortit korkean staattisen paineen kotelossa. Sopii paremmin muuhun kuin konesalin ilmavirtaan, avoimeen räkkiin tai laboratorioon / toimiston läheisyyteen. Piisiru, TDP, ECC ja suorituskyky ovat identtiset Server Editionin kanssa.
Mitä sillä voi ajaa
Identtinen Server Editionin (Kentino AI 384 Rome RTXPro6000) kanssa — sama Blackwell-piisiru, sama 384 GB:n ECC-muisti, sama natiivi fp8, sama mallien yhteensopivuus. Ero on akustinen, ei laskennallinen.
LLM:t — teksti / päättely / koodaus
Kiinalainen kärki
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) mahtuu väljästi korteille (~30-40 tok/s yksittäin, julkaistu viitearvo); natiivi fp8 (~670 GB) RAM-ylivuodolla
- Qwen3-Coder-480B-A35B Q3 (~350 GB, tiukka, RAM-ylivuodolla) — SOTA-tason avoin koodausagentti (~18-25 tok/s yksittäin, julkaistu viitearvo)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) pitkällä kontekstilla ja usean käyttäjän eräajolla
- GLM-5 / GLM-5.1 Q3 (~317 GB) — kiinalainen kärkimalli, koodauksessa lähellä Claude Opus 4.6:ta
- Kimi-K2 1.58-bit UD (~240 GB) — biljoonan parametrin agentti todellisella läpäisyllä
- Hunyuan-Large 389B/52B Q4 (~220 GB), natiivi fp8 (~390 GB ylivuodolla)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB), 1M-konteksti
- Llama 3.3 70B bf16 kokonaan yhdellä kortilla (96 GB/kortti)
Länsimainen kärki
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — länsimaisen kärjen avoimet painot (~20-30 tok/s yksittäin, julkaistu viitearvo)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) runsaalla KV-budjetilla (~45-55 tok/s yksittäin, julkaistu viitearvo)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b Natiivi MXFP4 (80 GB), varaa samanaikaisille malleille
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — 256k, avoimen koodauksen kärkeä
- Llama 3.3 70B bf16 yhdellä kortilla; 4x samanaikaista 70B-käyttöönottoa mahdollista
Näkö-kielimallit
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 TP:llä. Blackwellin fp8 tuo ~2x läpäisyn vision tower -inferenssiin Adaan verrattuna.
Kuvien generointi
FLUX.1 [dev] / Kontext / Tools natiivilla fp8:lla (~15-20 s per 1024x1024-kuva yhdellä RTX Pro 6000:lla, julkaistu viitearvo); SD 3.5 Large; HunyuanImage-2.1 (17B, natiivi 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4x samanaikaista ComfyUI-workeria.
Videon generointi
Wan 2.2 T2V-A14B / I2V-A14B, kaksi asiantuntijamallia bf16; HunyuanVideo 13B bf16, molemmat asiantuntijat; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Ääni / puhe / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Reaaliaikainen / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Musiikki / SFX: MusicGen / AudioGen / Bark / SeamlessM4T
Usean mallin ja vuokralaisen käyttö
- DeepSeek V3 Q3 + samanaikainen 70B + FLUX.1 + Whisper, kaikki muistissa yhtä aikaa
- 4-tie tensor-parallel 350-400B-luokan malleille Q4:llä
- Korttikohtainen vuokralaiseristys — yksi 96 GB:n Llama 3.3 70B bf16 per kortti, 4 itsenäistä inferenssisiiloa
- Monimalli-RAG: lukija + uudelleenjärjestäjä + näkömalli + upotusmalli samassa isännässä
Kohdekuormitukset
- Kärkitason avoimien painojen inferenssi laboratorio- / R&D-tiimille, jolle melutaso on tärkeä
- Pienen tiimin palvelinhuone ilman konesalitason ilmavirtaa — Max-Q:n oma jäähdytys sallii sijoituksen avoimeen räkkiin
- Toimiston yhteyteen sijoitettava AI-työasema asiantuntijatiimille (ML-tutkimus, agenttityökalut)
- Natiivi fp8-palvelu (DeepSeek / R1 / Hunyuan) laboratorioympäristöissä
- Neljän vuokralaisen korttikohtainen eristys melurajoitteella
Julkaistut suorituskyvyn viitearvot
Ulkoiset viitteet | Sama piisiru kuin Server Editionissa | Ei mitattu Kentinon laitteistolla
| Vertailutesti | Tulos |
|---|---|
| RTX Pro 6000, INT8 TOPS per kortti | 2 000 TOPS |
| RTX Pro 6000, muistikaista | ~1 800 GB/s per kortti |
| vLLM — DeepSeek V3 Q3, 4x Blackwell PCIe (yksittäin) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3, 4x Blackwell PCIe (batch-8) | ~200 tok/s yhteensä |
| SGLang — Llama 4 Maverick Q4, 4x Blackwell (yksittäin) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3, 4x Blackwell (yksittäin) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 yhdellä RTX Pro 6000:lla | ~1.8 s per 1024x1024-kuva |
Kentino julkaisee omat mittaustuloksensa ensimmäisen asiakastoimituksen jälkeen.
Ei ihanteellinen
- Varsinaisiin konesalien räkkiasennuksiin, joissa on vakiintunut kuuman käytävän ilmavirta — valitse silloin passiivinen Server Edition (Kentino AI 384 Rome RTXPro6000): sama piisiru, mekaanisesti yksinkertaisempi
- Yhden käyttäjän kuormituksiin 70B-kokoon asti (4x RTX 5090 on selvästi edullisempi 128 GB:n muistille)
- Kärkimallien koulutukseen alusta alkaen (ei NVLinkiä)
- Täysi DeepSeek V3 Q4 korteilla (~404 GB) — päivitä 6x RTX Pro 6000 / 576 GB -kokoonpanoon
Takuu ja toimitusaika
Kokoonpano sisältää asennuksen, BIOS-määrityksen, ajurien asennuksen, burn-in-testin, muistitestin ja toimintatarkastuksen. Toimitusaika riippuu komponenttien saatavuudesta ja vahvistetaan tilauksen yhteydessä.
Suositellut lisävarusteet
- RAM-päivitys 512 GB DDR4:ään (lisää 2x 64 GB — 2 vapaata DIMM-paikkaa) RAM-ylivuodon varaksi Q3-kärkikvantisoinneille
- 4 TB NVMe Gen4 x4 kärkimallikirjastolle (pelkkä DeepSeek V3 Q3 vie levyllä ~290 GB)
- Täysi 24U-räkkikaappi hallitulla PDU:lla + online-UPS
- Vaihtoehtoinen malli: passiivinen Server Edition (Kentino AI 384 Rome RTXPro6000) — sama piisiru konesalin ilmavirtaan perustuviin asennuksiin
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.