Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
192 GB ECC – Blackwell-lippulaivapari
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Kaksi passiivista RTX Pro 6000 Blackwell Server Edition -korttia -- kummassakin 96 GB ECC-muistia. Vähemmän tensor-parallel-ylikuormaa kuin 4 tai 8 kortin kokoonpanoissa. Konesalitason lippulaivapari Gen5/DDR5-pohjaisella 2U-alustalla, aidosti 1+1-redundantilla virransyötöllä.
2U-räkkiin asennettava inferenssipalvelin, jossa on kaksi passiivista RTX Pro 6000 Blackwell Server Edition -korttia (96 GB ECC GDDR7 korttia kohden), yksi AMD EPYC 9335 Turin -suoritin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC -muistia, 5.76 TB konesaliluokan Gen5 NVMe -tallennustilaa sekä 1+1-redundantti 2.7 kW:n 80+ Platinum CRPS -virtalähde. Hinta alkaen €56 600 (alv 0 %). Tiheille 70B bf16 -malleille ja keskikokoisille MoE-malleille harvemmat suuret kortit ovat parempia kuin useammat pienet -- kahden kortin tensoririnnakkaisuudessa tiedonsiirron ylikuorma on minimaalinen, ja kuhunkin 96 GB:n korttiin mahtuu kokonainen kopio useimmista malleista.
Sama 192 GB:n Blackwell-pari kuin 4U Rome -kokoonpanossamme, nyt tiheään räkkiasennukseen sopivassa 2U ASRock -kotelossa, jossa on täysi Gen5-tuki isäntäpuolella, DDR5-4800-muisti ja aidosti 1+1-redundantti 2.7 kW:n Platinum CRPS -virtalähde. Valitse tämä kokoonpano, kun räkkitiheydellä on merkitystä, kun rahoitus- tai hankintavaatimukset edellyttävät modernia PCIe 5.0 / DDR5 -alustaa tai kun redundantti virransyöttö on vaatimus eikä lisävaruste.
Laitteisto
| Komponentti | Tiedot |
|---|---|
| GPU:t | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (passiivinen, 600 W, PCIe 5.0 x16, kahden paikan levyinen) |
| VRAM yhteensä | 192 GB ECC (96 GB x 2) -- kumpikin kortti ajaa 70B bf16 -mallin itsenäisesti |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x PCIe 5.0 -linjaa, Zen5c, 256 MB L3) |
| Emolevy | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 kahden paikan GPU, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Keskusmuisti | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC, kaikki paikat käytössä -- suurimman kaistanleveyden kokoonpano) |
| Käynnistys / tallennus | Kioxia CD8-P 3.84 TB Gen5 U.3 (nopea taso, 1 DWPD, lukunopeus ~12 GB/s) + Kioxia CD8-P 1.92 TB Gen5 U.3 (käyttöjärjestelmätaso) -- yhteensä 5.76 TB konesaliluokan Gen5 NVMe -tallennustilaa |
| Virtalähde | 1+1-redundantti 2.7 kW 80+ Platinum CRPS (2x 1350 W, 230 V) -- aito N+1-redundanssi; yksi virtalähde riittää täyteen inferenssikuormaan |
| Kotelo | 2U-räkkikotelo, ilmavirta suunnattu edestä taakse (80 mm:n korkean staattisen paineen tuulettimet). Soveltuu 24/7-käyttöön. |
| Jäähdytys | Aktiivinen SP5-suoritinjäähdytin + 3x 80x38 mm:n imutuuletin edessä + 1x 80x80 mm:n poistotuuletin takana (mitoitettu neljän passiivisen GPU:n lämpökuormalle; kahden kortin kokoonpanossa lämpövaraa on runsaasti) |
| Verkko | Intel X710-T2L PCIe, kaksi 10GBASE-T-porttia + vapaa OCP 3.0 -paikka 25/100 GbE -päivitystä varten |
Tehobudjetti
- GPU-kulutus: 2x 600 W = 1 200 W
- Järjestelmä yhteensä täydellä kuormalla: ~1 510 W
- Virtalähdekokoonpano: 1+1-redundantti CRPS, 2x 1350 W, 230 V (yhteensä 2 700 W)
- Tehovara: 44.1 % tyypillisellä inferenssikuormalla
- Aito N+1-redundanssi -- yksi virtalähde riittää täyteen inferenssikuormaan; ei yksittäisen virtalähteen vikaantumisriskiä
PCIe-linjojen topologia
PCIe Gen5 x16 päästä päähän -- sekä isäntä että kortti tukevat natiivisti Gen5:tä. Suora root complex -yhteys, ei PCIe-kytkintä. Vapaana on yksi PCIe 5.0 x16 -paikka (yhden paikan levyinen) ja yksi PCIe 5.0 x8 -paikka (verkkokortti käyttää x8-paikkaa). Ei NVLinkiä -- GPU:iden välinen vertaisliikenne kulkee PCIe:n kautta. Gen5-kaistanleveys poistaa 4U Rome -sisarmallin Gen4-isäntärajoituksen.
Mitä sillä voi ajaa
192 GB:n ECC VRAM -muistilla vain kahdella Blackwell-kortilla, joissa on natiivi fp8/fp4-tuki, tämä on suoraviivaisin tie tiheisiin 70B-malleihin bf16-tarkkuudella ja keskikokoisiin MoE-malleihin. Kaksi itsenäistä 70B-virtaa -- yksi kortilla -- tai 200B MoE molemmilla korteilla minimaalisella 2-suuntaisen TP:n ylikuormalla.
LLM:t -- teksti / päättely / koodaus
Kiinalaiset kärkimallit
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) sujuvasti pitkällä kontekstilla (~15-25 tok/s yksittäisvirtana kahdella kortilla); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B dense bf16 suurella KV-välimuistilla; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB, pieni osa keskusmuistiin) -- Blackwell ajaa fp8:aa natiivisti; DeepSeek-R2 32B bf16 kahtena rinnakkaisena virtana (yksi kortilla)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- tämän tason pääkokoonpano; GLM-4.5-Air fp8 tai bf16 suurella KV-välimuistilla
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) -- 389B MoE, 256k konteksti; Hunyuan-A13B natiivi fp8 (~80 GB) suurella KV-välimuistilla
- Muut: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Länsimaiset kärkimallit
- Meta Llama: Llama 3.3 70B bf16 yhdellä kortilla -- kaksi itsenäistä rinnakkaista 70B-virtaa (~20-30 tok/s virtaa kohden); Llama 4 Scout bf16 (~218 GB, tiukka); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) yhdellä kortilla tai bf16 molemmilla; Mistral Small 3 useana virtana
- OpenAI (avoimet painot): gpt-oss-120b natiivi MXFP4 (80 GB) -- mahtuu YHDELLE kortille, kaksi itsenäistä rinnakkaista virtaa
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 yhdellä kortilla
- Muut: Cohere Command R+ 104B Q6 (~85 GB) yhdellä kortilla; Google Gemma 3 27B bf16 useana rinnakkaisena virtana
Näkö- ja kielimallit
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 yhdellä kortilla; Pixtral Large 124B bf16 tai Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodaalinen x 2-3 rinnakkaista virtaa.
Kuvien generointi
FLUX.1 [dev] bf16 useana rinnakkaisena virtana; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 rinnakkain; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 rinnakkain; HunyuanImage-3.0 base (80B MoE, 13B aktiivista) bf16 -- mahtuu yhdelle kortille; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Videoiden generointi
Wan 2.2 MoE dual-expert bf16 täydellä kontekstilla -- mahtuu yhdelle kortille, kaksi rinnakkaista generointivirtaa; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 molemmat expertit; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Ääni / puhe / TTS
- ASR: Whisper v3 large / turbo (~50x reaaliaikainen); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Reaaliaikainen / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Musiikki / SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2
Usean mallin ja usean asiakkaan palvelu
- Kaksi itsenäistä 70B-virtaa -- yksi kortilla, yksinkertaisin tapa eristää asiakkaat toisistaan
- Tiheä 70B bf16 + tukipino -- LLM kortilla 1, kuva/video/ääni kortilla 2
- 200B MoE molemmilla korteilla -- minimaalinen tensor-parallel-ylikuorma (2-suuntainen jako)
- Natiivi fp8-kärkiluokka -- DeepSeek V3 -perhe, Hunyuan-Large fp8 Blackwellin natiiveilla poluilla
Kohdekuormitukset
- Tiheä 70B bf16 -inferenssi -- kaksi korttia tensoririnnakkain minimaalisella ylikuormalla tai yksi malli kortilla virtakäyttöön
- 100-150B MoE, Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Natiivi FP8-kärkimallien inferenssi (DeepSeek V3 -perhe, Hunyuan, Llama 4) -- Blackwell ajaa fp8:aa natiivisti
- Tieteellinen laskenta, joka vaatii konesaliluokan Gen5 NVMe -suorituskykyä ja ECC-muistia
- Kuva- ja videogenerointistudio bf16-tarkkuudella (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Käyttöönotot, joissa räkkitila on rajallinen -- 2U-koko verrattuna saman VRAM-määrän 4U Rome -vastineeseen
- Hankintavaatimukset, jotka edellyttävät PCIe 5.0 / DDR5 -alustaa tai redundanttia virtalähdettä
Mitattu suorituskyky
Julkaistut lähteet | NVIDIA RTX Pro 6000 Blackwell Server Edition -tuoteseloste + yhteisön vertailutestit
| Vertailutesti | Tulos |
|---|---|
| INT8 TOPS korttia kohden (NVIDIA-tuoteseloste) | 2 000 TOPS |
| INT8 TOPS yhteensä (2 korttia) | 4 000 TOPS |
| Muistin kaistanleveys korttia kohden | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 korttia kohden (yhteisö) | 15-25 tok/s yksittäisvirtana, 60-90 tok/s eräajona -- Gen5-isäntäpuolen muistipolun odotetaan parantavan virtaavia eräkuormituksia Gen4-isäntään verrattuna |
| Gen5-isäntäpuolen etu (sama piiri, yksi kortti) | PCIe 5.0 x16 päästä päähän lyhentää isännän ja laitteen välistä siirtoviivettä virtaavissa eräkuormituksissa; kortilla laskentasidonnaisissa tehtävissä suoritusteho on sama kuin Gen4-isäntäisissä kokoonpanoissa |
| Kahden kortin tensor-parallel 70B (yhteisö) | ~30-45 tok/s yksittäisvirtana (odotettu) |
| Blackwell, natiivi fp8 | DeepSeek-V3 fp8 ja Hunyuan-A13B fp8 toimivat ilman bf16-muunnosta |
Julkaistuja ulkoisia lähteitä, ei mitattu Kentinon laitteistolla. Kentino julkaisee omat mittaustuloksensa ensimmäisen asiakaskokoonpanon jälkeen.
Ei ihanteellinen
- Erittäin suuren samanaikaisuuden monivuokralaispalvelu -- 4x L40 tai 6x L4 jakaa kuorman paremmin useammalle kortille
- Raskas KV-välimuisti erittäin pitkällä kontekstilla -- valitse Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Koulutus -- Kentino ei myy H-luokan NVLink-verkkoja
- Edullinen inferenssi tällä VRAM-määrällä -- 4U Rome Kentino AI 192 RTXPro6000 4000TOPS -kokoonpano on edullisempi, jos Gen4-isäntäpuoli riittää eikä virtalähteen redundanssia tarvita
Takuu ja toimitusaika
NVIDIAn 3 vuoden OEM-takuu RTX Pro 6000 Server Edition -korteille + 36 kuukauden kotelotakuu + Kentinon integraatiotakuu. Kokoonpanoon sisältyvät asennus, BIOS- ja laiteohjelmistoasetukset, IPMI-määritys, ajurien asennus, rasitustestaus ja toiminnan varmistus. 14-21 arkipäivän toimitusaika johtuu Turin-luokan komponenttien jälleenmyyjätilauksesta; vahvistetaan tilauksen yhteydessä.
Suositellut lisävarusteet
- Laajennus 4 kortin kokoonpanoon -- kotelossa on valmiiksi 4 GPU-paikkaa (nykyinen kokoonpano käyttää niistä 2), päivityspolku malliin Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- 25 GbE tai 100 GbE OCP 3.0 -paikan kautta (Mellanox ConnectX-5/6 OCP -versio)
- Lisää Kioxia CD8-P NVMe -levyjä kahteen vapaaseen U.2-paikkaan RAIDia tai työtilaa varten
- Tallennustason päivitys Samsung PM1743- tai Kioxia CM7-V -levyihin paremman kestävyyden saavuttamiseksi (3 DWPD)
- 24U-räkkikaappi + online-UPS 5 kVA
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.