Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS — 6× RTX Pro 6000 Blackwell Max-Q AI-server i frontlinjen
Plattform i företagsklass, monterad och testad i EU.
Kentino AI 576 Genoa RTXPro6000MQ 12000TOPS
Frontierserver med 576 GB ECC VRAM
6x RTX Pro 6000 Max-Q Turbofan | EPYC Genoa | 12 000 TOPS INT8
Publicerade externa referenser. Ej uppmätta på Kentinos hårdvara.
En 7U-rackmonterad inferensplattform i frontierklass med sex NVIDIA RTX Pro 6000 Blackwell Max-Q-kort med turbofläkt som tillsammans ger 576 GB ECC VRAM, en AMD EPYC 9354 Genoa-CPU (32C/64T), 768 GB DDR5-4800 ECC (alla 12 kanaler bestyckade), 4 TB NVMe-boot och 5x 1200 W servernätaggregat. Samma kisel och minnespool som det passiva Server Edition-bygget — annan kylare. Max-Q-turbofläkten är självständig per kort, går tystare och tål mindre strikt luftflöde i chassit. Identiskt modellutrymme som det passiva syskonet.
Hårdvara
| Komponent | Detalj |
|---|---|
| GPU:er | 6x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofläkt av blowertyp, 600 W TDP enligt spec, PCIe 5.0 x16, 2000 INT8 TOPS per kort) |
| VRAM-pool | 576 GB totalt över 6 kort (ingen NVLink — P2P över PCIe Gen5 med ~55-60 GB/s per riktning) |
| CPU | AMD EPYC 9354 Genoa (32C/64T, 280 W, 128x PCIe 5.0-banor, 12-kanals DDR5) |
| Moderkort | ASRock Rack GENOAD8X-2T/BCM (SP5 Genoa, integrerad Broadcom PEX PCIe Gen5-switch, 12x DDR5, 2x 10 GbE, IPMI) |
| Systemminne | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — alla kanaler bestyckade, ~460 GB/s totalt) |
| Boot / lagring | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimensionerad för mellanlagring av frontier-checkpoints |
| Nätaggregat | Uppsättning med 5x 1200 W servernätaggregat (HP-kompatibla, 6 kW totalt) |
| Chassi | 7U-rackmontering för 8 GPU:er, kapacitet för 10 PCIe-platser, aktiva Gen5-risers |
| Kylning | SP5 Genoa-tornkylare + 8x 120 mm chassifläktar. Turbofläktarna per GPU är självständiga — datacenterluftflöde rekommenderas men krävs inte strikt. Tystare för labbmiljöer. |
| Nätverk | Inbyggt dubbelt 10 GbE (Intel X550) |
Effektbudget
- GPU-förbrukning (spec): 6 x 600 W = 3 600 W
- Systemtotal vid full last enligt spec: ~4 080 W
- Nätaggregat totalt: 6 000 W (5x 1200 W) — 32% marginal
- Max-Q-kort drar normalt 520-550 W kontinuerligt — verklig marginal över 20%
Kylning (Max-Q:s särdrag)
Varje kort drar luft fram-till-bak via sin egen fläkt — självständigt per kort. Tål blandade rack / öppna skåp. Tystare än en motsvarande uppsättning med axialfläktar. Max-Q:s firmwareprofil prioriterar lägre kontinuerlig effekt (520-550 W typiskt vid inferens). Rekommenderas: skåp med perforerad framdörr och fri utblåsväg bak.
Vad du kan köra
Identisk med syskonet Server Edition — samma kisel, samma 576 GB-pool. DeepSeek V3 Q4 (~404 GB) med lång kontext, Kimi-K2 Q2, Mistral Large 3 Q2-Q3, GLM-5 Q2, Qwen3-Coder-480B Q4.
LLM:er — text / resonemang / kodning
Kinesiska frontiermodeller
- DeepSeek V3 / R1 / V3.1 / V3.2 i Q4_K_M (~404 GB) bekvämt med lång kontext (~5-8 tok/s enkel vLLM TP-6, publicerad referens); nativ fp8 (~670 GB) med RAM-spill
- Kimi-K2 (Base / Instruct / Thinking) i Q2_K (~375 GB) bekvämt (~5-8 tok/s enkel, publicerad referens)
- GLM-5 / GLM-5.1 (~745B/44B) i Q2_K (~260 GB); Q3 (~420 GB) med RAM-spill
- Qwen3-Coder-480B-A35B i Q4_K_M (~270 GB) med lång kontext
- Qwen3-235B-A22B i bf16 (~470 GB) eller fp8 (~240 GB)
- ERNIE-4.5-424B-A47B i Q4 (~240 GB) med 128k kontext
- Intern-S1-Pro i Q2_K (~325 GB); Hunyuan-Large i Q4 (~220 GB)
- MiniMax-Text-01 / M1 i Q4 (~260 GB)
Västerländska frontiermodeller
- Mistral Large 3 i Q2-Q3 (~243-317 GB) bekvämt (~20-30 tok/s enkel, publicerad referens)
- Llama 4 Maverick i Q4_K_M (~232 GB) med lång kontext (~45-55 tok/s enkel, publicerad referens)
- Llama-3.1-Nemotron Ultra 253B i fp8 (~253 GB)
- Grok-1 314B i Q4 (~182 GB); Snowflake Arctic i Q4 (~278 GB)
- DBRX Instruct 132B/36B i bf16 (~264 GB) eller fp8
Vision-språkmodeller
Qwen3-VL-235B-A22B; InternVL3.5-241B-A28B Q4; GLM-4.5V / 4.6V 106B bf16; Llama 3.2 90B Vision bf16; Pixtral Large 124B fp8; Molmo 72B bf16.
Bildgenerering
HunyuanImage-3.0 Instruct; FLUX.1 [dev] / [schnell] / Kontext i flera instanser (~15-20 s per 1024x1024-bild, publicerad referens); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0.
Videogenerering
Wan 2.2 T2V-A14B dual-expert MoE bf16; HunyuanVideo 13B bf16; Open-Sora 2.0 (11B); Mochi-1 (10B); NVIDIA Cosmos Predict 2 upp till 14B; CogVideoX-5B; LTX-Video; Pyramid Flow.
Ljud / tal / TTS
Hela stacken resident: Whisper v3 large, Parakeet-TDT 1.1B, Canary 1B, Moshi 7B i realtid, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Servering av flera modeller / för flera kunder
- DeepSeek V3 Q4 + FLUX + HunyuanVideo + Whisper/Moshi i realtid, alla residenta
- Samtidig 70B tensorparallell + 235B-MoE på separata PCIe-domäner
- 3 frontiermodeller residenta för A/B-utvärdering
Målarbetsbelastningar
- Forskningslabb för ledande open-weight-modeller med blandad / icke-idealisk luftflödesinfrastruktur
- Colocation / privat datacenter där turbofläkt per kort är driftmässigt enklare än fullt passivt luftflöde
- Suverän AI-driftsättning med modellstack under Apache 2.0 / MIT
- Plattform för RAG med flera modeller + agenter i företagsmiljö
- Labbmiljöer med öppna rack
Publicerade prestandareferenser
Externa referenser | Samma kisel som Server Edition | Ej uppmätta på Kentinos hårdvara
| Benchmark | Resultat |
|---|---|
| RTX Pro 6000 INT8 TOPS per kort | 2 000 TOPS |
| vLLM — DeepSeek V3 Q4 på 6x RTX Pro 6000 (enkel) | ~25-40 tok/s |
| vLLM — DeepSeek V3 Q4 på 6x RTX Pro 6000 (batch-32) | 200-400 tok/s totalt |
| FLUX.1 [dev] fp8 på en RTX Pro 6000 | ~15-20 s per 1024x1024-bild |
Exakta siffror bekräftas i PoC-fasen. Kentino publicerar egna siffror efter den första kundleveransen.
Mindre lämplig för
- Kimi-K2 / DeepSeek V3 i Q4 med produktionsservering i full hastighet — gå upp till Kentino AI 768 TurinDual RTXPro6000MQ
- Träning från grunden av modeller i frontierklass — ingen NVLink
- Plug-and-play-driftsättning — servering av frontier-MoE kräver ett kunnigt MLOps-team
Garanti och leveranstid
Bygget omfattar montering, BIOS-konfiguration, drivrutinsinstallation, burn-in, memtest, funktionsverifiering och uppsättning av LLM-miljö. Leveranstiden beror på komponenttillgång och bekräftas vid beställning.
Rekommenderade tillval
- NVIDIA ConnectX-5 MCX555A-ECAT 100 GbE NIC för skalning över flera noder
- Ytterligare 4 TB NVMe för dataset / modellbibliotek
- Komplett 24U-rackskåp med perforerad framdörr
- Online-UPS 10 kVA
- Hanterad PDU
De frågor köpare oftast ställer till oss innan de beställer en server.
Hur lång tid tar det?
Maskiner byggda av komponenter vi har i lager skickas snabbt; allt som kräver en viss GPU-generation beror på tillgången. Vi ger dig ett datum innan du betalar, och om det ändras säger vi till i stället för att låta dig upptäcka det själv.
Kan konfigurationen ändras innan ni bygger den?
Nästan alltid. GPU:er, minne, lagring och kylning väljs per order, och den listade konfigurationen är en utgångspunkt snarare än ett fast paket. Behöver du mer VRAM, snabbare lagring eller en annan kyllösning, säg till innan du beställer så offererar vi ändringen.
Kan jag hämta servern personligen?
Det kan du. Vårt lager ligger i Prag och du är välkommen att hämta personligen – de flesta som kommer passar på att gå igenom maskinen med vår ingenjör och ställa de frågor som är krångliga via mejl. För beställningar inom Tjeckien försöker vi också leverera personligen och gå igenom installationen med dig på plats.
Kan jag prata med någon som faktiskt förstår arbetsbelastningen?
Ja. Vi har en ingenjör som arbetar specifikt med AI-system, inte en allmän säljavdelning. Om din fråga gäller batchstorlekar, kvantisering, interconnect eller var din flaskhals kommer att uppstå, så ställ den — det samtalet brukar förändra konfigurationen till det bättre.
Vilken modell kan jag köra på den här konfigurationen?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Hur testar ni en server före leverans?
Vi kör den mot verkliga AI-arbetsbelastningar i stället för syntetiska poäng: inferensgenomströmning, beteende under ihållande last och temperaturer vid kontinuerlig drift. Du får benchmarkresultaten tillsammans med maskinen, så att den prestanda du blev lovad är den prestanda du kan verifiera redan första dagen.
Är servern redo att köras när den levereras?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Skickas från vårt lager i EU. Tunga artiklar kan kräva särskild godsfrakt — kontakta oss för en fraktoffert och leveranstid. 2 års begränsad garanti med avancerad RMA-support; förlängd garanti finns.
Inte riktigt vad du behöver?
Berätta om din arbetsbelastning så specificerar vi plattformen kring den – GPU:er, minne, lagring och kylning anpassade efter det du faktiskt kör.