Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Plattform i företagsklass, monterad och testad i EU.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
384 GB ECC VRAM-labbserver
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Publicerade externa referenser. Ej uppmätta på Kentinos hårdvara.
En 4U-rackmonterad inferensserver med fyra NVIDIA RTX Pro 6000 Blackwell Max-Q-kort med turbofläkt (blower) (96 GB ECC vardera) som tillsammans ger 384 GB ECC VRAM, en AMD EPYC 7643 Milan-processor (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe-boot och dubbla synkroniserade 2.5 kW ATX-nätaggregat. Samma Blackwell-kisel som Server Edition — identiskt inferensutrymme, identisk genomströmning — men med en tystare blower-kylare anpassad för labb, FoU och kontorsnära miljöer.
Hårdvara
| Komponent | Detalj |
|---|---|
| GPU:er | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofläkt-/blower-kylare, 600 W TGP, PCIe 5.0 x16, 2000 INT8 TOPS/kort, fp8 nativt) |
| VRAM-pool | 384 GB sammanlagt ECC över 4 kort |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0-banor) |
| Moderkort | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| Systemminne | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 lediga DIMM-platser för uppgradering till 512 GB) |
| Boot / lagring | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Nätaggregat | 2x 2.5 kW ATX med synkkabel för dubbla nätaggregat (5 kW totalt) |
| Chassi | 4U rackmonterat |
| Kylning | SP3-tornkylare (Arctic Freezer 4U-M-klass) + riktat luftflöde fram-till-bak (3x 120 mm intag fram + 1x 120 mm utblås bak). GPU-korten kyls själva via turbofläkt (utblås bak) — tystare för labbmiljöer. |
| Nätverk | Inbyggd dubbel 10 GbE (Intel X550) |
Effektbudget
- GPU-förbrukning: 4 x 600 W = 2 400 W
- Systemtotal vid full last: ~2 775 W
- Nätaggregat totalt: 5 000 W (dubbla 2.5 kW synkade) — 44.5% marginal
- Dubbla nätaggregat för delad strömförsörjning — fel på ett nätaggregat = bortfall av 2 GPU:er eller 2 GPU:er + moderkort
Termisk profil (Max-Q)
Max-Q använder en turbofläktkylare (blower) med riktat utblås bakåt från kortet. Förväntad GPU-hotspot 72-80 C vid kontinuerlig last. Märkbart tystare än passiva kort i ett chassi med högt statiskt tryck. Bättre lämpad för luftflöde utanför datacenter, öppna rack eller placering i labb eller kontorsnära miljö. Kisel, TDP, ECC och prestanda är identiska med Server Edition.
Vad du kan köra
Identisk med Server Edition (Kentino AI 384 Rome RTXPro6000) — samma Blackwell-kisel, samma 384 GB ECC-pool, samma nativa fp8, samma modellkompatibilitet. Skillnaden är akustisk, inte beräkningsmässig.
LLM:er — text / resonemang / kodning
Kinesiska frontiermodeller
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) bekvämt på korten (~30-40 tok/s single, publicerad referens); fp8 nativt (~670 GB) med RAM-spill
- Qwen3-Coder-480B-A35B Q3 (~350 GB, snävt med RAM-spill) — SOTA öppen kodagent (~18-25 tok/s single, publicerad referens)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) med lång kontext och batchning för flera användare
- GLM-5 / GLM-5.1 Q3 (~317 GB) — kinesisk frontiermodell, nära Claude Opus 4.6 på kodning
- Kimi-K2 1.58-bit UD (~240 GB) — agent med en biljon parametrar vid verklig genomströmning
- Hunyuan-Large 389B/52B Q4 (~220 GB), fp8 nativt (~390 GB spill)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) 1M-kontext
- Llama 3.3 70B bf16 helt på ett enda kort (96 GB/kort)
Västerländska frontiermodeller
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — västerländska öppna frontiervikter (~20-30 tok/s single, publicerad referens)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) med generös KV-budget (~45-55 tok/s single, publicerad referens)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b MXFP4 nativt (80 GB) med marginal för parallella instanser
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — 256k, topp inom öppen kodning
- Llama 3.3 70B bf16 på ett enda kort; 4x parallella 70B-driftsättningar möjliga
Vision-språkmodeller
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 med TP. Blackwell fp8 ger ~2x genomströmning vid inferens i vision-tower jämfört med Ada.
Bildgenerering
FLUX.1 [dev] / Kontext / Tools i nativ fp8 (~15-20 s per 1024x1024-bild på ett RTX Pro 6000, publicerad referens); SD 3.5 Large; HunyuanImage-2.1 (17B nativ 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4x parallella ComfyUI-workers.
Videogenerering
Wan 2.2 T2V-A14B / I2V-A14B dual-expert bf16; HunyuanVideo 13B bf16 med båda experterna; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Ljud / tal / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Realtid / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Musik / SFX: MusicGen / AudioGen / Bark / SeamlessM4T
Servering av flera modeller / flera tenants
- DeepSeek V3 Q3 + parallell 70B + FLUX.1 + Whisper, alla residenta samtidigt
- 4-vägs tensorparallellism i 350-400B-klassen vid Q4
- Tenant-isolering per kort — en 96 GB Llama 3.3 70B bf16 per kort, 4 oberoende inferenssilos
- RAG med flera modeller: reader + reranker + vision + embedder, allt på en värd
Avsedda arbetsbelastningar
- Inferens med öppna frontiervikter för ett labb- eller FoU-team där ljudnivån spelar roll
- Serverrum för små team utan dedikerat datacenterluftflöde — Max-Q:s självkylning klarar placering i öppet rack
- Kontorsnära AI-arbetsstation för ett specialistteam (ML-forskning, agentverktyg)
- fp8-nativ servering (DeepSeek / R1 / Hunyuan) i labbmiljö
- Arbetsbelastning med isolering av 4 tenants per kort och begränsad ljudbudget
Publicerade prestandareferenser
Externa referenser | Samma kisel som Server Edition | Ej uppmätt på Kentinos hårdvara
| Benchmark | Resultat |
|---|---|
| RTX Pro 6000 INT8 TOPS per kort | 2 000 TOPS |
| RTX Pro 6000 minnesbandbredd | ~1 800 GB/s per kort |
| vLLM — DeepSeek V3 Q3 på 4x Blackwell PCIe (single) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 på 4x Blackwell PCIe (batch-8) | ~200 tok/s sammanlagt |
| SGLang — Llama 4 Maverick Q4 på 4x Blackwell (single) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 på 4x Blackwell (single) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 på ett RTX Pro 6000 | ~1.8 s per 1024x1024-bild |
Kentino publicerar egna siffror efter det första kundbygget.
Mindre lämplig för
- Riktiga datacenterrack med etablerat luftflöde via varmgång — välj i stället den passiva Server Edition (Kentino AI 384 Rome RTXPro6000): samma kisel, mekaniskt enklare
- Arbetsbelastningar för en användare upp till 70B (4x RTX 5090 är betydligt billigare för en 128 GB-pool)
- Frontierträning från grunden (ingen NVLink)
- Fullständig DeepSeek V3 Q4 på korten (~404 GB) — uppgradera till 6x RTX Pro 6000 / 576 GB
Garanti och leveranstid
Bygget omfattar montering, BIOS-konfiguration, drivrutinsinstallation, inbränning, memtest och funktionskontroll. Leveranstiden beror på komponenttillgång och bekräftas vid beställning.
Rekommenderade tillval
- Uppgradera RAM till 512 GB DDR4 (lägg till 2x 64 GB — 2 lediga DIMM-platser) för RAM-spillmarginal vid Q3-kvantiseringar av frontiermodeller
- 4 TB NVMe Gen4 x4 för ett bibliotek av frontiermodeller (enbart DeepSeek V3 Q3 tar ~290 GB på disk)
- Komplett 24U-rackskåp med hanterad PDU + online-UPS
- Alternativ variant: passiv Server Edition (Kentino AI 384 Rome RTXPro6000) — samma kisel, för driftsättningar med datacenterluftflöde
De frågor köpare oftast ställer till oss innan de beställer en server.
Hur lång tid tar det?
Maskiner byggda av komponenter vi har i lager skickas snabbt; allt som kräver en viss GPU-generation beror på tillgången. Vi ger dig ett datum innan du betalar, och om det ändras säger vi till i stället för att låta dig upptäcka det själv.
Kan konfigurationen ändras innan ni bygger den?
Nästan alltid. GPU:er, minne, lagring och kylning väljs per order, och den listade konfigurationen är en utgångspunkt snarare än ett fast paket. Behöver du mer VRAM, snabbare lagring eller en annan kyllösning, säg till innan du beställer så offererar vi ändringen.
Kan jag hämta servern personligen?
Det kan du. Vårt lager ligger i Prag och du är välkommen att hämta personligen – de flesta som kommer passar på att gå igenom maskinen med vår ingenjör och ställa de frågor som är krångliga via mejl. För beställningar inom Tjeckien försöker vi också leverera personligen och gå igenom installationen med dig på plats.
Kan jag prata med någon som faktiskt förstår arbetsbelastningen?
Ja. Vi har en ingenjör som arbetar specifikt med AI-system, inte en allmän säljavdelning. Om din fråga gäller batchstorlekar, kvantisering, interconnect eller var din flaskhals kommer att uppstå, så ställ den — det samtalet brukar förändra konfigurationen till det bättre.
Vilken modell kan jag köra på den här konfigurationen?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Hur testar ni en server före leverans?
Vi kör den mot verkliga AI-arbetsbelastningar i stället för syntetiska poäng: inferensgenomströmning, beteende under ihållande last och temperaturer vid kontinuerlig drift. Du får benchmarkresultaten tillsammans med maskinen, så att den prestanda du blev lovad är den prestanda du kan verifiera redan första dagen.
Är servern redo att köras när den levereras?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Skickas från vårt lager i EU. Tunga artiklar kan kräva särskild godsfrakt — kontakta oss för en fraktoffert och leveranstid. 2 års begränsad garanti med avancerad RMA-support; förlängd garanti finns.
Inte riktigt vad du behöver?
Berätta om din arbetsbelastning så specificerar vi plattformen kring den – GPU:er, minne, lagring och kylning anpassade efter det du faktiskt kör.