Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — 2U Turin SP5
Plattform i företagsklass, monterad och testad i EU.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
192 GB ECC Blackwell – flaggskeppspar
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Två passiva RTX Pro 6000 Blackwell Server Edition-kort – 96 GB ECC vardera. Mindre tensor-parallell overhead än byggen med 4 eller 8 kort. Datacenterflaggskepp i par på en 2U-plattform med Gen5/DDR5 och äkta 1+1-redundant strömförsörjning.
En 2U-rackmonterad inferensserver med två passiva RTX Pro 6000 Blackwell Server Edition-kort (96 GB ECC GDDR7 per kort), en AMD EPYC 9335 Turin-processor (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB Gen5 NVMe av datacenterklass och ett 1+1-redundant 2.7 kW 80+ Platinum CRPS-nätaggregat. Från €56 600 exkl. moms. För 70B dense bf16 och medelstora MoE-modeller slår färre stora kort fler små – tensorparallellism över två kort har minimal kommunikationsoverhead, och varje 96 GB-kort rymmer en komplett kopia av de flesta modeller.
Samma 192 GB Blackwell-par som i vårt 4U Rome-bygge, men i ett rackeffektivt 2U-chassi från ASRock med fullt Gen5 på värdsidan, DDR5-4800-minne och ett äkta 1+1-redundant 2.7 kW Platinum CRPS-nätaggregat. Välj det här bygget när rackdensitet spelar roll, när ditt bidrag eller din upphandlingsspecifikation kräver en modern PCIe 5.0/DDR5-plattform, eller när redundant strömförsörjning är ett krav snarare än ett tillval.
Hårdvara
| Komponent | Detalj |
|---|---|
| GPU:er | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (passivt, 600 W, PCIe 5.0 x16, dubbelslot) |
| VRAM-pool | 192 GB ECC (96 GB x 2) – varje kort rymmer en 70B bf16-modell på egen hand |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x PCIe 5.0-banor, Zen5c, 256 MB L3) |
| Moderkort | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x PCIe 5.0 x16 dubbelslot-GPU, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| Systemminne | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC fullt populerat – konfiguration för maximal bandbredd) |
| Boot/lagring | Kioxia CD8-P 3.84 TB Gen5 U.3 (hot-tier, 1 DWPD, ~12 GB/s läsning) + Kioxia CD8-P 1.92 TB Gen5 U.3 (boot/OS-nivå) – totalt 5.76 TB Gen5 NVMe av datacenterklass |
| Nätaggregat | 1+1-redundant 2.7 kW 80+ Platinum CRPS (2x 1350 W vid 230 V) – äkta N+1-redundans; ett nätaggregat klarar full inferenslast |
| Chassi | 2U-rackmonterat med riktat luftflöde fram-till-bak (80 mm-fläktar med högt statiskt tryck). Klarar drift dygnet runt. |
| Kylning | Aktiv SP5-processorkylare + 3x 80x38 mm intag fram + 1x 80x80 mm utblås bak (dimensionerat för värmelasten från 4x passiva GPU:er; layouten med 2 kort ger gott om termisk marginal) |
| Nätverk | Intel X710-T2L PCIe dubbel 10GBASE-T + OCP 3.0-plats tillgänglig för uppgradering till 25/100 GbE |
Effektbudget
- GPU-förbrukning: 2x 600 W = 1 200 W
- Systemet totalt vid full last: ~1 510 W
- Nätaggregatskonfiguration: 1+1-redundant CRPS, 2x 1350 W vid 230 V (2 700 W totalt)
- Marginal: 44.1 % vid typisk inferenslast
- Äkta N+1-redundans – ett nätaggregat klarar full inferenslast; ingen risk vid fel på ett enskilt nätaggregat
Lane-topologi
PCIe Gen5 x16 hela vägen – både värd och kort är native Gen5. Direkt anslutning till root complex, ingen PCIe-switch. En PCIe 5.0 x16-plats (enkelslot) + en PCIe 5.0 x8-plats förblir lediga (nätverkskortet upptar x8-platsen). Ingen NVLink – peer-to-peer mellan GPU:er sker via PCIe. Gen5-bandbredden eliminerar Gen4-begränsningen på värdsidan som finns i syskonmodellen 4U Rome.
Vad du kan köra
Med 192 GB ECC VRAM på bara två Blackwell-kort med native fp8/fp4 är detta den renaste vägen till dense 70B i bf16 och medelstora MoE-modeller. Två oberoende 70B-strömmar – en per kort – eller 200B MoE över båda med minimal overhead för 2-vägs TP.
LLM:er – text/resonemang/kodning
Kinesisk frontlinje
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) bekvämt med lång kontext (~15-25 tok/s i en ström över 2 kort); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B dense bf16 med enorm KV; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB med lite spill till RAM) – Blackwell kör fp8 nativt; DeepSeek-R2 32B bf16 i två samtidiga strömmar (en per kort)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) – flaggskeppskonfigurationen i den här klassen; GLM-4.5-Air fp8 eller bf16 med enorm KV
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) – 389B MoE med 256k kontext; Hunyuan-A13B fp8 nativt (~80 GB) med enorm KV
- Övriga: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Västerländsk frontlinje
- Meta Llama: Llama 3.3 70B bf16 på ett kort – två oberoende samtidiga 70B-strömmar (~20-30 tok/s per ström); Llama 4 Scout bf16 (~218 GB, snävt); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) på ett kort eller bf16 över båda; Mistral Small 3 i flera strömmar
- OpenAI (öppna vikter): gpt-oss-120b MXFP4 nativt (80 GB) – ryms på ETT kort, två oberoende samtidiga strömmar
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 på ett kort
- Övriga: Cohere Command R+ 104B Q6 (~85 GB) på ett kort; Google Gemma 3 27B bf16 i flera samtidiga strömmar
Vision-språkmodeller
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 på ett kort; Pixtral Large 124B bf16 eller Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodal x 2-3 samtidiga strömmar.
Bildgenerering
FLUX.1 [dev] bf16 i flera samtidiga strömmar; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 samtidigt; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 samtidigt; HunyuanImage-3.0 base (80B MoE, 13B aktiva) bf16 – ryms på ett kort; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Videogenerering
Wan 2.2 MoE dual-expert bf16 med full kontext – ryms på ett kort, två samtidiga genereringsströmmar; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 båda experterna; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Ljud/tal/TTS
- ASR: Whisper v3 large / turbo (~50x realtid); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Realtid/S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Musik/SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2
Flermodells-/multi-tenant-servering
- Två oberoende 70B-strömmar – en per kort, den enklaste formen av isolering mellan kunder
- Dense 70B bf16 + kompletterande stack – LLM på kort 1, bild/video/ljud på kort 2
- 200B MoE över båda korten – minimal tensor-parallell overhead (2-vägs uppdelning)
- Fp8-nativ frontlinje – DeepSeek V3-familjen, Hunyuan-Large fp8 med Blackwells native vägar
Målarbetsbelastningar
- Dense 70B bf16-inferens – två kort tensorparallellt med minimal overhead, eller en modell per kort för streaming
- 100-150B MoE i Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- FP8-nativ frontlinjeinferens (DeepSeek V3-familjen, Hunyuan, Llama 4) – Blackwell kör fp8 nativt
- Vetenskapliga beräkningar som kräver Gen5 NVMe-genomströmning av datacenterklass och ECC-minne
- Studio för bild- och videogenerering i bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Installationer med begränsad rackdensitet – 2U-formfaktor jämfört med motsvarande 4U Rome med samma VRAM
- Upphandlingsspecifikationer som kräver PCIe 5.0/DDR5-plattform eller redundant nätaggregat
Uppmätt prestanda
Publicerade referenser | Datablad för NVIDIA RTX Pro 6000 Blackwell Server Edition + benchmarks från communityn
| Benchmark | Resultat |
|---|---|
| INT8 TOPS per kort (NVIDIA-datablad) | 2 000 TOPS |
| Sammanlagda INT8 TOPS (2 kort) | 4 000 TOPS |
| Minnesbandbredd per kort | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 per kort (community) | 15-25 tok/s i en ström, 60-90 tok/s i batch – förväntad förbättring tack vare Gen5-minnesvägen på värdsidan i strömmande batcharbetsbelastningar jämfört med Gen4-värd |
| Fördel med Gen5 på värdsidan (ett kort, samma kisel) | PCIe 5.0 x16 hela vägen minskar latensen för överföring mellan värd och kort i strömmande batcharbetsbelastningar; beräkningsbundna uppgifter på kortet får identisk genomströmning som byggen med Gen4-värd |
| Tensorparallell 70B på två kort (community) | ~30-45 tok/s i en ström förväntat |
| Blackwell fp8 nativt | DeepSeek-V3 fp8 och Hunyuan-A13B fp8 körs utan uppkonvertering till bf16 |
Publicerade externa referenser, inte uppmätta på Kentinos hårdvara. Kentino publicerar egna siffror efter det första kundbygget.
Inte idealisk för
- Multi-tenant-servering med mycket hög samtidighet – 4x L40 eller 6x L4 fördelar bättre över fler kort
- Tung KV-cache vid mycket lång kontext – gå upp till Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Träning – Kentino säljer inte NVLink-fabrics i H-klass
- Budgetinferens med den här VRAM-poolen – 4U Rome-bygget Kentino AI 192 RTXPro6000 4000TOPS är billigare om Gen4 på värdsidan är acceptabelt och redundant nätaggregat inte krävs
Garanti och leveranstid
NVIDIA OEM-garanti på 3 år för RTX Pro 6000 Server Edition + 36 månaders garanti på chassit + Kentinos integrationsgaranti. Bygget omfattar montering, BIOS/firmware-konfiguration, IPMI-uppsättning, drivrutinsinstallation, inbränningstest och funktionsverifiering. Leveranstiden på 14-21 arbetsdagar speglar beställning via återförsäljare av komponenter i Turin-klassen; bekräftas vid beställning.
Rekommenderade tillägg
- Utöka till 4-kortskonfiguration – chassit har 4 GPU-platser från start (nuvarande bygge använder 2 av 4), uppgraderingsväg till Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Lägg till 25 GbE eller 100 GbE via OCP 3.0-platsen (Mellanox ConnectX-5/6 i OCP-variant)
- Ytterligare Kioxia CD8-P NVMe i de 2 återstående U.2-platserna för RAID eller scratch-lagring
- Uppgradera lagringsnivån till Samsung PM1743 eller Kioxia CM7-V för högre uthållighet (3 DWPD)
- 24U-rackskåp + online-UPS 5 kVA
De frågor köpare oftast ställer till oss innan de beställer en server.
Hur lång tid tar det?
Maskiner byggda av komponenter vi har i lager skickas snabbt; allt som kräver en viss GPU-generation beror på tillgången. Vi ger dig ett datum innan du betalar, och om det ändras säger vi till i stället för att låta dig upptäcka det själv.
Kan konfigurationen ändras innan ni bygger den?
Nästan alltid. GPU:er, minne, lagring och kylning väljs per order, och den listade konfigurationen är en utgångspunkt snarare än ett fast paket. Behöver du mer VRAM, snabbare lagring eller en annan kyllösning, säg till innan du beställer så offererar vi ändringen.
Kan jag hämta servern personligen?
Det kan du. Vårt lager ligger i Prag och du är välkommen att hämta personligen – de flesta som kommer passar på att gå igenom maskinen med vår ingenjör och ställa de frågor som är krångliga via mejl. För beställningar inom Tjeckien försöker vi också leverera personligen och gå igenom installationen med dig på plats.
Kan jag prata med någon som faktiskt förstår arbetsbelastningen?
Ja. Vi har en ingenjör som arbetar specifikt med AI-system, inte en allmän säljavdelning. Om din fråga gäller batchstorlekar, kvantisering, interconnect eller var din flaskhals kommer att uppstå, så ställ den — det samtalet brukar förändra konfigurationen till det bättre.
Vilken modell kan jag köra på den här konfigurationen?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Hur testar ni en server före leverans?
Vi kör den mot verkliga AI-arbetsbelastningar i stället för syntetiska poäng: inferensgenomströmning, beteende under ihållande last och temperaturer vid kontinuerlig drift. Du får benchmarkresultaten tillsammans med maskinen, så att den prestanda du blev lovad är den prestanda du kan verifiera redan första dagen.
Är servern redo att köras när den levereras?
Ja. Varje maskin monteras, inbränningstestas och benchmarkas på riktiga AI-arbetsbelastningar innan den skickas, och den lämnar oss med en LLM redan installerad och igång. Du kopplar in den, ansluter den till ditt nätverk och börjar arbeta – det enda beslut som återstår är vilket projekt den ska köra först.
Skickas från vårt lager i EU. Tunga artiklar kan kräva särskild godsfrakt — kontakta oss för en fraktoffert och leveranstid. 2 års begränsad garanti med avancerad RMA-support; förlängd garanti finns.
Inte riktigt vad du behöver?
Berätta om din arbetsbelastning så specificerar vi plattformen kring den – GPU:er, minne, lagring och kylning anpassade efter det du faktiskt kör.