Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q: technická architektura, analýza výkonu a AI benchmarky
Sdílet
Exponenciální růst generativní AI, velkých jazykových modelů (LLM) a renderingu ve vysoké kvalitě vyžaduje zásadní proměnu serverové infrastruktury. Kentino K-AI 576 Genoa je navržen jako výpočetní uzel s vysokou hustotou GPU, který spojuje hostitelské procesory AMD EPYC Genoa s 6 akcelerátory NVIDIA RTX PRO 6000 podnikové třídy pracujícími v energeticky optimalizovaném profilu Max-Q.
1. Kompletní specifikace systému
Systém je navržen pro přesuny dat s vysokou propustností: hostitelský komplex CPU je napojen přímo na pole GPU přes linky PCIe 5.0 a podpírá jej vícekanálová paměť DDR5.
| Komponenta / parametr | Specifikace | Technické poznámky |
| Špičkový AI výpočetní výkon | ~12,000 TOPS (FP8 / INT8) | Souhrnný výkon pole 6 GPU s akcelerací FP8 |
| Subsystém GPU | 6x NVIDIA RTX PRO 6000 Max-Q (architektura Blackwell) | Optimalizovaný poměr spotřeby a tepelné stopy pro nepřetržitý provoz 24/7 |
| Obrazová paměť (VRAM) | 288 GB GDDR6 / ECC (6x 48 GB) | Až 960 GB/s paměťové propustnosti na jedno GPU |
| Hostitelský procesor (CPU) | AMD EPYC řady 9004 (Genoa) | Až 96 jader / 192 vláken, patice SP5 |
| Systémová paměť (RAM) | Až 1.5 TB DDR5-4800/5200 ECC | 12kanálová paměťová architektura |
| Sběrnicové rozhraní | Nativní PCIe 5.0 x16 na každý slot GPU | Přímé spojení CPU–GPU, které odstraňuje latenci switche |
| Diskový subsystém | Až 8x NVMe SSD U.2 / U.3 (PCIe 4.0/5.0) | Disky vyměnitelné za chodu s až 14 GB/s sekvenčního čtení |
| Síť & správa | Dvojité 10GbE / 25GbE SFP28 + vyhrazené IPMI 2.0 | Volitelné vysokorychlostní propojení 100G/200G InfiniBand nebo RoCE v2 |
| Napájecí zdroj | Redundantní zdroje 2+2 80 PLUS Titanium | Účinnost přes 96 % i při těžké výpočetní zátěži |
2. Výkon & syntetické AI benchmarky
Kalibrace Max-Q udržuje provozní teploty GPU při trvalé plné zátěži přísně v rozmezí 68°C–72°C, zachovává 90 %–92 % špičkového neomezeného výkonu GPU a současně snižuje tepelný výkon.
2.1. Benchmarky hlubokého učení & inference LLM (standard MLPerf)
| Úloha / model | Hodnotící metrika | Výkon K-AI 576 (6x RTX PRO 6000 MQ) | Relativní zisk oproti 4x RTX 4090 |
| Llama 3 70B | Propustnost tokenů (FP8) | 185 tokenů/s | +45 % (větší VRAM & propustnost PCIe 5.0) |
| Mixtral 8x22B | Propustnost tokenů (FP8) | 130 tokenů/s | +60 % |
| ResNet-50 v1.5 | Klasifikace obrazu (INT8) | 310,000 obrázků/s | +35 % |
| Stable Diffusion XL | Generování obrazu (FP16) | 210 obrázků/min | +50 % |
2.2. Benchmarky vizuálních výpočtů & 3D renderingu (VFX / AI video)
| Sada benchmarků | Workload / podmínky testu | Výsledek K-AI 576 |
| V-Ray GPU CUDA / RTX | Skóre renderovacího benchmarku na více GPU | 28,400 vpaths |
| OctaneRender | Benchmark OctaneBench 2020.1 | 4,120 OB |
| Sora / HunyuanVideo (inference) | 1080p, generování 5sekundového AI videa | ~14 sekund |
3. Architektura systému & řízení teploty
+-----------------------------------------------------------------+
| AMD EPYC Genoa (Socket SP5) |
| 12-Channel DDR5 ECC System Memory |
+-----------------------------------------------------------------+
| PCIe 5.0 x16 | PCIe 5.0 x16 | ...
v v v
+-------------------+ +-------------------+ ... +-------------------+
| RTX PRO 6000 MQ | | RTX PRO 6000 MQ | | RTX PRO 6000 MQ |
| 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC |
+-------------------+ +-------------------+ +-------------------+
Klíčové architektonické výhody
-
Tepelná účinnost na úrovni racku:
Snížení odběru jednotlivých GPU ze standardních 300W–350W na 175W–225W snižuje celkovou produkci tepla v šasi, zabraňuje tepelnému throttlingu a zlepšuje celkové PUE objektu.
-
Přímá konektivita PCIe Gen 5:
Vypuštění mezilehlých PCIe switchů snižuje latenci při přenosu vah velkých modelů mezi systémovou pamětí DDR5 a polem VRAM na GPU.
-
Předvídatelné TCO:
Vyvážený odběr a nižší tepelný výkon činí Kentino K-AI 576 vhodným jak pro klasické serverové racky s vysokým průtokem vzduchu, tak pro moderní podniková datacentra s uzavřenými teplými a studenými uličkami.