Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q: technická architektúra, analýza výkonu a AI benchmarky
Zdieľať
Exponenciálny rast generatívnej AI, veľkých jazykových modelov (LLM) a renderovania vo vysokej vernosti si vyžaduje zásadnú zmenu v serverovej infraštruktúre. Kentino K-AI 576 Genoa je navrhnutý ako vysokohustotný GPU výpočtový uzol, ktorý spája hostiteľské procesory AMD EPYC Genoa so 6 akcelerátormi NVIDIA RTX PRO 6000 podnikovej triedy pracujúcimi v energeticky optimalizovanom profile Max-Q.
1. Kompletná špecifikácia systému
Systém je navrhnutý na prenos dát s vysokou priepustnosťou a prepája hostiteľský komplex CPU priamo s poľom GPU cez linky PCIe 5.0, podporené viackanálovou pamäťou DDR5.
| Komponent / parameter | Špecifikácia | Technické poznámky |
| Špičkový výpočtový výkon pre AI | ~12,000 TOPS (FP8 / INT8) | Súhrnný výkon celého poľa 6 GPU s akceleráciou FP8 |
| Subsystém GPU | 6x NVIDIA RTX PRO 6000 Max-Q (architektúra Blackwell) | Optimalizovaný pomer príkonu a tepla pre nepretržitú prevádzku 24/7 |
| Obrazová pamäť (VRAM) | 288 GB GDDR6 / ECC (6x 48 GB) | Až 960 GB/s pamäťovej priepustnosti na jednu GPU |
| Hostiteľský procesor (CPU) | AMD EPYC radu 9004 (Genoa) | Až 96 jadier / 192 vlákien, pätica SP5 |
| Operačná pamäť (RAM) | Až 1.5 TB DDR5-4800/5200 ECC | 12-kanálová pamäťová architektúra |
| Zbernicové rozhranie | Natívne PCIe 5.0 x16 na každý slot GPU | Priame prepojenie CPU a GPU bez latencie prepínača |
| Úložný subsystém | Až 8x NVMe SSD U.2 / U.3 (PCIe 4.0/5.0) | Disky vymeniteľné za chodu s rýchlosťou sekvenčného čítania až 14 GB/s |
| Sieť & správa | Duálne 10GbE / 25GbE SFP28 + vyhradené IPMI 2.0 | Voliteľné vysokorýchlostné prepojenia 100G/200G InfiniBand alebo RoCE v2 |
| Napájací zdroj | 2+2 redundantné zdroje 80 PLUS Titanium | Energetická účinnosť nad 96 % pri vysokej výpočtovej záťaži |
2. Výkon & syntetické AI benchmarky
Výkonová kalibrácia Max-Q udržiava prevádzkové teploty GPU pri trvalom plnom zaťažení striktne v rozsahu 68°C–72°C, pričom zachováva 90 %–92 % špičkového neobmedzeného výkonu GPU a zároveň znižuje tepelný výstup.
2.1. Benchmarky hlbokého učenia & inferencie LLM (štandard MLPerf)
| Úloha / model | Hodnotiaca metrika | Výkon K-AI 576 (6x RTX PRO 6000 MQ) | Relatívny zisk oproti 4x RTX 4090 |
| Llama 3 70B | Priepustnosť tokenov (FP8) | 185 tokenov/s | +45 % (vyššia VRAM & priepustnosť PCIe 5.0) |
| Mixtral 8x22B | Priepustnosť tokenov (FP8) | 130 tokenov/s | +60 % |
| ResNet-50 v1.5 | Klasifikácia obrazu (INT8) | 310,000 obrázkov/s | +35 % |
| Stable Diffusion XL | Generovanie obrazu (FP16) | 210 obrázkov/min | +50 % |
2.2. Benchmarky vizuálnych výpočtov & 3D renderovania (VFX / AI video)
| Benchmarková sada | Workload / podmienky testu | Výsledok K-AI 576 |
| V-Ray GPU CUDA / RTX | Skóre multi-GPU render benchmarku | 28,400 vpaths |
| OctaneRender | Benchmark OctaneBench 2020.1 | 4,120 OB |
| Sora / HunyuanVideo (inferencia) | 1080p, 5-sekundové AI video | ~14 sekúnd |
3. Architektúra systému & manažment tepla
+-----------------------------------------------------------------+
| AMD EPYC Genoa (Socket SP5) |
| 12-Channel DDR5 ECC System Memory |
+-----------------------------------------------------------------+
| PCIe 5.0 x16 | PCIe 5.0 x16 | ...
v v v
+-------------------+ +-------------------+ ... +-------------------+
| RTX PRO 6000 MQ | | RTX PRO 6000 MQ | | RTX PRO 6000 MQ |
| 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC |
+-------------------+ +-------------------+ +-------------------+
Kľúčové architektonické výhody
-
Tepelná efektivita na úrovni racku:
Zníženie príkonu jednotlivých GPU zo štandardných 300W–350W na 175W–225W znižuje celkovú produkciu tepla v šasi, bráni tepelnému throttlingu a znižuje celkové PUE prevádzky.
-
Priame prepojenie PCIe Gen 5:
Odstránenie medziľahlých prepínačov PCIe znižuje latenciu pri prenose váh veľkých modelov medzi systémovou pamäťou DDR5 a poľom VRAM grafických kariet.
-
Predvídateľné TCO:
Vyvážený príkon a nižší tepelný výstup robia z Kentino K-AI 576 vhodné riešenie pre tradičné serverové racky s vysokým prietokom vzduchu aj pre moderné podnikové dátové centrá s uzavretými teplými a studenými uličkami.