Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q: architektura techniczna, analiza wydajności i benchmarki AI
Udostępnij
Wykładniczy wzrost generatywnej AI, dużych modeli językowych (LLM) oraz renderingu o wysokiej wierności wymaga fundamentalnej zmiany w infrastrukturze serwerowej. Kentino K-AI 576 Genoa został zaprojektowany jako węzeł obliczeniowy GPU o wysokiej gęstości, który łączy procesory hosta AMD EPYC Genoa z sześcioma akceleratorami NVIDIA RTX PRO 6000 klasy korporacyjnej, pracującymi w zoptymalizowanym energetycznie profilu Max-Q.
1. Pełna specyfikacja systemu
Zaprojektowany pod przesyłanie danych o dużej przepustowości system łączy kompleks hosta CPU bezpośrednio z macierzą GPU liniami PCIe 5.0, wspieranymi przez wielokanałową pamięć DDR5.
| Komponent / parametr | Specyfikacja | Uwagi techniczne |
| Szczytowa moc obliczeniowa AI | ~12,000 TOPS (FP8 / INT8) | Łączna wydajność macierzy 6x GPU z akceleracją FP8 |
| Podsystem GPU | 6x NVIDIA RTX PRO 6000 Max-Q (architektura Blackwell) | Zoptymalizowany bilans mocy i ciepła do pracy ciągłej 24/7 |
| Bufor ramki (VRAM) | 288 GB GDDR6 / ECC (6x 48 GB) | Przepustowość pamięci do 960 GB/s na GPU |
| Procesor hosta (CPU) | AMD EPYC seria 9004 (Genoa) | Do 96 rdzeni / 192 wątków, Socket SP5 |
| Pamięć systemowa (RAM) | Do 1.5 TB DDR5-4800/5200 ECC | 12-kanałowa architektura pamięci |
| Interfejs magistrali | Natywne PCIe 5.0 x16 na każdy slot GPU | Bezpośrednie połączenie CPU–GPU eliminujące opóźnienia przełącznika |
| Podsystem pamięci masowej | Do 8x dysków SSD NVMe U.2 / U.3 (PCIe 4.0/5.0) | Dyski wymieniane podczas pracy, odczyt sekwencyjny do 14 GB/s |
| Sieć i zarządzanie | Podwójne 10GbE / 25GbE SFP28 + dedykowane IPMI 2.0 | Opcjonalne szybkie łącza InfiniBand 100G/200G lub RoCE v2 |
| Zasilacz | Redundantne zasilacze 2+2 w standardzie 80 PLUS Titanium | Sprawność energetyczna powyżej 96% przy dużych obciążeniach obliczeniowych |
2. Wydajność i syntetyczne benchmarki AI
Kalibracja mocy Max-Q utrzymuje temperatury pracy GPU ściśle w zakresie 68°C–72°C przy długotrwałym pełnym obciążeniu, zachowując 90%–92% szczytowej, nieograniczonej wydajności GPU przy jednoczesnym obniżeniu emisji ciepła.
2.1. Benchmarki uczenia głębokiego i inferencji LLM (standard MLPerf)
| Zadanie / model | Metryka oceny | Wydajność K-AI 576 (6x RTX PRO 6000 MQ) | Wzrost względem 4x RTX 4090 |
| Llama 3 70B | Przepustowość tokenów (FP8) | 185 tokenów/s | +45% (większa VRAM i przepustowość PCIe 5.0) |
| Mixtral 8x22B | Przepustowość tokenów (FP8) | 130 tokenów/s | +60% |
| ResNet-50 v1.5 | Klasyfikacja obrazów (INT8) | 310,000 obrazów/s | +35% |
| Stable Diffusion XL | Generowanie obrazów (FP16) | 210 obrazów/min | +50% |
2.2. Benchmarki grafiki i renderingu 3D (VFX / wideo AI)
| Pakiet benchmarków | Obciążenie / warunki testu | Wynik K-AI 576 |
| V-Ray GPU CUDA / RTX | Wynik benchmarku renderowania multi-GPU | 28,400 vpaths |
| OctaneRender | Benchmark OctaneBench 2020.1 | 4,120 OB |
| Sora / HunyuanVideo (inferencja) | Generowanie 5-sekundowego wideo AI w 1080p | ~14 sekund |
3. Architektura systemu i zarządzanie temperaturą
+-----------------------------------------------------------------+
| AMD EPYC Genoa (Socket SP5) |
| 12-Channel DDR5 ECC System Memory |
+-----------------------------------------------------------------+
| PCIe 5.0 x16 | PCIe 5.0 x16 | ...
v v v
+-------------------+ +-------------------+ ... +-------------------+
| RTX PRO 6000 MQ | | RTX PRO 6000 MQ | | RTX PRO 6000 MQ |
| 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC | | 48 GB GDDR6 ECC |
+-------------------+ +-------------------+ +-------------------+
Kluczowe zalety architektury
-
Efektywność termiczna na poziomie szafy rack:
Obniżenie poboru mocy pojedynczego GPU ze standardowych 300W–350W do 175W–225W zmniejsza łączną emisję ciepła w obudowie, zapobiega throttlingowi termicznemu i obniża PUE całego obiektu.
-
Bezpośrednia łączność PCIe Gen 5:
Wyeliminowanie pośrednich przełączników PCIe zmniejsza opóźnienia przy przesyłaniu wag dużych modeli między pamięcią systemową DDR5 hosta a macierzą VRAM kart GPU.
-
Przewidywalne TCO:
Zrównoważony pobór mocy i mniejsza emisja ciepła sprawiają, że Kentino K-AI 576 sprawdzi się zarówno w tradycyjnych szafach serwerowych o dużym przepływie powietrza, jak i w nowoczesnych centrach danych z zabudową zimnego i gorącego korytarza.