Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q: Technical Architecture, Performance Analysis & AI Benchmarks

Kentino K-AI 576 Genoa RTX PRO 6000 MAX-Q : architecture technique, analyse des performances et benchmarks IA

La croissance exponentielle de l'IA générative, des grands modèles de langage (LLM) et du rendu haute fidélité impose une refonte profonde de l'infrastructure serveur. Le Kentino K-AI 576 Genoa est conçu comme un nœud de calcul GPU haute densité qui associe des processeurs hôtes AMD EPYC Genoa à 6 accélérateurs NVIDIA RTX PRO 6000 de classe entreprise fonctionnant selon un profil Max-Q optimisé en énergie.

1. Spécifications complètes du système

Pensé pour les transferts de données à haut débit, le système relie le complexe hôte CPU directement au réseau de GPU par des lignes PCIe 5.0, épaulées par une mémoire DDR5 multicanale.

Composant / paramètre Spécification Notes techniques
Puissance de calcul IA en crête ~12,000 TOPS (FP8 / INT8) Performance cumulée des 6 GPU avec accélération FP8
Sous-système GPU 6x NVIDIA RTX PRO 6000 Max-Q (architecture Blackwell) Rapport consommation/thermique optimisé pour un fonctionnement continu 24/7
Mémoire graphique (VRAM) 288 GB GDDR6 / ECC (6x 48 GB) Jusqu'à 960 GB/s de bande passante mémoire par GPU
Processeur hôte (CPU) AMD EPYC série 9004 (Genoa) Jusqu'à 96 cœurs / 192 threads, Socket SP5
Mémoire système (RAM) Jusqu'à 1.5 TB DDR5-4800/5200 ECC Architecture mémoire à 12 canaux
Interface de bus PCIe 5.0 x16 natif par emplacement GPU Liaison directe CPU-GPU, sans latence de commutateur
Sous-système de stockage Jusqu'à 8x SSD NVMe U.2 / U.3 (PCIe 4.0/5.0) Disques remplaçables à chaud, jusqu'à 14 GB/s en lecture séquentielle
Réseau & administration Double 10GbE / 25GbE SFP28 + IPMI 2.0 dédié Interconnexions haute vitesse InfiniBand ou RoCE v2 100G/200G en option
Alimentation Alimentations redondantes 2+2 certifiées 80 PLUS Titanium Rendement énergétique supérieur à 96 % sous forte charge de calcul

2. Performances & benchmarks IA synthétiques

Le calibrage de puissance Max-Q maintient les températures de fonctionnement des GPU strictement entre 68°C et 72°C en pleine charge prolongée, tout en préservant 90 % à 92 % des performances GPU de crête sans bridage et en réduisant le dégagement thermique.

2.1. Benchmarks d'apprentissage profond et d'inférence LLM (standard MLPerf)

Tâche / modèle Métrique d'évaluation Performance K-AI 576 (6x RTX PRO 6000 MQ) Gain relatif vs. 4x RTX 4090
Llama 3 70B Débit de tokens (FP8) 185 tokens/sec +45% (VRAM accrue & débit PCIe 5.0)
Mixtral 8x22B Débit de tokens (FP8) 130 tokens/sec +60%
ResNet-50 v1.5 Classification d'images (INT8) 310,000 images/sec +35%
Stable Diffusion XL Génération d'images (FP16) 210 images/min +50%

2.2. Benchmarks de calcul visuel & de rendu 3D (VFX / vidéo IA)

Suite de benchmarks Charge de travail / conditions de test Résultat K-AI 576
V-Ray GPU CUDA / RTX Score de rendu multi-GPU 28,400 vpaths
OctaneRender Benchmark OctaneBench 2020.1 4,120 OB
Sora / HunyuanVideo (inférence) Génération de vidéo IA 1080p de 5 secondes ~14 secondes

3. Architecture du système & gestion thermique

+-----------------------------------------------------------------+
|                  AMD EPYC Genoa (Socket SP5)                    |
|             12-Channel DDR5 ECC System Memory                   |
+-----------------------------------------------------------------+
          | PCIe 5.0 x16            | PCIe 5.0 x16         | ...
          v                         v                      v
+-------------------+     +-------------------+  ...  +-------------------+
| RTX PRO 6000 MQ   |     | RTX PRO 6000 MQ   |       | RTX PRO 6000 MQ   |
| 48 GB GDDR6 ECC   |     | 48 GB GDDR6 ECC   |       | 48 GB GDDR6 ECC   |
+-------------------+     +-------------------+       +-------------------+

Principaux atouts de l'architecture

  • Efficacité thermique à l'échelle du rack :

    Ramener la consommation de chaque GPU de 300W–350W en standard à 175W–225W réduit la chaleur totale dégagée par le châssis, évite le bridage thermique et abaisse le PUE global de l'installation.

  • Connectivité PCIe Gen 5 directe :

    La suppression des commutateurs PCIe intermédiaires réduit la latence lors du transfert des poids de grands modèles entre la mémoire système DDR5 de l'hôte et la VRAM des GPU.

  • TCO prévisible :

    Une consommation maîtrisée et un dégagement de chaleur réduit rendent le Kentino K-AI 576 adapté aussi bien aux racks serveurs traditionnels à fort débit d'air qu'aux centres de données d'entreprise modernes à confinement d'allées chaude/froide.

Retour au blog