NVLink et NVSwitch : quand cela compte, et pourquoi ce n'est généralement pas le cas pour la gamme Kentino

Une question qui revient souvent dans notre boîte mail : un client qui dimensionne un serveur à 4× ou 8× GPU voit le marketing DGX de NVIDIA vanter une bande passante NVLink de plusieurs téraoctets par seconde et demande si la configuration Kentino « a du NVLink ». La réponse honnête est non, aucune de nos configurations n'en a — et pour les charges de travail que le client a réellement, cela ne pose pas de problème. Cet article explique pourquoi.

NVLink est réellement impressionnant au sommet de la gamme et absent partout ailleurs. Le marketing ne trace pas de ligne claire, si bien que les acheteurs surpaient pour un réseau dont ils n'ont pas besoin, ou sous-achètent en croyant que le PCIe est un recul brutal sur toute la ligne. Ni l'un ni l'autre n'est vrai. La frontière est nette et se situe à un endroit précis.

Ce qu'est réellement NVLink

NVLink est une interconnexion point à point à haute bande passante entre GPU, qui contourne le complexe racine PCIe de l'hôte. Deux GPU reliés par NVLink échangent des tenseurs directement via le lien, sans transiter par la mémoire du CPU et sans entrer en concurrence avec le reste de l'arborescence PCIe. Tout l'argumentaire tient là.

L'avantage de bande passante sur le PCIe est substantiel. Le PCIe Gen5 x16 — le plafond actuel d'un connecteur grand public ou station de travail — offre environ 64 GB/s dans chaque sens, soit 128 GB/s cumulés. NVLink 5 sur B200 et GB200 atteint 1.8 TB/s cumulés par GPU, soit à peu près 14× un connecteur PCIe Gen5 x16.

Cette comparaison devient trompeuse dès qu'on la pose noir sur blanc, car les GPU dotés de NVLink 5 ne sont pas des GPU dont l'interconnexion principale est le PCIe Gen5 x16. NVLink vit sur les références de centre de données (A100, H100, H200, B200, GB200) ; le PCIe est la seule voie sur les références grand public et station de travail (4090, 5090, RTX Pro 6000 Blackwell, L40, L4). En pratique, « NVLink contre PCIe » signifie « la gamme H100 contre tout le reste ».

Les générations de NVLink en un coup d'œil

Le nombre de liens a augmenté de la génération 2 à la génération 4, puis la bande passante par lien a doublé de la gén. 4 à la gén. 5 (de 50 GB/s à 100 GB/s). C'est pourquoi NVLink 5 ressemble à un saut générationnel — et c'en est un.

Le PCIe dans une configuration Kentino :

Au pire (Gen4), le PCIe représente ~1/14 de NVLink 4. Au mieux (Gen5), le PCIe représente ~1/14 de NVLink 5. Le rapport est à peu près constant, par conception de NVIDIA.

La part honnête : la gamme Kentino n'a pas de NVLink

NVIDIA a supprimé le connecteur NVLink des GeForce grand public à partir d'Ada Lovelace. La 3090 a été la dernière carte grand public dotée d'un pont fonctionnel ; la 4090 l'a abandonné et la 5090 n'en a aucun. La raison invoquée était que « les utilisateurs veulent de la bande passante à l'intérieur d'un seul GPU, pas entre deux » — ce qui coïncidait opportunément avec des clients d'entraînement payant des tarifs de centre de données pour la bande passante entre GPU.

Le cas intéressant est la RTX Pro 6000 Blackwell — une carte de 96 GB pour station de travail et serveur, sur le même silicium Blackwell que la B200, le choix évident pour « de la vraie mémoire GPU sans passer à la B200 ». Elle n'a pas non plus de NVLink. Ni en version station de travail, ni en version serveur, ni en Max-Q. Aucun connecteur de pont sur le circuit imprimé. Les fiches techniques de NVIDIA indiquent NVLink comme non pris en charge sur les trois références.

C'est la ligne de segmentation délibérée. NVLink implique de monter vers H100, H200, B200 ou GB200 — format SXM, carte de base HGX, autre châssis, autre refroidissement, et des allocations dont Kentino ne dispose pas. Si vous avez réellement besoin de NVLink, adressez-vous à un fournisseur de systèmes HGX.

Ce que vous perdez sans NVLink

La pénalité apparaît dans deux profils de charge bien précis :

1. Le parallélisme de tenseurs entre GPU. Lorsqu'un modèle est trop volumineux pour un seul GPU et que vous répartissez la matrice de poids de chaque couche entre les cartes, chaque couche de transformeur impose un AllReduce entre les fragments. L'AllReduce est gourmand en bande passante et sensible à la latence. Le PCIe est le goulot d'étranglement.
2. L'entraînement distribué avec synchronisation fine des gradients. Les entraînements DDP, FSDP et de type Megatron effectuent des AllReduce de gradients à chaque pas. Plus le calcul par pas est faible et le modèle volumineux, plus l'interconnexion domine le temps d'exécution réel.

Tout le reste — inférence sur un seul GPU, parallélisme de pipeline, parallélisme de données, plongements, inférence visuelle, ASR, TTS, génération d'images par diffusion, affinage d'un modèle qui tient sur un GPU — fonctionne très bien en PCIe. NVLink n'a alors aucune importance.

Mise à l'échelle TP mesurée pour un LLM de classe 70B en INT4/INT8, d'après les tests publiés sur 3090/4090/L40S :

À lire comme des fourchettes, pas comme des promesses : les chiffres exacts dépendent du modèle, de la taille de lot, de la longueur de séquence, de la quantification, de la topologie NUMA et du placement dans les connecteurs. La tendance, elle, est réelle : le parallélisme de tenseurs sur PCIe évolue de façon sous-linéaire et la pénalité croît avec le nombre de GPU. C'est pourquoi la documentation de vLLM recommande elle-même le parallélisme de pipeline plutôt que de tenseurs sur les systèmes PCIe seuls au-delà de deux GPU.

La parade concrète : garder le modèle sur un seul GPU

Le fait sous-estimé du paysage GPU actuel : une RTX Pro 6000 Blackwell embarque 96 GB de VRAM sur une seule carte — de quoi héberger un 70B en INT4 ou INT8 sur un GPU unique avec de la place pour le cache KV. Si vous évitez complètement de répartir un modèle entre plusieurs GPU, la question du NVLink ne se pose plus.

L'hébergement sur une seule carte est la bonne architecture pour presque tous les modèles qui méritent d'être servis en 2026. Exceptions : les très gros modèles denses (405B, GPT-OSS 120B) et les architectures MoE où le jeu d'experts actifs tient sur une carte, mais pas l'ensemble des poids.

Pour du multi-carte sur PCIe, le bon choix est le parallélisme de pipeline, pas le parallélisme de tenseurs. Le pipeline découpe les couches en longs blocs contigus (le GPU 0 porte les couches 0–39, le GPU 1 les couches 40–79, etc.). Le trafic entre GPU se limite au tenseur d'activation à chaque frontière de bloc — quelques centaines de KB par jeton, et non des gigaoctets par couche.

Sur un serveur à 8× 5090 servant un 70B, vous ne répartissez pas le modèle sur les huit cartes. Vous exécutez deux instances en pipeline à 4 étages, ou quatre instances en pipeline à 2 étages, ou — le plus souvent — huit instances indépendantes d'un modèle plus petit derrière un répartiteur de charge. Le serveur 8× devient un multiplicateur de débit à huit réplicas plutôt qu'un énorme GPU virtuel unique. Pour de l'inférence en production, l'architecture à réplicas est généralement la bonne réponse, que NVLink soit disponible ou non : plus de concurrence et une dégradation progressive en cas de panne d'une carte.

Quand NVLink compte vraiment

Les charges de travail pour lesquelles l'absence de NVLink est un vrai problème, et non un problème marketing :

• Entraîner un modèle qui ne tient pas sur un seul GPU. Le pré-entraînement ou l'affinage complet d'un modèle dense de 70B et plus impose de répartir le modèle entre GPU avec des AllReduce de gradients à chaque pas. NVLink fait la différence entre un rig à 8 GPU productif et quatre cartes qui attendent le bus la plupart du temps.
• Inférence en parallélisme de tenseurs sur de très gros modèles denses. Si vous devez servir un 405B réparti entre GPU sans pouvoir accepter la latence par jeton du pipeline, NVLink compte.
• MoE avec routage d'experts entre GPU. L'all-to-all des MoE est brutal sur PCIe. DeepSeek-V3, Mixtral 8×22B et les architectures denses-via-MoE similaires en profitent nettement.
• Boucles RLHF / GRPO à haute fréquence. La synchronisation politique/référence répétée des milliers de fois par époque se heurte au même coût d'AllReduce.
• Entraînement de diffusion multi-GPU à grande échelle. Certains gros modèles de diffusion vidéo présentent des schémas d'activation proches du parallélisme de tenseurs.

Si votre charge de travail figure dans cette liste, n'achetez pas un serveur Kentino à 8× 5090 en espérant un comportement de DGX H100. Achetez un système HGX, ou louez des H100/B200 dans le cloud pour la phase d'entraînement et rapatriez les poids sur site pour l'inférence. C'est un flux de travail parfaitement raisonnable, et que nous recommandons ouvertement.

NVSwitch : le réseau à l'échelle du châssis

NVLink est point à point — du GPU A au GPU B par un faisceau de liens. Au-delà de deux GPU dans un châssis, soit vous donnez à chaque paire son propre NVLink dédié (ce qui ne dépasse pas quatre cartes), soit vous placez un commutateur NVLink au milieu. Le NVSwitch de NVIDIA est ce commutateur.

Sur une carte de base HGX H100 à 8 GPU, quatre puces NVSwitch donnent à chaque GPU un NVLink 4 à pleine bande passante vers tous les autres — 900 GB/s, all-to-all, sans contention. Sur un rack GB200 NVL72, NVSwitch s'étend à 72 GPU dans une topologie unique non bloquante, à 1.8 TB/s par GPU et 130 TB/s cumulés. C'est NVSwitch qui fait réellement fonctionner le « gros GPU virtuel unique » ; sans lui, NVLink n'est qu'un câble par paire un peu plus rapide.

En pratique :

• Aucun NVSwitch dans une configuration Kentino. NVSwitch n'est livré que dans les systèmes HGX et DGX certifiés NVIDIA. Aucune puce du marché secondaire ne s'intègre dans un châssis Supermicro ou Bone64c.
• Aucun NVSwitch dans une carte RTX, jamais. Réservé au centre de données.
• Le GB200 NVL72 est à l'échelle du rack, pas du serveur. 72 GPU coopèrent via un NVLink câblé en cuivre à des débits de fond de panier. Câbles, commutateurs et fond de panier sont tous propriétaires NVIDIA. Le prix catalogue se chiffre en millions de dollars américains, avec des délais de plusieurs trimestres. Le sommet de ce que NVLink permet en 2026. Pas pour nous.

Coût et disponibilité

Les systèmes compatibles NVLink vivent dans leur propre palier tarifaire. Marché approximatif mi-2026, États-Unis/UE :

L'écart de prix entre une configuration Kentino à 8× Pro 6000 et un HGX H100 est d'environ 2× pour le même nombre nominal de GPU. L'écart de performance sur les charges qui ne dépendent pas de NVLink est bien inférieur à 2×. Pour un travail dépendant de NVLink (entraînement de gros modèles, parallélisme de tenseurs sur du 405B), la machine H100 est le bon outil et son prix se justifie. Règle empirique : si votre charge de travail tient sur un seul GPU de 96 GB, la configuration Pro 6000 économise plus de 50 % du budget. Sinon, payez pour NVLink.

Synthèse

---

Cet article fait partie du Kentino Wiki, une série de référence consacrée au calcul IA, à la robotique et aux systèmes qui les relient. Commentaires et corrections bienvenus à info@kentino.com.