NVLink y NVSwitch: cuándo importan y por qué casi nunca lo hacen en la gama de Kentino

Una pregunta recurrente en nuestro buzón: un cliente que dimensiona un servidor de 4× u 8× GPU ve que el marketing de DGX de NVIDIA presume de un ancho de banda NVLink de terabytes por segundo y pregunta si el equipo de Kentino «tiene NVLink». La respuesta honesta es que no, ninguno de nuestros equipos lo tiene, y para las cargas de trabajo que el cliente tiene en realidad eso no supone ningún problema. Este artículo explica por qué.

NVLink es realmente impresionante en lo más alto de la gama y está ausente en todo lo demás. El marketing no traza una línea clara, así que los compradores o pagan de más por un tejido que no necesitan o compran de menos pensando que PCIe es un salto atrás en todos los casos. Ninguna de las dos cosas es cierta. La línea es nítida y está en un punto concreto.

Qué es realmente NVLink

NVLink es una interconexión punto a punto de alto ancho de banda entre GPU que evita el complejo raíz PCIe del anfitrión. Dos GPU con una conexión NVLink mueven tensores directamente por el enlace, sin pasar por la memoria de la CPU y sin competir con nada más del árbol PCIe. Ese es todo el argumento.

La ventaja de ancho de banda sobre PCIe es sustancial. PCIe Gen5 x16 (el techo actual de una ranura de consumo o de estación de trabajo) da unos 64 GB/s en cada sentido, 128 GB/s agregados. NVLink 5 en B200 y GB200 da 1.8 TB/s agregados por GPU, aproximadamente 14× una ranura PCIe Gen5 x16.

Esta comparación engaña en cuanto se escribe, porque las GPU con NVLink 5 no son GPU cuya interconexión principal sea PCIe Gen5 x16. NVLink vive en los SKU de centro de datos (A100, H100, H200, B200, GB200); PCIe es el único camino en los SKU de consumo y de estación de trabajo (4090, 5090, RTX Pro 6000 Blackwell, L40, L4). «NVLink frente a PCIe» significa en la práctica «la línea H100 frente al resto».

Las generaciones de NVLink de un vistazo

El número de enlaces creció de la generación 2 a la 4 y después el ancho de banda por enlace se duplicó de la gen 4 a la 5 (de 50 GB/s a 100 GB/s). Por eso NVLink 5 parece un salto de escalón: lo es.

PCIe en un equipo de Kentino:

En el peor caso (Gen4), PCIe es ~1/14 de NVLink 4. En el mejor caso (Gen5), PCIe es ~1/14 de NVLink 5. La relación es prácticamente constante por diseño de NVIDIA.

La parte honesta: la gama de Kentino no tiene NVLink

NVIDIA eliminó el conector NVLink de las GeForce de consumo a partir de Ada Lovelace. La 3090 fue la última tarjeta de consumo con un puente funcional; la 4090 lo perdió y la 5090 no tiene ninguno. La razón declarada fue que «los usuarios quieren ancho de banda dentro de una sola GPU, no entre dos», lo que encajaba convenientemente con que los clientes de entrenamiento pagaran precios de centro de datos por el ancho de banda entre GPU.

El caso interesante es la RTX Pro 6000 Blackwell: una tarjeta de 96 GB para estación de trabajo y servidor, sobre el mismo silicio Blackwell que la B200, la elección obvia de «memoria de GPU seria sin llegar a la B200». Tampoco tiene NVLink. Ni en estación de trabajo, ni en servidor, ni en Max-Q. Sin conector de puente en la PCB. Las fichas técnicas de NVIDIA indican NVLink como no compatible en los tres SKU.

Esta es la línea de segmentación deliberada. NVLink implica dar el salto a H100, H200, B200 o GB200: formato SXM, placa base HGX, otro chasis, otra refrigeración y una asignación de la que Kentino no dispone. Si realmente necesita NVLink, hable con un proveedor de sistemas HGX.

Qué se pierde sin NVLink

La penalización aparece en dos patrones concretos de carga de trabajo:

1. Paralelismo tensorial entre GPU. Cuando un modelo no cabe en una GPU y se reparte la matriz de pesos de cada capa entre tarjetas, cada capa del transformador exige un AllReduce entre los fragmentos. AllReduce consume mucho ancho de banda y es sensible a la latencia. PCIe es el cuello de botella.
2. Entrenamiento distribuido con sincronización fina de gradientes. DDP, FSDP y el entrenamiento al estilo Megatron hacen AllReduce de gradientes en cada paso. Cuanto menor es el cómputo por paso y mayor el modelo, más domina la interconexión el tiempo total.

Todo lo demás (inferencia en una sola GPU, paralelismo de canalización, paralelismo de datos, embeddings, inferencia de visión, ASR, TTS, generación de imágenes por difusión, ajuste fino de un modelo que cabe en una GPU) funciona bien sobre PCIe. NVLink es irrelevante.

Escalado TP medido para un LLM de clase 70B en INT4/INT8, a partir de benchmarks publicados de 3090/4090/L40S:

Léalos como rangos, no como promesas: las cifras exactas dependen del modelo, el tamaño de lote, la longitud de secuencia, la cuantización, la topología NUMA y la colocación en las ranuras. La forma es real: el paralelismo tensorial sobre PCIe escala de forma sublineal y la penalización crece con el número de GPU. Por eso la propia documentación de vLLM recomienda el paralelismo de canalización en lugar del tensorial en sistemas solo PCIe con más de dos GPU.

La alternativa práctica: mantener el modelo en una sola GPU

El dato infravalorado del panorama actual de GPU: una RTX Pro 6000 Blackwell tiene 96 GB de VRAM en una sola tarjeta, suficiente para alojar un 70B en INT4 o INT8 en una única GPU con espacio para la caché KV. Si evita repartir un modelo entre GPU, NVLink deja de importar.

Alojar en una sola tarjeta es la arquitectura correcta para casi todos los modelos que merece la pena servir en 2026. Excepciones: modelos densos muy grandes (405B, GPT-OSS 120B) y arquitecturas MoE en las que el conjunto de expertos activos cabe en una tarjeta pero el conjunto completo de pesos no.

Para varias tarjetas sobre PCIe, la elección correcta es el paralelismo de canalización, no el tensorial. El paralelismo de canalización reparte las capas en bloques contiguos largos (la GPU 0 tiene las capas 0–39, la GPU 1 las 40–79, etc.). El tráfico entre GPU es solo el tensor de activaciones en cada frontera de bloque: unos cientos de KB por token, no gigabytes por capa.

En un servidor de 8× 5090 que sirve un 70B, no se reparte el modelo entre las ocho tarjetas. Se ejecutan dos instancias con canalización de 4 vías, o cuatro instancias con canalización de 2 vías, o —lo más habitual— ocho instancias independientes de un modelo más pequeño detrás de un balanceador de carga. El servidor de 8× se convierte en un multiplicador de rendimiento de ocho réplicas en lugar de en una GPU virtual gigante. Para inferencia en producción, la arquitectura de réplicas suele ser la respuesta correcta haya o no NVLink: más concurrencia y una degradación elegante cuando falla una tarjeta.

Cuándo importa NVLink de verdad

Cargas de trabajo en las que la ausencia de NVLink es un problema real, no un problema de marketing:

• Entrenar un modelo que no cabe en una GPU. El preentrenamiento o el ajuste fino completo de un modelo denso de 70B o más exige repartir el modelo entre GPU con AllReduce de gradientes en cada paso. NVLink es la diferencia entre un rig de 8 GPU productivo y cuatro tarjetas esperando casi siempre al bus.
• Inferencia con paralelismo tensorial en modelos densos muy grandes. Si necesita servir un 405B repartido entre GPU y no puede aceptar la latencia por token del paralelismo de canalización, NVLink importa.
• MoE con enrutado de expertos entre GPU. El all-to-all de MoE es brutal sobre PCIe. DeepSeek-V3, Mixtral 8×22B y diseños similares de denso-vía-MoE se benefician claramente.
• Bucles RLHF / GRPO de alta frecuencia. La sincronización entre política y referencia, repetida miles de veces por época, paga el mismo coste de AllReduce.
• Entrenamiento de difusión multi-GPU a escala. Algunos modelos grandes de difusión de vídeo tienen patrones de activación parecidos a los del paralelismo tensorial.

Si su carga de trabajo está en esta lista, no compre un servidor Kentino de 8× 5090 esperando el comportamiento de un DGX H100. Compre un sistema HGX, o alquile H100/B200 en la nube para la fase de entrenamiento y traiga los pesos de vuelta a sus instalaciones para la inferencia. Es un flujo de trabajo perfectamente razonable y lo recomendamos abiertamente.

NVSwitch: el tejido a nivel de chasis

NVLink es punto a punto: de la GPU A a la GPU B por un haz de enlaces. Por encima de dos GPU en un chasis, o se da a cada par su propio NVLink dedicado (algo que no escala más allá de cuatro) o se pone un conmutador NVLink en medio. El NVSwitch de NVIDIA es ese conmutador.

En una placa base HGX H100 de 8 GPU, cuatro chips NVSwitch dan a cada GPU un NVLink 4 a pleno ancho de banda con todas las demás: 900 GB/s, all-to-all, sin contención. En un rack GB200 NVL72, NVSwitch escala a 72 GPU en una única topología sin bloqueo, 1.8 TB/s por GPU y 130 TB/s agregados. NVSwitch es lo que hace que «una gran GPU virtual» funcione de verdad; sin él, NVLink no es más que un cable entre pares más rápido.

En la práctica:

• Ningún equipo de Kentino lleva NVSwitch. NVSwitch solo se entrega dentro de HGX y DGX certificados por NVIDIA. No hay chip de posventa que encaje en un chasis Supermicro o Bone64c.
• Ninguna tarjeta RTX lleva NVSwitch, nunca. Solo centro de datos.
• El GB200 NVL72 es a escala de rack, no de servidor. 72 GPU cooperan por NVLink con cableado de cobre a velocidades de backplane. Cables, conmutadores y backplane son todos propietarios de NVIDIA. El precio de lista llega a millones de dólares estadounidenses, con plazos de varios trimestres. Es el extremo alto de lo que NVLink permite en 2026. No es para nosotros.

Coste y disponibilidad

Los sistemas con NVLink viven en su propia franja de precio. Mercado aproximado a mediados de 2026, EE. UU./UE:

La diferencia de precio entre un equipo Kentino de 8× Pro 6000 y un HGX H100 es de aproximadamente 2× para el mismo número nominal de GPU. La diferencia de rendimiento en cargas que no dependen de NVLink es mucho menor que 2×. Para trabajo dependiente de NVLink (entrenamiento de modelos grandes, paralelismo tensorial sobre 405B) la caja H100 es la herramienta correcta y el precio está justificado. Regla general: si su carga cabe en una GPU de 96 GB, el equipo con Pro 6000 ahorra más del 50% del presupuesto. Si no cabe, pague por NVLink.

Resumen

---

Esto forma parte de la Kentino Wiki, una serie de referencia sobre computación de IA, robótica y los sistemas que los conectan. Comentarios y correcciones son bienvenidos en info@kentino.com.