NVLink e NVSwitch: Quando Importa e Porque Normalmente Não Importa na Gama Kentino

Uma pergunta recorrente na nossa caixa de entrada: um cliente a dimensionar um servidor de 4× ou 8× GPU vê o marketing dos DGX da NVIDIA a gabar-se de larguras de banda NVLink na ordem dos terabytes por segundo e pergunta se a configuração da Kentino "tem NVLink". A resposta honesta é não, nenhuma das nossas configurações tem — e, para as cargas de trabalho que o cliente realmente tem, isso não é problema. Este artigo explica porquê.

O NVLink é genuinamente impressionante no topo da gama e inexistente em todo o resto. O marketing não traça uma linha clara, por isso os compradores ou pagam a mais por um tecido de interligação de que não precisam, ou compram a menos a pensar que o PCIe é uma degradação abrupta em toda a linha. Nenhuma das coisas é verdade. A linha é nítida e está num sítio muito concreto.

O que é realmente o NVLink

O NVLink é uma interligação ponto a ponto de alta largura de banda entre GPU e GPU, que contorna o complexo raiz PCIe do anfitrião. Duas GPU com uma ligação NVLink movem tensores diretamente através dessa ligação, sem passar pela memória do CPU e sem disputar recursos com o que quer que seja na árvore PCIe. É esse o argumento todo.

A vantagem de largura de banda face ao PCIe é substancial. O PCIe Gen5 x16 — o teto atual de uma slot de consumo ou de estação de trabalho — dá cerca de 64 GB/s em cada direção, 128 GB/s agregados. O NVLink 5 no B200 e no GB200 dá 1.8 TB/s agregados por GPU, sensivelmente 14× uma slot PCIe Gen5 x16.

Esta comparação é enganadora no momento em que a escrevemos, porque as GPU com NVLink 5 não são GPU cuja interligação principal seja o PCIe Gen5 x16. O NVLink vive nas referências de centro de dados (A100, H100, H200, B200, GB200); o PCIe é o único caminho nas referências de consumo e de estação de trabalho (4090, 5090, RTX Pro 6000 Blackwell, L40, L4). "NVLink contra PCIe" significa, na prática, "a linha H100 contra todo o resto".

As gerações de NVLink num relance

O número de ligações cresceu da geração 2 para a 4 e, depois, a largura de banda por ligação duplicou da geração 4 para a 5 (de 50 GB/s para 100 GB/s). É por isso que o NVLink 5 parece um salto de patamar — e é.

O PCIe numa configuração Kentino:

No pior caso (Gen4), o PCIe fica em cerca de 1/14 do NVLink 4. No melhor caso (Gen5), o PCIe fica em cerca de 1/14 do NVLink 5. O rácio mantém-se praticamente constante por desenho da NVIDIA.

A parte honesta: a gama da Kentino não tem NVLink

A NVIDIA retirou o conector NVLink das GeForce de consumo a partir da Ada Lovelace. A 3090 foi a última placa de consumo com ponte funcional; a 4090 abandonou-a e a 5090 não tem nenhuma. A razão invocada foi que "os utilizadores querem largura de banda dentro de uma GPU, não entre duas" — o que convenientemente coincidiu com os clientes de treino a pagarem preços de centro de dados por largura de banda entre GPU.

O caso interessante é a RTX Pro 6000 Blackwell — uma placa de 96 GB para estação de trabalho e servidor, no mesmo silício Blackwell da B200, a escolha óbvia para "memória de GPU a sério sem ir para a B200". Também não tem NVLink. Nem na versão de estação de trabalho, nem na de servidor, nem na Max-Q. Nenhum conector de ponte na PCB. As fichas técnicas da NVIDIA indicam NVLink como não suportado nas três referências.

Esta é a linha de segmentação deliberada. NVLink significa subir para H100, H200, B200 ou GB200 — formato SXM, placa-base HGX, chassis diferente, arrefecimento diferente, uma alocação que a Kentino não tem. Se precisa genuinamente de NVLink, fale com um fornecedor de sistemas HGX.

O que se perde sem NVLink

A penalização aparece em dois padrões de carga de trabalho muito concretos:

1. Paralelismo de tensores entre GPU. Quando um modelo é grande demais para uma GPU e se reparte a matriz de pesos de cada camada pelas placas, cada camada do transformer exige um AllReduce entre os fragmentos. O AllReduce consome muita largura de banda e é sensível à latência. O PCIe é o estrangulamento.
2. Treino distribuído com sincronização fina de gradientes. O DDP, o FSDP e o treino ao estilo Megatron fazem AllReduce de gradientes a cada passo. Quanto menor for a computação por passo e maior o modelo, mais a interligação domina o tempo de relógio.

Todo o resto — inferência numa só GPU, paralelismo de pipeline, paralelismo de dados, embeddings, inferência de visão, ASR, TTS, geração de imagem por difusão, afinação de um modelo que cabe numa GPU — corre bem em PCIe. O NVLink é irrelevante.

Escalabilidade TP medida para um LLM da classe dos 70B em INT4/INT8, a partir de benchmarks publicados em 3090/4090/L40S:

Leia isto como intervalos, não como promessas — os números exatos dependem do modelo, do tamanho do lote, do comprimento da sequência, da quantização, da topologia NUMA e da colocação nas slots. A forma da curva é real: o paralelismo de tensores em PCIe escala de forma sublinear e a penalização agrava-se com o número de GPU. É por isso que a própria documentação do vLLM recomenda paralelismo de pipeline em vez de paralelismo de tensores em sistemas só com PCIe acima de duas GPU.

A alternativa prática: manter o modelo numa só GPU

O facto subestimado do atual panorama das GPU: uma RTX Pro 6000 Blackwell tem 96 GB de VRAM numa única placa — suficiente para alojar um 70B em INT4 ou INT8 numa só GPU, com espaço para a cache KV. Se evitar repartir um modelo por várias GPU, a questão do NVLink deixa de existir.

Alojar numa só placa é a arquitetura certa para quase todos os modelos que vale a pena servir em 2026. Exceções: modelos densos muito grandes (405B, GPT-OSS 120B) e arquiteturas MoE em que o conjunto de peritos ativos cabe numa placa, mas o conjunto completo de pesos não.

Para várias placas em PCIe, a escolha certa é o paralelismo de pipeline, não o de tensores. O paralelismo de pipeline divide as camadas em blocos contíguos longos (a GPU 0 fica com as camadas 0–39, a GPU 1 com as 40–79, e assim por diante). O tráfego entre GPU é apenas o tensor de ativação em cada fronteira de bloco — algumas centenas de KB por token, não gigabytes por camada.

Num servidor com 8× 5090 a servir um 70B, não se reparte o modelo pelas oito placas. Correm-se duas instâncias com paralelismo de pipeline a 4 vias, ou quatro instâncias com pipeline a 2 vias, ou — o mais habitual — oito instâncias independentes de um modelo mais pequeno atrás de um balanceador de carga. O servidor de 8× passa a ser um multiplicador de débito com oito réplicas, em vez de uma GPU virtual gigante. Para inferência em produção, a arquitetura de réplicas é normalmente a resposta certa, haja ou não NVLink: mais concorrência e degradação controlada quando uma placa falha.

Quando o NVLink conta mesmo

Cargas de trabalho em que a ausência de NVLink é um problema real, e não um problema de marketing:

• Treinar um modelo que não cabe numa GPU. O pré-treino ou a afinação completa de um modelo denso de 70B ou mais exige repartir o modelo pelas GPU com AllReduce de gradientes a cada passo. O NVLink é a diferença entre um rig de 8 GPU produtivo e quatro placas quase sempre à espera do barramento.
• Inferência com paralelismo de tensores em modelos densos muito grandes. Se precisa de servir um 405B distribuído por várias GPU e não pode aceitar a latência por token do paralelismo de pipeline, o NVLink conta.
• MoE com encaminhamento de peritos entre GPU. O all-to-all dos MoE é brutal em PCIe. O DeepSeek-V3, o Mixtral 8×22B e arquiteturas semelhantes beneficiam claramente.
• Ciclos de RLHF / GRPO de alta frequência. A sincronização entre política e referência, repetida milhares de vezes por época, incorre no mesmo custo de AllReduce.
• Treino de modelos de difusão em várias GPU e à escala. Alguns modelos maiores de difusão de vídeo têm padrões de ativação semelhantes aos do paralelismo de tensores.

Se a sua carga de trabalho está nesta lista, não compre um servidor Kentino de 8× 5090 à espera do comportamento de um DGX H100. Compre um sistema HGX, ou alugue H100/B200 na cloud para a fase de treino e traga os pesos de volta para on-premise para a inferência. É um fluxo de trabalho perfeitamente razoável e que recomendamos abertamente.

NVSwitch: o tecido ao nível do chassis

O NVLink é ponto a ponto — da GPU A para a GPU B, através de um conjunto de ligações. Acima de duas GPU num chassis, ou se dá a cada par o seu NVLink dedicado (o que não escala acima de quatro), ou se coloca um comutador NVLink no meio. O NVSwitch da NVIDIA é esse comutador.

Numa placa-base HGX H100 de 8 GPU, quatro chips NVSwitch dão a cada GPU NVLink 4 à largura de banda máxima para todas as outras — 900 GB/s, all-to-all, sem contenção. Num rack GB200 NVL72, o NVSwitch escala para 72 GPU numa topologia única sem bloqueio, 1.8 TB/s por GPU, 130 TB/s agregados. É o NVSwitch que faz a "GPU virtual gigante" funcionar de facto; sem ele, o NVLink é apenas um cabo par a par mais rápido.

Na prática:

• Nenhuma configuração Kentino tem NVSwitch. O NVSwitch só é fornecido dentro de sistemas HGX e DGX certificados pela NVIDIA. Não há chip de pós-venda que encaixe num chassis Supermicro ou Bone64c.
• Nenhuma placa RTX tem NVSwitch, nunca. É exclusivo do centro de dados.
• O GB200 NVL72 é à escala do rack, não do servidor. 72 GPU cooperam através de NVLink com cablagem de cobre a velocidades de backplane. Cabos, comutadores e backplane são todos proprietários da NVIDIA. O preço de tabela chega aos milhões de dólares, com prazos de entrega de vários trimestres. É o topo do que o NVLink permite em 2026. Não é para nós.

Custo e disponibilidade

Os sistemas com NVLink vivem num escalão de preços próprio. Mercado aproximado em meados de 2026, EUA/UE:

A diferença de preço entre uma configuração Kentino de 8× Pro 6000 e um HGX H100 é de sensivelmente 2× para o mesmo número nominal de GPU. A diferença de desempenho em cargas que não dependem de NVLink é muito inferior a 2×. Para trabalho dependente de NVLink (treino de modelos grandes, paralelismo de tensores num 405B), a máquina H100 é a ferramenta certa e o preço justifica-se. Regra prática: se a sua carga de trabalho cabe numa GPU de 96 GB, a configuração com Pro 6000 poupa mais de 50% do orçamento. Se não couber, pague pelo NVLink.

Resumo

---

Isto faz parte da Kentino Wiki, uma série de referência sobre computação de IA, robótica e os sistemas que as ligam. Comentários e correções são bem-vindos em info@kentino.com.