Escolher GPU para cargas de trabalho de IA: 5090, 4090, RTX Pro 6000, L40 e L4 frente a frente

Não existe uma GPU universalmente correta para trabalho de IA em 2026. Existe uma GPU correta para uma carga de trabalho definida, um envelope de potência definido e um orçamento definido — e a placa errada no chassis certo é um erro mais caro do que a placa certa no chassis errado. Este artigo percorre a gama Kentino em confronto direto, com números de desempenho reais, compromissos assumidos com honestidade e um fluxo de decisão que já usámos em chamadas com clientes. Não finge que a H100 e a A100 não existem; existem, nós não as vendemos, e seremos específicos quanto aos casos em que essa diferença conta.

As placas em cima da mesa:

  • RTX 5090 — 32 GB GDDR7, 1.79 TB/s, 575 W, gama de consumo.
  • RTX 4090 — 24 GB GDDR6X, 1.01 TB/s, 450 W, gama de consumo, geração anterior.
  • RTX Pro 6000 Blackwell Server Edition — 96 GB GDDR7 ECC, 600 W, arrefecimento passivo, formato de servidor, sem saídas de vídeo.
  • RTX Pro 6000 Blackwell Max-Q — 96 GB GDDR7 ECC, 300 W, blower de dois slots, o mesmo silício da versão Workstation.
  • L40 — 48 GB GDDR6 ECC, 0.86 TB/s, 300 W, formato de centro de dados, ECC completo.
  • L4 — 24 GB GDDR6, 0.30 TB/s, 72 W, low-profile de um slot, inferência edge.

As especificações que realmente contam

As fichas técnicas de GPU são densas e a maioria dos números não altera uma decisão de compra. Três alteram.

  1. Capacidade de VRAM. É binário. Ou o seu modelo cabe, ou não cabe. A descarga para CPU não é um substituto viável (abordado em W01).
  2. Largura de banda da VRAM. A geração de tokens num transformer é limitada pela largura de banda. Os TFLOPS da ficha técnica são largamente irrelevantes para inferência.
  3. Potência sustentada e formato. Uma placa de 600 W num chassis incapaz de dissipar o calor é uma placa de 300 W com um alarme térmico. Uma placa de 72 W num servidor 1U é uma máquina muito diferente de uma placa de 575 W numa estação de trabalho 4U.
GPU VRAM Largura de banda TDP Formato ECC Notas
RTX 4090 24 GB GDDR6X 1.01 TB/s 450 W consumo, 3 slots Não Geração anterior, via económica
RTX 5090 32 GB GDDR7 1.79 TB/s 575 W consumo, 2–3 slots Não Rei do desempenho/€ em inferência
RTX Pro 6000 BW Max-Q 96 GB GDDR7 1.79 TB/s 300 W blower de 2 slots Sim Alta densidade, menor consumo
RTX Pro 6000 BW Server Ed. 96 GB GDDR7 1.79 TB/s 600 W passivo de 2 slots Sim Classe servidor, sem saída de vídeo
L40 48 GB GDDR6 0.86 TB/s 300 W passivo de 2 slots Sim Geração Ada para centro de dados
L4 24 GB GDDR6 0.30 TB/s 72 W LP de 1 slot Sim Inferência edge / 1U
H100 SXM (referência, não comercializada) 80 GB HBM3 3.35 TB/s 700 W SXM5 Sim Patamar hyperscaler
H200 SXM (referência, não comercializada) 141 GB HBM3e 4.80 TB/s 700 W SXM5 Sim Rei da largura de banda HBM

Inferência: tokens por segundo, por modelo e por placa

A geração de tokens em inferência, em fluxo único, corresponde aproximadamente à largura de banda a dividir pelo tamanho do modelo, multiplicada por um fator de eficiência da stack de 0.6–0.8. A tabela seguinte reflete o que medimos em máquinas de bancada com vLLM 0.6+ e llama.cpp atuais no 2.º trimestre de 2026. INT4 salvo indicação em contrário. Primeiro o débito em fluxo único; entre parênteses o agregado em lote, quando mensurável.

Modelo Quant. Tamanho RTX 4090 RTX 5090 Pro 6000 BW Server/WS Pro 6000 Max-Q L40 L4
Qwen2.5 7B INT4 ~4 GB 110–130 (220) 180–220 (340) 180–220 (340) 170–200 (320) 90–110 (200) 35–45 (90)
Llama 3.2 13B INT4 ~7 GB 70–85 (170) 120–140 (250) 120–140 (250) 110–130 (230) 60–75 (140) 22–28 (60)
Qwen2.5 32B INT4 ~18 GB 32–38 (90) 55–65 (140) 60–70 (150) 55–65 (140) 28–34 (80) não cabe
Llama 3.3 70B INT4 ~40 GB não cabe numa só placa precisa de 2× (24–30) 28–34 (90) numa só placa 27–32 (85) precisa de 2× (16–22) não cabe
Qwen2.5 72B INT4 ~42 GB não cabe numa só placa precisa de 2× (24–30) 28–34 (90) numa só placa 27–32 (85) precisa de 2× (16–22) não cabe
Qwen2.5-VL 72B INT4 ~46 GB+ não cabe numa só placa precisa de 2× (12–18) 18–24 numa só placa 17–22 precisa de 2× (10–14) não cabe
Llama 3.1 405B INT4 ~210 GB não cabe precisa de 8× 4× (nó único) 4× (nó único) precisa de 5× não cabe

Algumas ressalvas honestas. Estes são números típicos num chassis devidamente arrefecido e com o modelo totalmente residente. O TTFT com cache fria é dominado pela alocação da cache KV e pela computação de prefill, não pela largura de banda, e situa-se entre 200 e 900 ms em toda esta gama de placas. O débito em lote escala de forma sublinear acima de 8–16 fluxos em simultâneo, por contenção de computação. Se a sua aplicação for interativa (chat, agente passo a passo), o fluxo único conta mais do que o lote. Se for de processamento em massa (tratamento de documentos, etiquetagem automática), conta mais o lote.

O bloco de 4× 5090 é o cavalo de batalha da nossa gama por uma razão: custa €8,500–€14,000 só em placas, acomoda quatro GPU num chassis 4U com fluxo de ar razoável e entrega ~12,000 tok/s agregados em Llama 3.3 70B INT4 sob vLLM com paralelismo tensorial. Uma única Pro 6000 Blackwell a €8,500 entrega ~30 tok/s em fluxo único e ~90 tok/s em lote no mesmo modelo. Para uma máquina que serve vários utilizadores, ganham as 5090. Para uma carga de trabalho de um só utilizador com contexto longo e modelos acima de 64 GB, ganha a Pro 6000. Não há resposta universal.

Onde é que cada placa faz realmente sentido

RTX 5090 — o rei do desempenho/€, com arestas afiadas. É a resposta certa quando a carga de trabalho é inferência, o orçamento é real mas não ilimitado, e a instalação tolera duas limitações conhecidas: ausência de ECC e transientes de potência de classe consumo, que exigem cuidado com a fonte de alimentação e com o chassis (ver W04). Para modelos de 13B e 32B, a 5090 é mais rápida por euro do que qualquer outra opção da tabela. Na classe 70B, quatro 5090 em paralelismo tensorial entregam mais débito agregado do que uma única Pro 6000 Blackwell, com menor investimento total. Contrapartidas: 575 W nominais com transientes acima de 600 W e um teto de 32 GB por placa, que obriga a várias GPU para 32B+ com contexto longo. Escolha quando: inferência 24/7 de 7B–32B, o desempenho/€ conta, tem fluxo de ar em rack e o ECC não é um requisito obrigatório de conformidade. Evite quando: o ECC é obrigatório, precisa de 70B+ numa só placa, ou a sala não consegue dissipar 2.4 kW de calor.

RTX 4090 — apenas como opção económica de legado. Em 2026, é uma compra tática. O retalho novo é raro; usado e stock residual de canal ficam entre €1,400 e €1,900. Por placa, atinge ~55% da velocidade de uma 5090 em inferência limitada pela memória (1.01 vs 1.79 TB/s) e tem 24 GB em vez de 32 GB — esses 8 GB contam, porque um modelo 32B INT4 deixa mais espaço para a cache KV numa 5090. Continua a fazer sentido para expandir uma frota 4090 existente com investimento limitado. Está a começar de raiz? Compre 5090.

RTX Pro 6000 Blackwell Server Edition — a rainha da VRAM para cargas exigentes. 96 GB GDDR7 ECC a 1.79 TB/s mudam os modelos que consegue alojar. Uma só placa acomoda Qwen2.5-VL 72B INT4 com cache KV folgada para ~20 fluxos em simultâneo. Quatro num único nó acomodam Llama 3.1 405B INT4 num só chassis, sem rede entre nós. Arrefecimento passivo, concebida para fluxo de ar frente-trás em rack, sem saídas de vídeo, validada para funcionamento 24/7. O mesmo silício da Workstation Edition, o mesmo limite de 600 W, arrefecimento diferente. Escolha quando: precisa de margem para 70B+ numa só placa, o ECC é obrigatório, a instalação é em rack com fluxo de ar adequado, há treino pelo meio, ou quando menos placas maiores compensam mais do que muitas placas pequenas em espaço de rack e energia.

RTX Pro 6000 Blackwell Max-Q — alta densidade sem refazer a instalação elétrica da sala. Os mesmos 96 GB e 1.79 TB/s, limitados a 300 W. Quatro placas Max-Q consomem 1.2 kW nas GPU; quatro Server Edition consomem 2.4 kW. A penalização de desempenho pelo limite de potência é real, mas menor do que a razão entre os watts — a curva de desempenho/W da Blackwell é acentuada no topo, pelo que limitar a 300 W custa 20–30% de débito em inferência, não 50%. Escolha quando: o ambiente tem energia limitada, quer 96 GB por placa, a densidade conta mais do que o débito máximo por placa, ou o ruído é um fator.

L40 — a placa de inferência empresarial, com ECC e historial. Geração Ada. Mais lenta do que a Blackwell em largura de banda (0.86 vs 1.79 TB/s) e em capacidade (48 vs 96 GB), com preço de SKU de centro de dados. A razão para a comprar é o aprovisionamento: ECC completo, drivers validados, 300 W sustentados e mais de dois anos de utilização em produção. Para ambientes que proíbem placas de consumo (seguros, administração pública, alguns setores regulados), é esta a placa que cumpre o requisito. Em desempenho/€ puro, perde para a 5090. Escolha quando: a política de compras proíbe hardware de consumo, a carga de trabalho cabe em 48 GB e o historial de fiabilidade 24/7 conta mais do que o desempenho/€.

L4 — inferência edge, 1U, 72 W. É a única placa desta lista que cabe num servidor 1U ao lado da placa de sistema sem dramas, e a única que funciona com o consumo de um portátil. TDP de 72 W, low-profile de um slot, passiva, 24 GB GDDR6 ECC, 300 GB/s. A largura de banda é o estrangulamento — em fluxo único, um 7B fica nos 35–45 tok/s, o que é "aceitável" e não "rápido". O caso de uso é a multiplicação: 8× L4 num chassis 2U sobre um anfitrião EPYC entregam 8 fluxos de inferência 7B em simultâneo a um custo agregado moderado (~€20k em placas), consomem menos de 700 W e cabem em qualquer circuito de escritório. Escolha quando: instalação edge, 1U/2U, energia limitada, o modelo cabe em 24 GB e a métrica é o débito por watt.

Desempenho por euro: a tabela que não deve mostrar ao seu diretor financeiro

GPU Preço (€) 7B INT4 tok/s (único) tok/s por €1k 70B INT4 tok/s* 70B tok/s por €1k
RTX 4090 (stock residual) ~€1,700 120 70.6 precisa de 2× = 28 8.2 (base de cluster de 4 placas)
RTX 5090 ~€2,400 200 83.3 precisa de 2× = 28 5.8 (base de cluster de 2 placas)
RTX Pro 6000 BW Max-Q ~€8,500 185 21.8 30 numa só placa 3.5
RTX Pro 6000 BW Server ~€8,800 200 22.7 31 numa só placa 3.5
L40 ~€7,800 100 12.8 precisa de 2× = 19 1.2 (base de 2 placas)
L4 ~€2,500 40 16.0 não cabe n/a
H100 SXM (referência) ~€28,000 220 7.9 60 numa só placa 2.1

*Para 70B INT4: números por placa quando o modelo cabe numa só placa; débito agregado em fluxo único quando é necessário paralelismo tensorial em várias placas, a dividir pelo custo total das placas.

A 5090 é a rainha do desempenho/€ em todos os tamanhos de modelo em que consegue acomodar o modelo. As Pro 6000 ganham noutro eixo: correr modelos da classe 70B numa só placa elimina a latência e a complexidade acrescentadas pelo paralelismo tensorial. A L40 é, de longe, o pior desempenho/€ desta tabela — custa cerca de 3× uma 5090 para ~50% do desempenho em inferência. A sua proposta de valor é a conformidade em compras e um historial de produção da geração Ada, não a economia pura. A L4 é a vencedora em desempenho/€ precisamente no canto dos modelos pequenos com baixo consumo, onde não tem concorrência.

Desempenho por watt: a tabela para o gestor de colocation

GPU TDP 7B tok/s tok/s por W 70B tok/s* 70B tok/s por W
L4 72 W 40 0.56 n/a n/a
RTX Pro 6000 BW Max-Q 300 W 185 0.62 30 0.10
L40 300 W 100 0.33 19 (×2) 0.03
RTX 5090 575 W 200 0.35 28 (×2) 0.024
RTX 4090 450 W 120 0.27 28 (×2) 0.031
RTX Pro 6000 BW Server 600 W 200 0.33 31 0.052
H100 SXM (referência) 700 W 220 0.31 60 0.086

A Max-Q ganha em desempenho/W nesta gama, e não é por pouco. Limitar uma Blackwell de 96 GB a 300 W mantém a placa na zona eficiente da sua curva, e obtém-se a maior parte do débito da Server Edition com metade do consumo à tomada. Em colocation, onde a energia é contada e se pagam €0.18–€0.30 por kWh de forma contínua, a Max-Q poupa dinheiro real face à Server Edition ao longo de uma instalação de vários anos. Temos clientes que passaram da Server Edition para a Max-Q precisamente para evitar ampliar a central de frio do edifício.

Notas sobre treino e afinação

O treino não é o posicionamento principal da Kentino — a maioria dos clientes compra para inferência. Mas a afinação aparece em todo o lado e tem restrições diferentes. O treino de parâmetros completos de modelos de 70B+ não é viável nesta gama; exige 8× H100/H200 SXM ou cloud alugada, e dizemo-lo abertamente. A afinação LoRA de 7B–32B corre com folga em 4× 5090 ou 4× Pro 6000 BW Max-Q. O QLoRA de 70B prefere 2× Pro 6000 BW (qualquer edição) a 4× 5090 com FSDP, porque uma placa por réplica do modelo é dramaticamente mais simples. A regra de decisão: se as sessões de treino ultrapassam as 24 horas e decorrem sem supervisão, o ECC conta — escolha Pro 6000 ou L40. Abaixo das 24 horas e com alguém a acompanhar, a 5090 chega e é mais rápida por euro.

Visão-linguagem e a questão Pro 6000 vs H100

Os VLM mudam as contas porque a pegada de ativações é maior e o prefill (codificação da imagem) depende mais da computação. Para Qwen2.5-VL 72B INT4 (~46 GB), a Pro 6000 BW entrega 18–24 tok/s numa só placa com ~1.4 s de prefill; 2× 5090 em paralelismo tensorial entregam 12–18 tok/s com 20–40 ms de sobrecarga de TP por token. Para inferência local em robótica, a Pro 6000 BW é a escolha mais honesta, porque o Qwen2.5-VL 72B é o modelo que as pessoas querem mesmo correr e uma só placa elimina a sobrecarga de TP. Para pipelines de etiquetagem automática e conversão de imagem em texto em massa, onde a latência não importa, 4× 5090 continuam a ganhar em desempenho/€.

Comparação honesta: Pro 6000 BW vs H100

Não vendemos H100. Seremos específicos quanto ao compromisso, porque os clientes perguntam.

Placa a placa, a H100 SXM (80 GB HBM3, 3.35 TB/s) supera a Pro 6000 BW Server (96 GB GDDR7 ECC, 1.79 TB/s) em inferência de fluxo único limitada pela largura de banda por cerca de 1.5–1.9× — ou seja, 60 tok/s contra 31 tok/s em Llama 3.3 70B INT4. A H100 tem ainda NVLink e o conector mezzanine SXM5, que proporcionam 900 GB/s de interligação entre GPU num nó HGX de 8 GPU. A Pro 6000 BW tem PCIe 5.0 x16 (~63 GB/s efetivos), cerca de 14× mais lento para tráfego entre placas.

Na inferência de modelos que cabem em 96 GB numa só placa, esta diferença é invisível — não há tráfego entre placas. Na inferência de modelos que têm de ser repartidos por 4× ou 8× placas, a H100 com NVLink ganha 30–50% em débito agregado, porque o paralelismo tensorial é sensível à interligação. No treino distribuído por 8 placas, a H100 ganha de forma decisiva.

A diferença de preço é de 3–3.5× por placa e de 8–12× por nó utilizável (o HGX H100 inclui a placa de suporte e os NVSwitches). Para a maioria das cargas de trabalho fora da escala hyperscale, essa proporção não compensa. Nos casos em que compensa, o cliente não compra à Kentino — compra diretamente à Dell, à Lenovo ou à Supermicro, em negócios de oito dígitos. Também dizemos isto ao telefone.

O que não diremos: que a Pro 6000 Blackwell é "tão boa como" ou "concorrente" de uma H100. Não é, nas métricas para as quais a H100 foi concebida. É, no entanto, a placa certa para os casos de uso em que 96 GB ECC a 1.79 TB/s resolvem o problema concreto do cliente — e são a maioria.

Fluxo de decisão

Início: qual é a carga de trabalho?

  • Apenas inferência?
    • Interativa em fluxo único (chat, agente, voz)?
      • O modelo cabe em 32 GB (7B–32B INT4)?
        • Orçamento apertado: 4× RTX 5090
        • ECC obrigatório (conformidade): 4× L40
        • Escritório com energia limitada: 4× Pro 6000 BW Max-Q
      • O modelo precisa de 32–80 GB (70B INT4, VLM 72B):
        • Quer a simplicidade de uma só placa: 1–2× Pro 6000 BW Server
        • Prioridade ao desempenho/€, aceitando TP de 2 vias: 4× RTX 5090
        • Com limite de potência: 2× Pro 6000 BW Max-Q
      • Modelo acima de 80 GB (405B INT4, alojamento de vários modelos):
        • 4× ou 8× Pro 6000 BW Server num chassis de 8 GPU
        • Pondere honestamente se a cloud não será a opção certa
    • Processamento em massa por lotes (etiquetagem automática, tratamento de documentos)?
      • Modelo pequeno (7B–13B): 8× L4 em 2U (edge) ou 4× 5090 (rack)
      • Modelo grande (70B+): 4× Pro 6000 BW Server ou 8× 5090
    • Edge / 1U / com energia limitada?
      • 1–8× L4
  • Treino ou afinação?
    • LoRA / QLoRA / afinação (a maioria dos clientes):
      • 7B–13B: 4× RTX 5090 (ECC não é crítico)
      • 32B–70B: 4× Pro 6000 BW Server (ECC + capacidade)
      • Sessões longas sem supervisão: escolha sempre componentes com ECC
    • Treino de parâmetros completos de 70B+: não é viável aqui — recomendamos cloud ou classe DGX
    • Afinação de difusão / VLM: Pro 6000 BW pelo tamanho do lote, 5090 pelo desempenho/€ em lotes mais pequenos
  • Misto (treino + inferência, laboratório de investigação)?
    • 4 GPU: 4× Pro 6000 BW Server (Max-Q se houver limite de potência)
    • 8 GPU: 8× Pro 6000 BW Server num chassis EPYC duplo
    • Combinação livre: 4× 5090 para inferência + 1× Pro 6000 BW para treino no mesmo chassis funciona, mas não é bonito

O ramo que termina em "4× RTX 5090" é a configuração que mais expedimos. O que termina em "4× Pro 6000 BW Server" é o segundo. Os ramos da L4 e da Max-Q têm menor volume, mas nenhum é um nicho — todos os trimestres expedimos negócios de várias unidades para instalações em escritórios onde placas de 600 W não sobreviveriam à instalação elétrica do edifício.

O que não temos em stock

Dito de forma clara: a Kentino não vende hardware H100 SXM, H200 SXM, A100 SXM, B200 nem da classe GB200 NVL. O formato SXM5 e o ecossistema de placas de suporte HGX/NVL vivem num patamar da cadeia de abastecimento em que não estamos. As variantes PCIe da H100 existiram por pouco tempo e praticamente desapareceram do canal. Se a sua carga de trabalho exigir mesmo 8× H100 com NVLink, as opções honestas em maio de 2026 são: alugar a um hyperscaler ou a uma cloud especializada, comprar diretamente à Dell / Lenovo / Supermicro com 12 a 20 semanas de prazo, ou trabalhar com um integrador desse patamar.

Também não temos em stock as AMD Instinct MI300X ou MI325X — fortes no papel para inferência limitada pela memória (192 GB HBM3, 5.3 TB/s na MI300X), mas a maturidade do software ROCm e a disponibilidade no canal na Chéquia não acompanham, hoje, a nossa base de clientes.

Onde a análise aterra para os compradores típicos

  • Laboratório de investigação, primeiro servidor de inferência: 4× RTX 5090 em EPYC Turin com 192 GB de RAM, duas fontes de alimentação ATX, chassis de rack 4U. Corre todos os modelos até 70B INT4 com TP e deixa margem para afinação.
  • Startup com inferência em produção: 4× Pro 6000 BW Server em 4U com anfitrião EPYC Genoa/Turin, 384–512 GB de RAM, fonte de alimentação CRPS com redundância 1+1. ECC, sem saída de vídeo, margem para 70B+ numa só placa.
  • Laboratório de robótica + computação local: 4× Pro 6000 BW Server. Os 96 GB permitem alojar em conjunto o Qwen2.5-VL 72B e um LLM, e o ECC conta porque o resultado da inferência comanda equipamento físico.
  • Compras empresariais orientadas para a conformidade: 4× ou 8× L40 num chassis Supermicro. Pior desempenho/€, mas cada linha da lista de materiais passa na auditoria.
  • Filial, retalho, edge: 4× ou 8× L4 em 1U/2U. Energia de escritório, sem AVAC especial.
  • Expansão de uma frota 4090 existente: mais 4090 se o orçamento for restritivo e as conseguir encontrar; caso contrário, 5090 misturadas (o vLLM lida aceitavelmente com TP de gerações mistas; não misture 4090 com Pro 6000 — a disparidade de largura de banda arruína o efeito de a placa mais fraca ditar o ritmo).

O que fazer a seguir

Antes de especificar as GPU, responda a estas cinco perguntas:

  1. Liste todos os modelos que precisa de alojar em simultâneo. Some as pegadas em INT4. Acrescente 40–60% para a cache KV no lote e no contexto pretendidos. Esse é o seu mínimo de VRAM, total e por placa.
  2. Defina o objetivo de latência. Abaixo de 30 tok/s em fluxo único, quase tudo serve. Acima de 60 tok/s em fluxo único, fica limitado à 5090 ou à Pro 6000 BW. O débito diário em massa é uma métrica diferente e muda a resposta.
  3. Defina o envelope de potência à tomada. Monofásico de 16 A significa um máximo de 4× GPU de consumo. Trifásico ou 32 A coloca em cima da mesa configurações de 8 GPU. Um circuito de escritório de 10 A significa apenas L4 ou Max-Q.
  4. Defina a restrição de aprovisionamento. "Só compramos SKU empresariais" → L40 ou Pro 6000 BW Server. "Compramos o que estiver disponível" → 5090. Seja honesto consigo próprio; é esta a restrição que mais descarrila configurações já na fase final.
  5. Defina o regime de funcionamento e o tempo de vida. Três anos em 24/7 amortizam o ECC e as fontes de alimentação Platinum. Uma máquina de bancada para desenvolvimento não.

Se não conseguir responder às cinco, nenhuma escolha de GPU parecerá acertada em retrospetiva. Se conseguir, a resposta certa sai da tabela acima numa única chamada. Consulte W05 para térmica e fluxo de ar, W06 para níveis de armazenamento e W01 para as regras de dimensionamento de RAM para VRAM que sustentam a escolha da GPU.


Este artigo faz parte da Kentino Wiki, uma série de referência sobre computação de IA, robótica e os sistemas que as ligam. Comentários e correções são bem-vindos em info@kentino.com.