Kentino AI 192 RomeDual 4090 5288TOPS — 8× RTX 4090 — EPYC Milan duplo
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 192 RomeDual 4090 5288TOPS
Servidor de inferência de 8 GPU com 192 GB de VRAM
8x RTX 4090 | EPYC Milan duplo | 5 288 TOPS INT8
Máquina de inferência topo de gama com 8 GPU de gaming. Pool de 192 GB com a economia das placas de consumo, numa plataforma EPYC Milan de socket duplo.
Um chassis 7U de 8 GPU construído em torno de dois CPU EPYC 7643 Milan (96C/192T no total), placa-mãe ASRock Rack ROME2D32GM-NL dual-SP3, 512 GB DDR4 ECC, arranque em NVMe de 2 TB e um conjunto de 5x fontes de alimentação de servidor de 1200 W. As oito GeForce RTX 4090 ligam-se através de risers ativos PCIe Gen4 com retimer em x16 completo. O caminho mais económico para inferência MoE de fronteira com 192 GB em hardware Kentino.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 4090 24 GB GDDR6X (Ada Lovelace, 450 W, PCIe 4.0 x16) |
| Pool de VRAM | 192 GB no total, distribuídos por 8 placas (sem NVLink nas RTX 4090 de consumo) |
| CPU | 2x AMD EPYC 7643 Milan (48C/96T cada — 96C/192T no total, 225 W cada, 2x 128 linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROME2D32GM-NL (SP3 duplo, PCIe 4.0, 32x slots DIMM DDR4 ECC) |
| RAM do sistema | 512 GB DDR4-2666 ECC RDIMM (8x 64 GB — 4 por socket para equilíbrio em 8 canais) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Conjunto de 5x fontes de alimentação de servidor de 1200 W (compatíveis HP, hot-swap) + conjunto completo de adaptadores 12VHPWR |
| Chassis | Chassis 7U para 8 GPU (até 10 placas PCIe, incluindo risers) |
| Risers | 8x risers ativos PCIe Gen4 x16 com retimer (necessários devido ao comprimento do cabo) |
| Arrefecimento | 2x coolers tower Arctic Freezer 4U-M SP3 + fluxo de ar frente-trás em rack (ventoinhas industriais) |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope de potência
- Consumo das GPU: 8 x 450 W = 3 600 W
- Consumo dos CPU: 2 x 225 W = 450 W
- Total do sistema em carga máxima: ~4 200 W
- Total das fontes: 6 000 W com todas ativas (5x 1200 W) — 30.0 % de margem
Topologia de linhas
A ROME2D32GM-NL disponibiliza 2x 128 linhas PCIe Gen4 — um pool de 128 linhas por socket EPYC — diretamente para os slots de GPU. Risers ativos Gen4 com retimer para integridade de sinal. Sem switch PCIe. Sem NVLink. Medidos 19-22 GB/s peer-to-peer entre GPU em bancada de 4 GPU.
O que pode executar
Com 192 GB distribuídos por 8 placas, este servidor suporta MoE de fronteira com mais de 200B em Q4, inferência com paralelismo tensorial de 8 vias, serviço multimodelo com isolamento por inquilino e débito em lotes grandes, com a economia das placas de consumo.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) com contexto longo — a configuração de eleição (~15-25 tok/s em fluxo único com 8x RTX 4090); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB) em multifluxo; Qwen3-32B denso bf16 x vários em simultâneo
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB com descarga para os 512 GB do anfitrião); DeepSeek-R2 32B bf16 — até 8 fluxos em simultâneo, um por placa (~30-40 tok/s por fluxo)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB); GLM-4.5-Air fp8 ou bf16; GLM-4.6V 106B
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB); Hunyuan-A13B Q4/Q6 (a RTX 4090 é Ada — fp8 é convertido para bf16, use quantizações GGUF)
- Outros: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3.5-397B Q3 (~170 GB); MiniMax-M1 Q3 (~180 GB)
Fronteira ocidental
- Meta Llama: Llama 3.3 70B bf16 com KV enorme (~20 tok/s em fluxo único Q4, ~179 tok/s em lote de 32 com vLLM — medido pela Kentino em bancada de 4 GPU); Llama 4 Scout bf16 (~218 GB, justo); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large 123B Q6 com folga ou bf16 (~248 GB com descarga); Mistral Small 3 em multifluxo
- OpenAI (pesos abertos): gpt-oss-120b MXFP4 nativo (80 GB) com KV enorme
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16
- Outros: Cohere Command R+ 104B Q6 (~85 GB); Google Gemma 3 27B bf16 x vários fluxos
Modelos visão-linguagem
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 em multifluxo; Llama 3.2 90B Vision bf16 (~180 GB); Pixtral Large 124B Q6; Molmo 72B bf16; GLM-4.6V 106B fp8/Q6; Gemma 3 27B multimodal x vários fluxos.
Geração de imagem
FLUX.1 [dev] bf16 — até 8 fluxos de geração em simultâneo (um por placa, ~15-25 s/imagem em fp8); FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 x 8; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 em simultâneo; HunyuanImage-3.0 base (80B MoE, 13B ativos) bf16; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Geração de vídeo
Wan 2.2 MoE de dois especialistas bf16 com contexto completo — vários fluxos em simultâneo; Wan 2.2 TI2V-5B x 8 em simultâneo; HunyuanVideo 13B bf16 com ambos os especialistas; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Genmo Mochi-1 bf16; LTX-Video x 8 em simultâneo; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos.
Áudio / voz / TTS
- ASR: Whisper v3 large / turbo x 8 em simultâneo (~50x tempo real por fluxo); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open
- Tempo real / S2S: Kyutai Moshi 7B x 8 fluxos de voz em simultâneo; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Música / efeitos sonoros: MusicGen / AudioGen / Bark; SeamlessM4T v2
Serviço multimodelo / multi-inquilino
- Inferência com paralelismo tensorial de 8 vias de MoE de 200-250B em Q4 (Qwen3-235B, GLM-4.5/4.6/4.7)
- Serviço de 8 fluxos com isolamento por inquilino — um modelo Q4 de 24 GB por placa (p. ex. 8x agentes Qwen3-14B)
- 70B em lotes grandes — vLLM / SGLang com paralelismo tensorial, agregado em lote de 64
- Frota mista: MoE de 235B em 4 placas (TP4) + FLUX + vídeo + voz em tempo real nas restantes 4
- Laboratório de afinação — LoRA / QLoRA de 7-34B com lotes grandes
Cargas de trabalho alvo
- Inferência com paralelismo tensorial em 8 GPU sobre o pool de 192 GB — Qwen3-235B Q4, GLM-4.5/4.6/4.7 Q4, Llama 4 Scout bf16
- 70B denso bf16 (Llama 3.3 70B) com enorme margem de KV para contexto longo e lotes grandes
- Gateway de inferência em lote de alto débito — vLLM / SGLang com paralelismo tensorial em lotes grandes
- Afinação de modelos da classe 7-34B com LoRA / QLoRA em lotes grandes
- Estúdio completo de vídeo e imagem com Wan 2.2 de dois especialistas / HunyuanImage-3.0 / FLUX.1
Desempenho medido
Bancada Kentino (referência de 4 GPU) | 2026-04-10 | 4x RTX 4090 + EPYC 7542 + 512 GB DDR4 + ROMED8-2T
| Teste | Resultado |
|---|---|
| Computação sustentada (fp16, ref. de 4 placas) | 647 TFLOPS |
| vLLM — Llama 3.3 70B AWQ INT4 (fluxo único) | 8.0 tok/s |
| vLLM — Llama 3.3 70B AWQ INT4 (lote de 32) | 179 tok/s agregados |
| llama.cpp — Llama 3.3 70B Q4_K_M (fluxo único) | 20.3 tok/s de descodificação |
| Computação agregada em 8 GPU (extrapolação) | ~1 294 TFLOPS fp16 previstos (quase linear) |
| 235B Q4 com paralelismo tensorial de 8 vias (comunidade) | 15-25 tok/s em fluxo único com 8x RTX 4090 |
Os dados de 4 placas foram medidos em hardware Kentino. A extrapolação para 8 GPU é uma referência externa publicada. A Kentino publicará números próprios de 8 GPU após a primeira máquina entregue a cliente.
Menos indicado para
- Cargas de trabalho da geração 5090 (fp8 nativo Blackwell + mais TOPS) — ver Kentino AI 256 TurinDual 5090
- Treino de raiz (sem NVLink nas RTX 4090 de consumo)
- Produção 24/7 sensível a ECC — a RTX 4090 de consumo não tem ECC; prefira 4x L40 ou 2x RTX Pro 6000 Server Edition
- Hunyuan / DeepSeek em fp8 nativo — a RTX 4090 é Ada e os checkpoints fp8 são convertidos para bf16
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS com afinação NUMA para socket duplo, instalação de drivers, burn-in, memtest, teste de esforço completo às 8 GPU e preparação do ambiente de LLM. O prazo de entrega depende da disponibilidade de componentes e é confirmado na encomenda.
Extras recomendados
- NVMe adicional de 4 TB para preparação de pesos e cargas de trabalho com descarga de MoE
- NVIDIA ConnectX-5 100 GbE para serviço em vários nós
- Expansão de RAM para 1 TB (16x 64 GB) ou 2 TB (32x 64 GB) — a placa suporta 32 slots DIMM
- Armário rack 24U completo + UPS online de 5 kVA
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.