Kentino AI 128 Rome 5090 — Servidor IA 4× RTX 5090 Blackwell
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 128 Rome 5090 6704TOPS
Servidor de Inferência Blackwell com 128 GB de VRAM
4x RTX 5090 | EPYC Milan | 6 704 TOPS INT8
Quatro RTX 5090 Blackwell com caminhos tensoriais fp8/fp4 nativos. A configuração de 4 GPUs com maior débito na plataforma Rome.
Um servidor de inferência 4U para rack com quatro GeForce RTX 5090 agregadas em 128 GB de VRAM, um CPU AMD EPYC 7643 Milan (48C/96T), 512 GB de DDR4 ECC (os 8 slots DIMM preenchidos para máxima largura de banda), 2 TB NVMe de arranque e duas fontes ATX de 2 kW sincronizadas. Executa vLLM, SGLang, llama.cpp e ComfyUI com kernels de inferência fp8 e MXFP4 nativos do Blackwell.
Hardware
| Componente | Detalhe |
|---|---|
| GPUs | 4x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W, PCIe 5.0 x16) |
| Pool de VRAM | 128 GB no total nas 4 placas (sem NVLink na 5090 de consumo) |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 512 GB DDR4-2666 ECC RDIMM (8x 64 GB — todos os slots DIMM preenchidos) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Duas fontes ATX de 2 kW com cabo de sincronização + conjunto de adaptadores 12VHPWR |
| Chassis | Rack 4U, 4x GPU, risers PCIe 4.0 x16 passivos |
| Arrefecimento | Arctic Freezer 4U-M SP3 tower + 3x 120 mm de admissão frontal + 1x 120 mm de exaustão traseira |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope de potência
- Consumo das GPUs: 4 x 575 W = 2 300 W
- Total do sistema em plena carga: ~2 650 W
- Total das fontes: 4 000 W (duas de 2 kW sincronizadas) — 33.8 % de margem
- Fonte dupla para entrega de potência repartida — cada fonte alimenta uma parte do sistema
Topologia das linhas PCIe
A ROMED8-2T distribui 128 linhas PCIe Gen4 do EPYC diretamente por sete slots x16; quatro estão ocupados por GPUs em Gen4 x16. Sem switch PCIe. Sem NVLink na 5090 de consumo — comunicação ponto a ponto entre GPUs. As placas são nativas Gen5; a plataforma Rome limita a Gen4.
O que pode executar
Com 128 GB de VRAM agregada e caminhos tensoriais fp8 nativos do Blackwell, este servidor chega ao Qwen3-235B-A22B Q4 e ao gpt-oss-120b MXFP4 com margem real de KV — para além do que 4x RTX 4090 conseguem alcançar.
LLMs — texto / raciocínio / programação
Fronteira chinesa
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q3-Q4 (~112-132 GB) cabe no pool de 128 GB com 8-16k de contexto — a configuração de eleição; Qwen3-32B denso bf16 (~65 GB) com KV generoso; Qwen3-Coder-30B-A3B agêntico a 1M de contexto; Qwen3.5-122B-A10B Q6/fp8 (~75-80 GB); QwQ-32B bf16 para raciocínio
- DeepSeek: DeepSeek-V3/R1/V3.1/V3.2 Q2 fp8 nativo (~215 GB) com transbordo para os 512 GB de RAM do anfitrião — viável em lote; DeepSeek-R2 32B bf16 multifluxo (4 em simultâneo, um por placa)
- GLM / Z.ai: GLM-4.5-Air 106B/12B fp8 (~106 GB) ou Q6 com folga; GLM-4.5/4.6/4.7 Q2_K_XL (~135 GB) no limite, com descarga de MoE
- Tencent Hunyuan: Hunyuan-A13B fp8 nativo (~80 GB) — o Blackwell corre fp8 sem penalização de conversão; Hunyuan-Large Q2 com transbordo para RAM
- ByteDance Seed-OSS-36B bf16 com 512k nativos; ERNIE-4.5-424B Q2 (~150 GB com transbordo)
Fronteira ocidental
- Meta Llama: Llama 3.3 70B Q4 em 4x 5090 (~30-40 tok/s em fluxo único, ~270+ tok/s em lote-32 com vLLM); Llama 4 Scout 109B/17B MoE fp8/Q6 (~90 GB); Llama 4 Maverick 400B/17B Q3 (~188 GB com transbordo)
- Mistral: Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16 multifluxo; Pixtral Large / Mistral Large 2 (123B) Q6 (~88 GB)
- OpenAI (pesos abertos): gpt-oss-120b MXFP4 nativo (80 GB) com KV real e contexto longo — carga de eleição no Blackwell; gpt-oss-20b MXFP4
- Google Gemma 3: 27B multimodal bf16 (~54 GB) com dois fluxos em simultâneo; 12B / 4B
- Microsoft Phi-4 14B denso bf16; Phi-4-reasoning destilado
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q3 (~119 GB) no limite; Super 49B bf16 (~98 GB)
- Outros: Cohere Command R+ 104B Q6 (~85 GB); Molmo 72B Q6-bf16 VLM; OLMo 2 32B; IBM Granite 4.0 H-Small
Modelos de visão e linguagem
Qwen3-VL-235B-A22B Q3-Q4; Qwen3-VL-32B bf16; InternVL3.5-241B-A28B Q4 (~135 GB, no limite); InternVL3 78B bf16; Llama 3.2 90B Vision Q6 (~74 GB); Pixtral Large 124B Q6 (~88 GB); Molmo 72B Q6/bf16; Gemma 3 27B multimodal bf16; GLM-4.6V 106B fp8.
Geração de imagem
FLUX.1 [dev] bf16 e fp8 (~10-18 s/imagem em fp8); FLUX.1 Kontext [dev]; SD 3.5 Large bf16; HunyuanImage-2.1 bf16 e Q4; HunyuanImage-3.0 base (80B MoE, 13B ativos) bf16 (~80 GB, ocupação de eleição); HunyuanDiT; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Geração de vídeo
Wan 2.2 MoE com dois especialistas bf16 (~54 GB, contexto completo); Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 com ambos os especialistas (~60-80 GB); HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16 (~24 GB); Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos.
Áudio / Voz / TTS
- ASR: Whisper v3 large / turbo (~50x tempo real); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro 82M; Stable Audio Open; XTTS v2; StyleTTS 2; Step-Audio-EditX
- Tempo real / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Música / SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2
Serviço multimodelo / multi-inquilino
- MoE de 200B em Q4 com inferência em lote (Qwen3-235B, GLM-4.5/4.6/4.7-Air) para 8-16 utilizadores em simultâneo
- Fronteira fp8 nativa — família DeepSeek V3, Hunyuan-Large fp8 com caminhos nativos do Blackwell
- Pilha residente mista: gpt-oss-120b MXFP4 + FLUX.1 + Whisper + Moshi em VRAM particionada
- 70B de alto débito — vLLM / SGLang com paralelismo tensorial e mais de 200 tok/s agregados em lote
Cargas de trabalho alvo
- Serviço em produção de MoE de 200B+ em Q3-Q4 com KV real (Qwen3-235B, GLM-4.5-Air 106B)
- Inferência de fronteira em fp8 nativo (DeepSeek V3/R1 fp8, Hunyuan fp8) — o Blackwell corre sem conversão
- Serviço de 70B de alto débito — lote com paralelismo tensorial via vLLM ou SGLang
- Estúdio de geração de vídeo em bf16 (Wan 2.2 com dois especialistas, HunyuanVideo 13B, Mochi-1)
- Carga mista multi-inquilino — MoE de 120B + geração de imagem + voz em tempo real, tudo residente
Desempenho medido
Referências publicadas | ficha técnica da NVIDIA RTX 5090 + benchmarks da comunidade
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa (ficha técnica NVIDIA) | 1 676 TOPS |
| TOPS INT8 agregados (4 placas) | 6 704 TOPS |
| Largura de banda de memória por placa | ~1 792 GB/s |
| Llama 3.3 70B Q6 via vLLM (comunidade) | 60-90 tok/s em fluxo único, 300+ tok/s em lote |
| Qwen3-235B-A22B Q3-Q4 | Cabe no pool de 128 GB com 8-16k de contexto |
| gpt-oss-120b MXFP4 nativo | 80 GB — confortável, com margem de KV |
Referências externas publicadas, não medidas em hardware Kentino. A Kentino publicará números próprios depois da primeira montagem para cliente.
Menos indicado para
- Fronteira de 400B+ em Q4 (Kimi-K2, Mistral Large 3, Intern-S1-Pro — exigem 8 GPUs ou 6x RTX Pro 6000)
- Cargas sensíveis à ligação PCIe Gen5 — escolha a variante Genoa para Gen5 x16 nativo
- Treino de raiz (sem NVLink na 5090 de consumo)
- Produção 24/7 sensível a ECC — a 5090 de consumo não tem ECC; prefira L40 ou RTX Pro 6000 Server Edition
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de controladores, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade dos componentes e é confirmado na encomenda.
Extras recomendados
- Atualizar para duas fontes de 2.5 kW (FSP) para o pior caso sustentado de bf16 + vídeo — recomendado para 24/7
- NVMe de 4 TB para a biblioteca de modelos + preparação de pesos MoE
- Armário aberto de 24U para instalação com vários servidores
- Considere a variante na plataforma Genoa, a pedido, para ligação Gen5 x16
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.