Kentino AI 64 Rome 5090 3352TOPS — servidor de IA Blackwell de entrada com 2x RTX 5090
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 64 Rome 5090 3352TOPS
Servidor Blackwell de entrada com 2 GPU
2x RTX 5090 | EPYC Milan | 3 352 TOPS INT8
Servidor Blackwell de entrada com 2 GPU — 64 GB de VRAM agregada, 3 352 TOPS INT8, fp8 nativo. O salto de Ada para Blackwell em relação a 2x4090.
Um servidor de IA Blackwell com duas GPU, construído sobre ROMED8-2T / EPYC Milan. Duas RTX 5090 oferecem uma reserva de 64 GB de VRAM agregada com matemática tensorial fp8 nativa — cerca do dobro dos TOPS brutos de 2x RTX 4090 no mesmo formato de chassis, e o primeiro escalão de 2 GPU que corre com folga o Llama 3.3 70B Q4, o Qwen3.5-122B-A10B Q4 e o HunyuanVideo em bf16 / fp8.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 5090 32 GB GDDR7 (575 W, PCIe 5.0 x16, Blackwell) |
| Reserva de VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Arranque / armazenamento | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Uma fonte ATX de 2 kW |
| Chassis | Montagem em rack 4U, risers passivos Gen4 x16 |
| Arrefecimento | Cooler tower SP3, 3x entrada frontal de 120 mm + 1x extração traseira de 120 mm (ventoinhas industriais) |
| Rede | Dupla 10 GbE integrada (Intel X550) + IPMI |
Consumo elétrico
- Consumo das GPU: 2 x 575 W = 1 150 W
- Total do sistema a plena carga: ~1 475 W
- Total da fonte: 2 000 W (uma ATX de 2 kW) — 26.25 % de margem
- Margem viável com uma só fonte; upgrade para fonte dupla disponível para margem adicional
Topologia de linhas
A ROMED8-2T distribui 2x16 Gen4 a partir do root complex do CPU. A 5090 é silício Gen5 a funcionar em Gen4 x16 sem penalização de largura de banda na inferência. Sem switch PCIe. Sem NVLink na GeForce 5090 — o P2P tensor-parallel entre as duas placas usa PCIe.
O que pode executar
Com 64 GB de VRAM GDDR7 agregada em 2 placas Blackwell, este servidor dá conta de modelos 70B Q4 em tensor-parallel, carros-chefe MoE, geração de imagem em fp8 nativo, IA de vídeo e serviço simultâneo de vários modelos.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3-32B Q8 / bf16 (qualidade próxima de fp16) (~40-55 tok/s em fluxo único em fp8 Blackwell, referência publicada)
- QwQ-32B bf16; Qwen3-30B-A3B / Coder-30B-A3B bf16 (~60 GB, cabe)
- Qwen3.5-122B-A10B Q4 (~70-75 GB com spill para RAM) — carro-chefe MoE em Q4, cabe
- Hunyuan-A13B fp8 (~80 GB, apertado) ou Q6 (~36 GB, folgado)
- Seed-OSS-36B bf16 (~72 GB, apertado — preferir fp8 ~36 GB)
- DeepSeek-R2 32B MoE esparso bf16
- GLM-4.5-Air 106B/12B Q4_K_M (~60 GB) — MoE com margem
- ERNIE-4.5-47B-A3B Q6-Q8
Fronteira ocidental
- Llama 3.3 70B Q4_K_M (~43 GB) — a carga de trabalho de referência deste escalão (~20-28 tok/s em fluxo único em 2x 5090, referência publicada)
- Hermes 3 70B / Tulu 3 70B Q4 — derivados Llama com pós-treino aberto
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16; Mixtral 8x7B bf16
- Gemma 3 27B multimodal bf16 + margem para raciocínio
- Phi-4 14B bf16; Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB) + gpt-oss-120b MXFP4 (80 GB — cabe à justa com contexto curto)
- OLMo 2 32B / OLMo 3.1-32B-Think bf16
Visão-linguagem
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B bf16; InternVL3.5-38B bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Pixtral Large 124B Q3 (~58 GB, apertado); Gemma 3 27B multimodal bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB).
Geração de imagem
O fp8 nativo da 5090 é o grande trunfo de velocidade — FLUX.1 / SD 3.5 / HunyuanImage correm bastante mais depressa do que em Ada: FLUX.1 [dev] / [schnell] fp8 nativo (~12 GB) com 2x em paralelo entre placas (~8-12 segundos por imagem 1024x1024 em Blackwell, referência publicada); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16 ou 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB); HunyuanImage-3.0 NF4; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Geração de vídeo
Wan 2.2 T2V-A14B / I2V-A14B bf16 (~54 GB no total) — MoE de dois especialistas em precisão total; Wan 2.2 TI2V-5B bf16 por placa, 2 inquilinos em paralelo; HunyuanVideo 13B Q4-Q5 (~30 GB), fp8 apertado; HunyuanVideo 1.5 (8.3B) bf16 por placa; Open-Sora 2.0 (11B) bf16; CogVideoX-5B / 1.5 bf16; Mochi-1 bf16 (~42 GB, cabe); LTX-Video 2B; NVIDIA Cosmos Predict 2.
Áudio / Voz / TTS
A mesma stack completa de voz chinesa + ocidental do escalão 4090 cabe aqui com mais margem: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2 + MMS. Na 5090, com fp8 nativo, o Whisper / Parakeet descodificam com um fator de tempo real bastante superior. O Whisper v3 turbo corre a ~75x o tempo real em Blackwell (referência publicada).
Multimodelo / multi-inquilino
- Stack residente: Llama 3.3 70B Q4 (~43 GB em tensor-parallel a 2 vias) + FLUX.1 fp8 (~12 GB) + Whisper-turbo + Moshi
- 2-4 inquilinos simultâneos na classe 32B em Q6-Q8 por placa
- Afinação LoRA / QLoRA de 7-14B com folga, 24-32B apertado
Cargas de trabalho-alvo
- Estação de trabalho de programação para equipas pequenas, com margem para servir modelos 70B Q4
- Salto para Blackwell a partir de uma máquina com 2x RTX 4090 — o mesmo chassis, ~2.5x os TOPS, fp8 nativo
- Estação de trabalho de geração de imagem / vídeo com a aceleração fp8 nativa do FLUX
- Máquina multimodelo em simultâneo: 70B Q4 + FLUX + Whisper + Moshi residentes ao mesmo tempo
- Endpoint de inferência para 4-8 utilizadores em simultâneo com LLM da classe 32B
Referências de desempenho publicadas
Referência publicada | hardware comparável com 2x RTX 5090
| Benchmark | Resultado |
|---|---|
| Descodificação Llama 3.3 70B Q4_K_M em llama.cpp | ~20-28 tok/s em fluxo único |
| Qwen3-32B Q8 em vLLM, fluxo único | ~45-60 tok/s de descodificação em fp8 |
| FLUX.1 [dev] fp8 nativo em Blackwell | ~1.5-1.9 s por imagem 1024x1024 com 20 passos |
| HunyuanVideo 13B Q5 TP-2 | 5 s em 720p em ~5-7 min |
Valores publicados, não medidos em hardware Kentino. Referência medida pela Kentino em 4x RTX 4090: 647 TFLOPS fp16, 179 tok/s agregados em lote de 32.
Menos indicado para
- Modelos densos de 100B+ em bf16 (DeepSeek-V3, Kimi K2, Mistral Large 3 — precisam de uma reserva de 256+ GB)
- Geração de vídeo de ponta em bf16, em formato longo e resolução máxima
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade dos componentes e é confirmado na encomenda.
Extras recomendados
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Upgrade do disco de arranque para NVMe de 2 TB — ou 4 TB
- Upgrade da RAM para 256 GB (4x 64 GB) — margem para cache KV de MoE / serviço simultâneo de vários modelos
- PDU de rack (C13/C19 com medição) e UPS online de 3 kVA
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.