Kentino AI 48 Rome 4090 1322TOPS — Servidor de IA de entrada com 2x RTX 4090
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 48 Rome 4090 1322TOPS
Servidor de entrada com 2 GPU e 48 GB de VRAM
2x RTX 4090 | EPYC Rome | 1 322 TOPS INT8
Pool de 48 GB de VRAM repartido por duas RTX 4090 — o piso de custo para inferência tensor-parallel da classe 32B.
Um servidor de IA de classe estação de trabalho, com duas GPU Ada, construído sobre ROMED8-2T / EPYC Rome. Duas RTX 4090 dão um envelope de 48 GB de VRAM em pool que corre com folga modelos densos de 32B em Q6-Q8, o Hunyuan-A13B em Q6, vídeo Wan 2.1 14B e visão Pixtral 12B — a melhor seleção global de modelos por euro de toda a gama Kentino, antes de subir para Blackwell.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 4090 24 GB GDDR6X (450 W, PCIe 4.0 x16) |
| Pool de VRAM | 48 GB (sem NVLink — paralelismo tensorial sobre PCIe) |
| CPU | AMD EPYC 7542 Rome (32C/64T, 225 W, 128x pistas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Arranque / armazenamento | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Uma única fonte ATX de 2 kW |
| Chassis | Montagem em rack 4U, risers passivos Gen4 x16 |
| Arrefecimento | Dissipador tower SP3, 3x 120 mm de admissão frontal + 1x 120 mm de extração traseira |
| Rede | Dupla 10 GbE integrada (Intel X550) + IPMI |
Envelope de consumo
- Consumo das GPU: 2 x 450 W = 900 W
- Total do sistema em carga máxima: ~1 225 W
- Total da fonte: 2 000 W (uma única ATX de 2 kW) — 38.75 % de margem
- Margem confortável com uma só fonte de alimentação
Topologia de pistas
A ROMED8-2T distribui 2x16 diretamente a partir do root complex do CPU — sem switch PLX. A 4090 de consumo não tem NVLink; o paralelismo tensorial comunica por PCIe. PCIe Gen4 x16 em ambas as GPU.
O que pode executar
Com 48 GB de VRAM em pool repartidos por 2 placas, este servidor dá conta de LLM densos da classe 32B em Q6-Q8, carros-chefe MoE, geração de imagem e vídeo, IA de voz e serviço multi-inquilino.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3-32B denso Q6-Q8 (~25-35 tok/s em fluxo único em 2x 4090, referência publicada); QwQ-32B Q6; Qwen3.5-27B Q6-Q8
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB à justa; use Q6)
- Hunyuan-A13B Q6 ou fp8 (~48 GB) — MoE 80B/13B, contexto de 256k
- Seed-OSS-36B Q6 — contexto nativo de 512k
- DeepSeek-R2 32B MoE esparso bf16 (~64 GB à justa — prefira Q6 ~45 GB) (~30-40 tok/s em fluxo único em Q4, referência publicada)
- ERNIE-4.5-47B-A3B Q4 (~28 GB com folga) / Q6 (~42 GB)
Fronteira ocidental
- Llama 3.3 70B Q4_K_M (~43 GB) com paralelismo tensorial a 2 — o ponto ideal desta classe (~14-17 tok/s em fluxo único em 2x 4090, referência publicada)
- Llama 4 Scout MoE 109B/17B Q3_K (~51 GB à justa)
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B) bf16
- Mixtral 8x7B Q6
- Gemma 3 27B bf16; Phi-4 14B bf16
- Nemotron-Super 49B Q4 (~28 GB)
- Outros: OLMo 2 32B; Reka Flash 3 21B bf16; Falcon H1R 7B
Visão-Linguagem
Qwen3-VL-32B / Qwen3-VL-30B-A3B MoE / Qwen3-Omni-30B-A3B; InternVL3-38B Q4-Q5; InternVL3.5-38B; DeepSeek-VL2; ERNIE-4.5-VL-28B-A3B-Thinking; Llama 3.2 11B Vision bf16; Pixtral 12B bf16; Gemma 3 27B multimodal; PaliGemma 2 28B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6.
Geração de imagem
FLUX.1 [dev] / [schnell] fp16 (24 GB) ou fp8 (~12 GB) com lote generoso (~15-25 segundos por imagem 1024x1024 em fp8 por placa, referência publicada); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16); SDXL 1.0 + ControlNet + AnimateDiff; HunyuanImage-2.1 bf16 (~34 GB cabem no pool); AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Geração de vídeo
Wan 2.1 14B T2V/I2V Q6/fp8; Wan 2.2 TI2V-5B bf16 numa só placa; Wan 2.2 T2V-A14B / I2V-A14B Q4 (~32 GB); HunyuanVideo 13B Q4-Q5 (~30 GB); HunyuanVideo 1.5 (8.3B) bf16; Open-Sora 2.0 (11B) Q8; CogVideoX-5B / 1.5 bf16; Mochi-1 Q4-Q8; LTX-Video 2B; Pyramid Flow 2B.
Áudio / Voz / TTS
Toda a stack do escalão de 24 GB cabe com espaço para uso em simultâneo: Whisper v3 large + Parakeet-TDT + Canary 1B + Moshi + Step-Audio 2 mini + CosyVoice 3.0 + Kokoro 82M + Stable Audio Open, todos residentes ao mesmo tempo. O Whisper v3 turbo corre a ~50x o tempo real numa única placa (referência publicada).
Multimodelo / multi-inquilino
- 2-4 utilizadores em simultâneo em LLM da classe 32B Q6 através de vLLM com paralelismo tensorial
- Carga mista: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB) + Whisper-turbo (1.6 GB) + Moshi (8 GB) residentes nas 2 placas
- Fine-tuning LoRA / QLoRA de modelos de 7-14B com folga, 24-32B à justa
Cargas de trabalho alvo
- Estação de trabalho de IA para dois operadores, com stacks mistas de LLM + imagem + áudio
- Endpoint de serviço da classe 32B para o ambiente de programação de uma equipa pequena (4-8 utilizadores em simultâneo em Qwen3-32B / Gemma 3 27B)
- Pipeline de geração de imagem (FLUX.1 + SD 3.5 + ControlNet) em produção por lotes
- Máquina de desenvolvimento para geração de vídeo (Wan 2.1 / Wan 2.2 TI2V / HunyuanVideo 1.5)
- Máquina de investigação para fine-tuning LoRA / QLoRA de pesos chineses e ocidentais de 7-34B
Referências de desempenho publicadas
Referência publicada | hardware comparável com 2x RTX 4090
| Benchmark | Resultado |
|---|---|
| Llama 3.3 70B Q4_K_M, descodificação em llama.cpp | ~14-17 tok/s em fluxo único |
| Qwen3-32B Q6 em vLLM, fluxo único | ~35-45 tok/s de descodificação |
| FLUX.1 [dev] fp8 | ~2.5-3.0 s por imagem 1024x1024 com 20 passos |
| Agregado vLLM com lote de 32 (extrapolado de 4x4090) | ~90 tok/s agregados |
Pontos de referência publicados para hardware comparável com 2x4090. Não medidos em hardware Kentino.
Menos indicado para
- 70B denso em Q6+ (exige um pool de 96 GB — suba para 4x RTX 4090 ou 4x RTX 5090)
- MoE de fronteira com mais de 100B em bf16 (GLM-4.5, Kimi K2, Mistral Large 3)
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade de componentes e é confirmado na encomenda.
Extras recomendados
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Atualizar o disco de arranque para NVMe de 2 TB
- Atualizar a RAM para 256 GB (4x 64 GB) — mais folga de cache KV para MoE de contexto longo
- PDU de rack (C13/C19 com medição) e UPS online de 2 kVA
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.