Kentino AI 256 TurinDual 5090 — topo de gama 8× RTX 5090 Zen5c de duplo socket
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 256 TurinDual 5090 13408TOPS
Servidor de inferência topo de gama com 256 GB de VRAM
8x RTX 5090 | EPYC Turin duplo | 13 408 TOPS INT8
O preço do CPU é fechado na encomenda — o mercado da série Turin 9005 mexe semanalmente no 2.º trimestre de 2026.
Referências externas publicadas. Não medidas em hardware Kentino.
Servidor de inferência topo de gama, rack-mount 7U, com oito GeForce RTX 5090 (32 GB GDDR7, Blackwell, fp8 nativo) numa plataforma EPYC Turin de dois sockets (Zen5c, SP5), com 768 GB DDR5-4800 ECC em todos os 12 canais, 2 TB NVMe de arranque e conjunto de 5x fontes de alimentação de servidor de 1200 W. PCIe Gen5 ponta a ponta na GPU através de risers ativos com retimer/redriver. Corre vLLM, SGLang, llama.cpp, ComfyUI e todas as principais stacks de inferência de pesos abertos de origem.
Hardware
| Componente | Detalhe |
|---|---|
| GPUs | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, fp8 nativo, 1676 TOPS INT8 por placa) |
| Pool de VRAM | 256 GB agregados nas 8 placas (sem NVLink nas RTX 5090 de consumo) |
| CPU | 2x AMD EPYC Turin série 9005 (Zen5c, SP5, PCIe 5.0) — orçamento a confirmar na encomenda |
| Placa-mãe | ASRock Rack TURIN2D24XGM/500W (SP5 duplo, PCIe 5.0, 24x DIMM DDR5) |
| RAM do sistema | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB — todos os 12 canais preenchidos; restam 12 slots para escalar até 1.5 TB) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Conjunto de 5x fontes de alimentação de servidor de 1200 W (compatíveis HP, 6 kW agregados) |
| Chassis | 7U para 8 GPU (até 10 slots PCIe, baías de fonte separadas) |
| Arrefecimento | 2x coolers tower SP5 + fluxo de ar rack-mount da frente para trás (ventoinhas industriais) |
| Risers | 8x PCIe Gen5 x16 ativos (retimer/redriver) — Gen5 ponta a ponta |
| Rede | 10 GbE integrado (depende da placa) |
Envelope de potência
- Consumo das GPU: 8 x 575 W = 4 600 W
- Total do sistema em plena carga: ~5 520 W
- Total das fontes: 6 000 W (5x 1200 W) — 8% de margem no valor nominal
- A Kentino envia com o limite de potência das GPU em 500 W — o total desce para ~4 920 W (~15% de margem)
Topologia de linhas
O Turin duplo disponibiliza 2x 128 = 256 linhas PCIe Gen5 do lado do host. Os risers Gen5 ativos levam Gen5 x16 ponta a ponta até cada GPU — sem necessidade de switch PCIe (um CPU por banco de 4 placas). Sem NVLink; P2P entre GPU a Gen5 x16 (~60 GB/s nominais por ligação).
O que pode correr
Com 256 GB de VRAM em pool nas 8 placas Blackwell com fp8 nativo, este servidor destina-se a MoE de fronteira de 235-480B em Q4 com contexto real, à família DeepSeek V3 em Q2 e ao Kimi-K2 em quantização dinâmica de 1.58 bits com débito real.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3-235B-A22B (Instruct / Thinking / "2507") Q4 (~132 GB) com contexto longo + batching multiutilizador (~25-40 tok/s em fluxo único em 8x RTX 5090, referência publicada)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — topo de gama em raciocínio/programação, 200k de contexto no 4.6+
- GLM-5 / GLM-5.1 Q2 (~260 GB) com ligeiro recurso à RAM — programação de fronteira, próxima do Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) a uma velocidade de inferência útil (~28 tok/s em fluxo único em 8x Blackwell, referência publicada)
- Kimi-K2 1.58 bits UD-TQ1_0 (~240 GB) — agente de um bilião de parâmetros com débito real de tokens (~7-10 tok/s em fluxo único, referência publicada)
- Hunyuan-Large MoE 389B/52B Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, no limite e com recurso à RAM) — topo de gama aberto em programação, estado da arte
- MiniMax-M1 / Text-01 Q4 (~260 GB) contexto de 1M; Qwen3.5-397B-A17B Q4 (~214 GB)
Fronteira ocidental
- Mistral Large 3 (MoE 675B/41B, Apache 2.0) Q3 (~317 GB com recurso à RAM) — pesos abertos de fronteira ocidentais
- Llama 4 Maverick (400B/17B, 128 especialistas) Q4 (~232 GB) multimodal
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB) — iguala o DeepSeek-R1 com metade do tamanho
- gpt-oss-120b MXFP4 nativo (80 GB) com folga e espaço para vários modelos
- Devstral 2 123B (Modified MIT) Q6 — topo em programação aberta, 256k de contexto
- Llama 3.3 70B bf16 (~142 GB) em serviço multi-inquilino (~30-40 tok/s em fluxo único por par de RTX 5090 em TP2, referência publicada)
Modelos visão-linguagem
Qwen3-VL-235B-A22B em bf16 completo (~240 GB nas placas); InternVL3.5-241B-A28B (~135 GB Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, no limite); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V completo. O caminho fp8 do Blackwell dá cerca do dobro do débito na inferência da torre de visão face a Ada.
Geração de imagem
FLUX.1 [dev] / Kontext / Tools em bf16 completo (~10-18 s/imagem em fp8 por placa, referência publicada); SD 3.5 Large; HunyuanImage-2.1 (17B, 2K nativo); HunyuanImage-3.0 MoE 80B/13B; AuraFlow; OmniGen; farms ComfyUI com vários workers.
Geração de vídeo
Wan 2.2 T2V-A14B / I2V-A14B em bf16 com dois especialistas (high-noise e low-noise residentes em simultâneo); HunyuanVideo 13B bf16 com ambos os especialistas; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Áudio / voz / TTS
- ASR: Whisper v3 large / turbo (~50x tempo real); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Tempo real / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Música / efeitos sonoros: MusicGen; AudioGen; Bark; SeamlessM4T v2
Serviço multimodelo / multi-inquilino
- Gateway de inferência de fronteira — MoE de 200B+ mais um 70B concorrente, imagem e vídeo, todos residentes
- Paralelismo tensorial a 8 vias para Kimi-K2 / DeepSeek V3 com contexto real
- API LLM multi-inquilino — 50-100 utilizadores em simultâneo num 235B Q4 via vLLM/SGLang
- Residência simultânea de toda a fronteira chinesa e ocidental para avaliação / benchmarking
Cargas de trabalho alvo
- Backend de inferência de fronteira com pesos abertos para uma organização de 100-500 postos, combinando Qwen3-235B, GLM-4.5+ e DeepSeek V3 Q2
- Plataforma de agentes Kimi-K2 a 1.58 bits com débito de produção (uso de ferramentas, mais de 200 chamadas sequenciais)
- Serviço de DeepSeek V3 / R1 totalmente em fp8 em silício Blackwell
- Nó de comando de treino multinó com fabric Gen5 100 GbE / InfiniBand
- Farm de duplo papel, inferência + difusão (Qwen3-235B + FLUX.1 + HunyuanVideo 13B em simultâneo)
Referências de desempenho publicadas
Referências externas | Não medidas em hardware Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa RTX 5090 | 1 676 TOPS |
| Largura de banda de memória da RTX 5090 | ~1 800 GB/s por placa |
| vLLM — Qwen3-235B Q4_K_M em 4x RTX 5090 (fluxo único) | ~90 tok/s |
| vLLM — Qwen3-235B Q4_K_M em 4x RTX 5090 (batch 32) | ~450 tok/s agregados |
| SGLang — DeepSeek V3 Q2 em 8x Blackwell (fluxo único) | ~28 tok/s |
| llama.cpp — Kimi-K2 UD-TQ1_0 em 8x Blackwell 256 GB | ~7-10 tok/s |
A Kentino publicará valores próprios de tok/s após a primeira montagem para cliente com o SKU Turin final.
Menos indicado para
- Instalações com orçamento apertado (o Turin é mais caro do que as alternativas Genoa ou Rome)
- Cargas densas de 70B com um só inquilino (é exagero — 4x RTX 5090 ou 4x RTX Pro 6000 são o escalão certo)
- Modelos de fronteira de 600B+ em Q4+ com contexto completo (exigem um pool de 576 GB+ — ver 6x RTX Pro 6000)
- Treino continuado de raiz (sem NVLink nas RTX 5090 de consumo)
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade de componentes e é confirmado na encomenda.
Extras recomendados
- Escalar a RAM para 1.5 TB DDR5 (24x 64 GB, preenchimento total) — necessário para Kimi-K2 Q4 ou DeepSeek V3 Q3 sem recurso à RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT — fabric Gen5 para nós de cluster
- Mellanox ConnectX-6 25 GbE SFP28 para fabric de centro de dados
- 4 TB NVMe Gen4 x4 para arranque + biblioteca de modelos
- Armário rack completo de 24U com PDU gerida
- UPS online de 8-10 kVA (crítico — 5.5 kW de pico de consumo)
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.