Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — Servidor Frontier de IA 8× RTX Pro 6000 Blackwell Max-Q (Dual Turin)
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
Topo de gama Frontier com 768 GB de VRAM ECC
8x RTX Pro 6000 Max-Q | EPYC Turin duplo | 16 000 TOPS INT8
Preço do CPU fechado na encomenda — o mercado da série Turin 9005 move-se semanalmente no 2.º trimestre de 2026.
Referências externas publicadas. Não medidas em hardware Kentino.
Topo da gama de servidores de IA Kentino. Plataforma de inferência de nível frontier, em formato rack de 7U, com oito placas NVIDIA RTX Pro 6000 Blackwell Max-Q turbofan agrupadas em 768 GB de VRAM ECC, dois CPU AMD EPYC Turin série 9005 (Zen5c, SP5), 1.5 TB de DDR5-4800 ECC (todos os 24 canais preenchidos), 4 TB de NVMe de arranque e 5x fontes de alimentação de servidor de 1200 W. PCIe Gen5 de ponta a ponta. DeepSeek V3 em fp8 nativo (~670 GB) na placa. Kimi-K2 Q4-Q5. 4 modelos de classe frontier residentes em simultâneo.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (turbofan, 600 W de TDP de especificação, PCIe 5.0 x16, 2000 TOPS INT8 por placa, fp8 nativo) |
| Pool de VRAM | 768 GB no total nas 8 placas (sem NVLink — P2P por PCIe Gen5 a ~55-60 GB/s dentro do mesmo socket, entre sockets via interligação dos CPU) |
| CPU | 2x AMD EPYC Turin série 9005 (Zen5c, SP5, PCIe 5.0) — sob orçamento, SKU exata confirmada na encomenda |
| Placa-mãe | ASRock Rack TURIN2D24XGM/500W (SP5 Turin duplo, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| RAM do sistema | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB — todos os 24 canais preenchidos, ~920 GB/s agregados) |
| Arranque / armazenamento | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimensionado para checkpoints frontier |
| Fonte de alimentação | Conjunto de 5x fontes de alimentação de servidor de 1200 W (6 kW no total) |
| Chassis | Rack de 7U para 8 GPU, capacidade para 10 slots PCIe, risers Gen5 ativos |
| Arrefecimento | 2x dissipadores tower SP5 Turin + 8x ventoinhas de chassis de 120 mm Martech. Sopradores turbofan por GPU autónomos. |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope de potência
- Consumo das GPU (especificação): 8 x 600 W = 4 800 W
- Consumo dos CPU: 2 x 360 W = 720 W (estimativa para Turin de gama intermédia)
- Total do sistema em carga máxima de especificação: ~5 720 W
- Total das fontes: 6 000 W — ~4.7% de margem bruta na especificação
- Na prática: a Max-Q mantém 520-550 W em inferência, elevando a margem sustentada para mais de ~20%
- Limite de potência por firmware a 520 W disponível para garantir margem
Topologia de linhas
O Turin duplo fornece 2x 128 linhas PCIe Gen5. A TURIN2D24XGM/500W encaminha 8 slots de GPU ligados diretamente aos CPU em Gen5 x16 através de risers ativos — 4 slots por raiz de CPU. Sem switch PCIe no caminho das GPU — topologia de raiz dupla limpa. É necessária afinação NUMA para um ótimo peer-to-peer entre sockets. Sem NVLink; P2P a ~55-60 GB/s por direção dentro do mesmo socket.
O que pode correr
Com 768 GB de VRAM ECC agrupada — o topo do envelope Kentino — este servidor corre o DeepSeek V3 em fp8 nativo (~670 GB) na placa, o Kimi-K2 Q4-Q5 (~630 GB) com folga e o caso de uso que o define: 4 modelos de classe frontier residentes em simultâneo para serviço multi-inquilino em produção.
LLM — texto / raciocínio / programação
Frontier chinês em quantizações de produção
- Kimi-K2 (Base / Instruct / Thinking) em Q4_K_M / Q5_K_M (~630 GB) com folga (~15-25 tok/s em pedido único, referência publicada) — o topo do frontier chinês numa única caixa, em quantizações de produção
- DeepSeek V3 / R1 / V3.1 / V3.2 em fp8 nativo (~670 GB) na placa (~30-50 tok/s em pedido único, referência publicada) — os núcleos tensoriais fp8 Blackwell correm isto nativamente e com rapidez
- DeepSeek V3 em Q4_K_M (~404 GB) com várias instâncias de serviço concorrentes em lotes grandes
- GLM-5 / GLM-5.1 (~745B/44B) em Q3-Q4 (~420-560 GB) com folga na placa
- Intern-S1-Pro (1T/22B ativos, SAGE) em Q3-Q4 (~440-580 GB) com folga
- Qwen3-Coder-480B-A35B em Q5-Q6 (~340-400 GB) com contexto de 1M
- Qwen3-235B-A22B em bf16 (~470 GB) com KV generoso para contexto longo
- ERNIE-4.5-424B-A47B em Q6 (~360 GB); Hunyuan-Large em fp8 (~390 GB)
- MiniMax-Text-01 / M1 em Q5-Q6 (~325-390 GB)
Frontier ocidental em quantizações de produção
- Mistral Large 3 (675B/41B MoE, Apache 2.0) em Q3-Q4 (~317-404 GB) com folga (~20-30 tok/s em pedido único, referência publicada)
- Llama 4 Maverick (400B/17B, 128 especialistas) em Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B em bf16 (~506 GB) na placa
- Snowflake Arctic em Q5-Q6 (~350-420 GB); Grok-1 em Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B em bf16 (~264 GB) em várias instâncias
Modelos de visão e linguagem
Qwen3-VL-235B-A22B, o VLM de topo, com contexto longo; InternVL3.5-241B-A28B em bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 em várias instâncias; Llama 3.2 90B Vision bf16 em várias instâncias; Pixtral Large 124B bf16; Molmo 72B bf16 em várias instâncias.
Geração de imagem
HunyuanImage-3.0 Instruct em instâncias concorrentes; FLUX.1 em várias instâncias (~15-20 s por imagem 1024x1024, referência publicada); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0 — toda a stack de imagem chinesa e ocidental residente em simultâneo.
Geração de vídeo
Wan 2.2 T2V-A14B / I2V-A14B — muitos fluxos concorrentes; HunyuanVideo 13B bf16 com vários fluxos concorrentes; Open-Sora 2.0 (11B) em várias instâncias; Mochi-1 (10B) em várias instâncias; NVIDIA Cosmos Predict 2 até 14B.
Áudio / Fala / TTS
Stack completa residente em lote: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B em tempo real, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Serviço multimodelo / multi-inquilino (o caso de uso que o define)
- Produção frontier multi-inquilino: 4 modelos de classe frontier residentes em simultâneo — por exemplo, DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5 — com VRAM particionada e SLO por inquilino
- Inferência Blackwell fp8 nativa concorrente (família DeepSeek V3 / R1, Hunyuan fp8) + serviço quantizado em domínios PCIe separados
- Comparação A/B de investigação entre 4-5 modelos frontier de pesos abertos em quantizações de nível de investigação
- Plataforma agentic com um modelo principal de 400B+ e vários especialistas de 30-70B residentes
Cargas de trabalho alvo
- Produção frontier multi-inquilino de pesos abertos — vários modelos frontier residentes em simultâneo com isolamento por inquilino
- Implementação soberana de IA frontier — acesso on-premise ao DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, com residência de dados na UE
- Laboratório de investigação frontier com avaliação A/B entre mais de 4 modelos frontier de pesos abertos em quantizações de nível de investigação
- Plataforma agentic empresarial em que um MoE de 400B+ conduz as ferramentas e vários modelos especialistas
- Inferência em indústrias reguladas e redes isoladas, à escala frontier, com ECC + PCIe Gen5
Referências de desempenho publicadas
Referências externas | Não medidas em hardware Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 em 8x RTX Pro 6000 (pedido único) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 em 8x RTX Pro 6000 (lote de 32) | 300-500 tok/s agregados |
| Serviço de Kimi-K2 Q4 em 8x RTX Pro 6000 (pedido único) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 numa única RTX Pro 6000 | ~15-20 s por imagem 1024x1024 |
Valores exatos confirmados na fase de PoC. A Kentino publicará números próprios após a primeira montagem para cliente.
Menos indicado para
- Implementações com orçamento apertado — SKU de topo a preço de topo
- Treino de raiz de modelos de classe frontier — sem NVLink, apenas P2P por PCIe (para treino a esta escala, o H100/H200 SXM ou a malha NVLink do GB200 são a ferramenta certa)
- Implementação plug-and-play — o serviço MoE frontier multi-inquilino exige uma equipa de MLOps experiente
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, burn-in, memtest, verificação funcional, afinação NUMA e preparação do ambiente de LLM (vLLM / SGLang / llama.cpp / stack CUDA 13 com kernels fp8 Blackwell). O prazo de entrega depende da disponibilidade de componentes e é confirmado na encomenda.
Extras recomendados
- NIC NVIDIA ConnectX-5 MCX555A-ECAT ou ConnectX-7 Gen5 de 100 GbE para expansão multinó
- Mellanox ConnectX-6 25 GbE SFP28 para malha de centro de dados
- Segundo NVMe de 4 TB para conjuntos de dados / biblioteca de modelos (os checkpoints frontier são grandes — só o Kimi-K2 bf16 ocupa ~1 TB)
- Armário rack completo de 24U com porta frontal perfurada e PDU gerida
- UPS online de 10 kVA (encerramento controlado em caso de falha de energia)
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.