Kentino AI 192 Rome RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — EPYC Milan
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 192 Rome RTXPro6000 4000TOPS
Par topo de gama Blackwell com 192 GB ECC
2x RTX Pro 6000 Server Edition | EPYC Milan | 4 000 TOPS INT8
Duas placas passivas RTX Pro 6000 Blackwell Server Edition — 96 GB ECC cada. Menos sobrecarga tensor-parallel do que configurações de 4 ou 8 placas. Par topo de gama para centro de dados.
Um servidor de inferência 4U para montagem em rack, com duas placas passivas RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 por placa), um CPU AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, 2 TB NVMe de arranque e uma única fonte de alimentação ATX de 2 kW. Para modelos densos de 70B em bf16 e MoE de dimensão média, poucas placas grandes batem muitas placas pequenas — o paralelismo tensorial a duas placas tem uma sobrecarga de comunicação mínima e cada placa de 96 GB leva uma cópia completa da maioria dos modelos.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (passiva, 600 W, PCIe 5.0 x16, dois slots) |
| Conjunto de VRAM | 192 GB ECC (96 GB x 2) — cada placa aloja sozinha um modelo de 70B em bf16 |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | 1x fonte de alimentação ATX de 2 kW |
| Chassis | 4U para rack, com fluxo de ar dirigido da frente para trás |
| Arrefecimento | Torre Arctic Freezer 4U-M SP3 + 3x admissão frontal de 120 mm + 1x extração traseira de 120 mm |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope energético
- Consumo das GPU: 2 x 600 W = 1 200 W
- Total do sistema a plena carga: ~1 525 W
- Total da fonte: 2 000 W (uma única de 2 kW) — 23.7 % de margem
- Uma única fonte é suficiente; upgrade opcional para fonte dupla com redundância N+1
Topologia das linhas
PCIe Gen4 x16 por GPU (a placa é nativamente Gen5; a motherboard Rome limita a Gen4). Ligação direta ao root complex — sem switch PCIe. Sem NVLink — comunicação peer-to-peer entre GPU. Ficam cinco slots x16 livres para expansão. A diferença entre Gen4 e Gen5 é negligenciável para inferência com esta densidade de VRAM.
O que pode correr
Com 192 GB de VRAM ECC em apenas duas placas Blackwell com fp8/fp4 nativos, este é o caminho mais limpo para modelos densos de 70B em bf16 e MoE de dimensão média. Dois fluxos independentes de 70B — um por placa — ou um MoE de 200B repartido por ambas, com sobrecarga mínima de TP a dois.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) folgado com contexto longo (~15-25 tok/s num só fluxo, repartido por 2 placas); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B denso em bf16 com KV enorme; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB, com pequeno transbordo para RAM) — a Blackwell corre fp8 nativamente; DeepSeek-R2 32B bf16 em dois fluxos simultâneos (um por placa)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) — a configuração de eleição neste escalão; GLM-4.5-Air em fp8 ou bf16 com KV enorme
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) — MoE de 389B com contexto de 256k; Hunyuan-A13B fp8 nativo (~80 GB) com KV enorme
- Outros: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Fronteira ocidental
- Meta Llama: Llama 3.3 70B bf16 numa placa — dois fluxos de 70B independentes e simultâneos (~20-30 tok/s por fluxo); Llama 4 Scout bf16 (~218 GB, à justa); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) numa só placa, ou bf16 repartido pelas duas; Mistral Small 3 em multifluxo
- OpenAI (pesos abertos): gpt-oss-120b MXFP4 nativo (80 GB) — cabe numa SÓ placa, com dois fluxos independentes e simultâneos
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 numa só placa
- Outros: Cohere Command R+ 104B Q6 (~85 GB) numa placa; Google Gemma 3 27B bf16 em vários fluxos simultâneos
Modelos de visão e linguagem
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 numa só placa; Pixtral Large 124B em bf16 ou Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodal em 2-3 fluxos simultâneos.
Geração de imagem
FLUX.1 [dev] bf16 em vários fluxos simultâneos; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 em simultâneo; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 em simultâneo; HunyuanImage-3.0 base (MoE de 80B, 13B ativos) bf16 — cabe numa placa; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Geração de vídeo
Wan 2.2 MoE de dois especialistas em bf16 com contexto completo — cabe numa placa, com dois fluxos de geração simultâneos; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 com ambos os especialistas; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Áudio / Voz / TTS
- ASR: Whisper v3 large / turbo (~50x tempo real); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Tempo real / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Música / SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2
Serviço multimodelo / multi-inquilino
- Dois fluxos independentes de 70B — um por placa, a forma mais simples de isolar inquilinos
- 70B denso em bf16 + stack de apoio — o LLM na placa 1, imagem/vídeo/áudio na placa 2
- MoE de 200B repartido pelas duas placas — sobrecarga tensor-parallel mínima (divisão a dois)
- Fronteira com fp8 nativo — família DeepSeek V3, Hunyuan-Large fp8 com os caminhos nativos da Blackwell
Cargas de trabalho alvo
- Inferência densa de 70B em bf16 — duas placas em tensor-parallel com sobrecarga mínima, ou um modelo por placa para streaming
- MoE de 100-150B em Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Inferência de fronteira com FP8 nativo (família DeepSeek V3, Hunyuan, Llama 4) — a Blackwell corre fp8 nativamente
- Estúdio de geração de imagem e vídeo em bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Análise documental de contexto longo (MiniMax-M1, Kimi-K2 1.58-bit UD com transbordo)
Desempenho medido
Referências publicadas | ficha técnica da NVIDIA RTX Pro 6000 Blackwell Server Edition + benchmarks da comunidade
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa (ficha técnica NVIDIA) | 2 000 TOPS |
| TOPS INT8 agregados (2 placas) | 4 000 TOPS |
| Largura de banda de memória por placa | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 por placa (comunidade) | 15-25 tok/s num só fluxo, 60-90 tok/s em lote |
| 70B em tensor-parallel a duas placas (comunidade) | ~30-45 tok/s esperados num só fluxo |
| fp8 nativo da Blackwell | DeepSeek-V3 fp8 e Hunyuan-A13B fp8 correm sem conversão para bf16 |
Referências externas publicadas, não medidas em hardware Kentino. A Kentino publicará valores próprios depois da primeira máquina entregue a cliente.
Menos indicado para
- Serviço multi-inquilino com concorrência muito elevada — 4x L40 ou 6x L4 distribuem melhor por mais placas
- Cache KV pesada com contexto muito longo — suba para o Kentino AI 384 RTXPro6000 8000TOPS
- Treino — a Kentino não vende fabrics NVLink de classe H
- Inferência económica com 192 GB de VRAM — 8x RTX 4090 sai mais barato (trocando ECC e arrefecimento passivo por preço)
Garantia e prazo de entrega
Garantia OEM NVIDIA de 3 anos na RTX Pro 6000 Server Edition + garantia de integração Kentino. A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade de componentes e é confirmado na encomenda.
Extras recomendados
- Upgrade para fonte dupla sincronizada de 2 kW, com redundância N+1
- Upgrade da RAM para 512 GB (4 slots DIMM livres)
- NVMe de 4 TB para grandes bibliotecas de pesos e preparação de modelos
- Expansão para configuração de 4 placas (Kentino AI 384 RTXPro6000 8000TOPS) — o chassis tem slots disponíveis
- Armário rack 24U + UPS online de 5 kVA
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.