Kentino AI 384 Rome RTXPro6000 — 4× RTX Pro 6000 Blackwell Server Edition (384 GB de VRAM ECC)
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 384 Rome RTXPro6000 8000TOPS
Servidor de centro de dados com 384 GB de VRAM ECC
4x RTX Pro 6000 Server Edition | EPYC Milan | 8 000 TOPS INT8
Referências externas publicadas. Não medidas em hardware Kentino.
Servidor de inferência de rack 4U com quatro placas passivas de centro de dados NVIDIA RTX Pro 6000 Blackwell Server Edition (96 GB ECC cada), reunidas num pool de 384 GB de VRAM ECC, um CPU AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, arranque NVMe de 2 TB e duas fontes de alimentação ATX de 2.5 kW sincronizadas. Silício Blackwell com aceleração fp8 nativa. Arrefecimento passivo com fluxo de ar direcionado para chassis de centro de dados. Executa DeepSeek V3 Q3, Mistral Large 3, Qwen3-Coder-480B e todos os principais modelos de pesos abertos de ponta.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC (dissipador passivo de centro de dados, 600 W TGP, PCIe 5.0 x16, 2000 TOPS INT8 por placa, fp8 nativo) |
| Pool de VRAM | 384 GB ECC agregados em 4 placas |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 slots DIMM livres para atualizar até 512 GB) |
| Arranque / armazenamento | NVMe M.2 de 2 TB (PCIe 4.0 x4) |
| Fonte de alimentação | 2x ATX de 2.5 kW com cabo de sincronização de duas fontes (5 kW no total) |
| Chassis | Rack 4U |
| Arrefecimento | Dissipador Tower SP3 (classe Arctic Freezer 4U-M) + fluxo de ar direcionado da frente para trás (3x entrada frontal de 120 mm + 1x exaustão traseira de 120 mm). Placas GPU passivas — exige o fluxo de ar de um chassis de centro de dados. |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope de potência
- Consumo das GPU: 4 x 600 W = 2 400 W
- Total do sistema em carga máxima: ~2 775 W
- Total das fontes: 5 000 W (duas de 2.5 kW sincronizadas) — 44.5% de margem
- Duas fontes para repartir a alimentação — a falha de uma fonte implica a perda de 2 GPU ou de 2 GPU + placa-mãe
Topologia de linhas
A ROMED8-2T disponibiliza 7x PCIe 4.0 x16 diretamente do EPYC Milan. Quatro slots ocupados — três livres para NIC / armazenamento / telemetria. A RTX Pro 6000 tem silício compatível com Gen5; nesta plataforma funciona em Gen4 a x16 completo — sem estrangulamento de largura de banda na inferência. Sem switch PCIe. Sem NVLink.
O que pode executar
Com 384 GB de VRAM ECC em pool sobre silício Blackwell com fp8 nativo, este servidor executa DeepSeek V3 / R1 em Q3 com folga na própria placa, Mistral Large 3 Q3, GLM-5 Q3, Qwen3-Coder-480B Q3 e Llama 3.3 70B bf16 residente numa única placa (96 GB por placa).
LLM — texto / raciocínio / programação
Fronteira chinesa
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) com folga na placa (~30-40 tok/s em pedido único, referência publicada); fp8 nativo (~670 GB) com transbordo para RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, justo, com transbordo para RAM) — agente de programação aberto no estado da arte (~18-25 tok/s em pedido único, referência publicada)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) com contexto muito longo e batching multiutilizador
- GLM-5 / GLM-5.1 Q3 (~317 GB) — fronteira chinesa, próximo do Claude Opus 4.6 em programação
- Kimi-K2 UD de 1.58 bits (~240 GB) — agente de um bilião de parâmetros com débito real
- Hunyuan-Large 389B/52B Q4 (~220 GB), fp8 nativo (~390 GB com transbordo)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB), contexto de 1M
- Llama 3.3 70B bf16 residente numa única placa (96 GB por placa — sem necessidade de paralelismo de tensores)
Fronteira ocidental
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB) — pesos abertos ocidentais de ponta (~20-30 tok/s em pedido único, referência publicada)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) com orçamento KV generoso (~45-55 tok/s em pedido único, referência publicada)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b MXFP4 nativo (80 GB) com enorme margem para uma frota concorrente
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16 — 256k, topo da programação aberta
- Llama 3.3 70B bf16 numa única placa; possibilidade de 4 implementações 70B em simultâneo
Modelos de visão e linguagem
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 em TP. O fp8 da Blackwell oferece cerca do dobro do débito na inferência da torre de visão face à Ada.
Geração de imagem
FLUX.1 [dev] / Kontext / Tools em fp8 nativo (~15-20 s por imagem 1024x1024 numa única RTX Pro 6000, referência publicada); SD 3.5 Large; HunyuanImage-2.1 (17B nativo 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 workers ComfyUI em simultâneo.
Geração de vídeo
Wan 2.2 T2V-A14B / I2V-A14B bf16 com especialista duplo; HunyuanVideo 13B bf16 com ambos os especialistas; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Áudio / voz / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Tempo real / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Música / efeitos sonoros: MusicGen / AudioGen / Bark / SeamlessM4T
Serviço multimodelo / multi-inquilino
- DeepSeek V3 Q3 + um 70B em simultâneo + FLUX.1 + Whisper, todos residentes
- Paralelismo de tensores em 4 vias na classe 350-400B em Q4
- Isolamento de inquilinos por placa — um Llama 3.3 70B bf16 de 96 GB por placa, 4 silos de inferência independentes
- RAG multimodelo: leitor + reranker + visão + embedder, tudo num só anfitrião
Cargas de trabalho-alvo
- Backend de inferência de pesos abertos de ponta — DeepSeek V3 Q3, Qwen3-Coder-480B Q3, GLM-5 Q3
- Serviço em produção de agentes multimodais Llama 4 Maverick Q4 com orçamento de contexto generoso
- Isolamento de 4 inquilinos por placa — um Llama 3.3 70B bf16 por inquilino, sem qualquer contaminação cruzada
- Serviço de DeepSeek / R1 / Hunyuan em fp8 nativo sobre silício Blackwell
- Mistral Large 3 Q3 como alternativa ocidental de pesos abertos de ponta sob Apache 2.0
Referências de desempenho publicadas
Referências externas | Não medidas em hardware Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa RTX Pro 6000 | 2 000 TOPS |
| Largura de banda de memória da RTX Pro 6000 | ~1 800 GB/s por placa |
| vLLM — DeepSeek V3 Q3 em 4x Blackwell PCIe (pedido único) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 em 4x Blackwell PCIe (lote de 8) | ~200 tok/s agregados |
| SGLang — Llama 4 Maverick Q4 em 4x Blackwell (pedido único) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 em 4x Blackwell (pedido único) | ~18-25 tok/s |
| FLUX.1 [dev] em fp8 numa única RTX Pro 6000 | ~1.8 s por imagem 1024x1024 |
A Kentino publicará números próprios após as primeiras montagens para clientes.
Menos indicado para
- Cargas de utilizador único até 70B — 4x RTX 5090 fica claramente mais barato para um pool de 128 GB se não forem necessários ECC e a fiabilidade do arrefecimento passivo
- Instalação silenciosa em laboratório ou junto a escritórios — o dissipador passivo exige um fluxo de ar frente-trás de centro de dados. Para locais sensíveis ao ruído, escolha a variante Max-Q com turbina (Kentino AI 384 Rome RTXPro6000MQ)
- Treino de ponta de raiz (sem NVLink)
- DeepSeek V3 Q4 completo na placa (~404 GB) — passe para 6x RTX Pro 6000 / 576 GB
Garantia e prazo de entrega
A montagem inclui assemblagem, configuração da BIOS, instalação de controladores, burn-in, memtest e verificação funcional. O prazo de entrega depende da disponibilidade dos componentes e é confirmado na encomenda.
Extras recomendados
- Aumentar a RAM para 512 GB DDR4 (juntar 2x 64 GB — 2 slots DIMM livres) para margem de transbordo nas quantizações Q3 de modelos de ponta
- NVMe Gen4 x4 de 4 TB para a biblioteca de modelos de ponta (só o DeepSeek V3 Q3 ocupa ~290 GB em disco)
- Armário de rack 24U completo com PDU gerida + UPS online
- Alternativa: variante Max-Q com turbina (Kentino AI 384 Rome RTXPro6000MQ) — o mesmo silício, ventilação centrífuga mais silenciosa, para instalações em laboratório
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.