Kentino AI 96 Rome RTXPro6000 2000TOPS — Servidor-Estação de Trabalho Blackwell de 96 GB com Placa Única
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Servidor-estação de trabalho de placa única com 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Uma placa, 96 GB de VRAM ECC, todo o pipeline tensorial Blackwell. Um modelo denso de 70B em bf16 numa única GPU — sem sobrecarga de paralelismo de tensores.
Um servidor-estação de trabalho 4U para rack com uma única placa NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), um CPU AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, 2 TB NVMe de arranque e uma fonte de alimentação ATX de 2 kW com 54 % de folga. O caminho de software mais simples que a Kentino fornece — sem configuração de paralelismo de tensores, sem depuração multi-GPU. vLLM, SGLang, llama.cpp e ComfyUI correm em dispositivo único e funcionam sem mais.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC numa única placa — sem agregação, sem sobrecarga de paralelismo de tensores |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | 1x 2 kW ATX PSU |
| Chassis | 4U para rack (capacidade de 4 ranhuras, 1 ocupada — espaço para expandir) |
| Arrefecimento | Torre Arctic Freezer 4U-M SP3 + 3x admissão frontal de 120 mm + 1x extração traseira de 120 mm |
| Rede | Duplo 10 GbE integrado (Intel X550) |
Envelope de potência
- Consumo da GPU: 1 x 600 W = 600 W
- Total do sistema a plena carga: ~925 W
- Total da fonte: 2 000 W — 53.8 % de folga
- Fonte única, cablagem simples — margem generosa para uma configuração de placa única
Topologia de linhas
PCIe Gen4 x16 na GPU (a placa é nativamente Gen5; a plataforma Rome limita a Gen4). Ligação direta ao root complex — sem switch PCIe. Não é preciso NVLink — placa única, sem qualquer ligação entre GPU. Ficam seis ranhuras x16 livres para NIC / armazenamento / expansão.
O que pode correr
Com 96 GB de VRAM ECC numa única placa Blackwell, este servidor aguenta um modelo denso de 70B em bf16 numa só GPU, LLM de pesos abertos, modelos de visão, geração de imagem e vídeo, IA de voz e inferência em produção — sem necessidade de coordenação entre GPU.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-32B denso bf16 (~65 GB) com KV generoso; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s em fluxo único); Qwen3-30B-A3B MoE bf16; Qwen3-Coder-30B-A3B para agentes com 256k de contexto; Qwen3.5-122B-A10B Q4 (~70 GB) com KV apertado; QwQ-32B bf16 para raciocínio
- DeepSeek: DeepSeek-R2 32B MoE esparso bf16 (~64 GB, 92.7 % no AIME 2025 numa só placa); DeepSeek-R1-Distill-Qwen-32B bf16; DeepSeek-V2-Lite 16B em precisão total
- GLM / Z.ai: GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB); GLM-4.6V 106B Q4
- Tencent Hunyuan: Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) com 256k de contexto e raciocínio de modo duplo
- ByteDance Seed-OSS-36B bf16 (~72 GB, apertado) ou fp8 (~36 GB) com os 512k de contexto nativo completos
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 com contexto longo
Fronteira ocidental
- Meta Llama: Llama 3.3 70B em bf16 (~70 GB) numa única placa com 8-16k de contexto — a configuração de eleição; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s em fluxo único); Llama 3.1 8B bf16 (~80-120 tok/s); Llama 3.2 90B Vision Q4 (~52 GB); Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B) todos em bf16 com 256k de contexto; Mixtral 8x7B Q6; Codestral Mamba 7B; Pixtral 12B bf16
- OpenAI (pesos abertos): gpt-oss-20b MXFP4 nativo (16 GB); gpt-oss-120b MXFP4 nativo (80 GB) — placa única, fluxo único
- Google Gemma 3: 27B multimodal bf16 (~54 GB) com 128k de contexto; 12B / 4B bf16
- Microsoft Phi-4 14B denso bf16; Phi-4-reasoning; Phi-4-multimodal
- NVIDIA Nemotron: Llama-3.1-Nemotron-Super 49B Q6 (~40 GB); Nemotron-Nano 8B
- Outros: IBM Granite 4.0 H-Small 32B/9B; OLMo 2 32B; Reka Flash 3 21B; Falcon H1R 7B; Command R 35B
Modelos de visão-linguagem
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B; InternVL3 até 78B Q4 (~48 GB); InternVL3.5-38B bf16; toda a gama DeepSeek-VL2; Llama 3.2 11B Vision bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Molmo 72B Q4; Molmo 7B bf16; Gemma 3 12B / 27B multimodal; PaliGemma 2 28B; Phi-3.5-Vision; Aya Vision 8B / 32B; MiniCPM-V 2.6 / MiniCPM-o 2.6; GLM-4.6V.
Geração de imagem
FLUX.1 [dev] / [schnell] bf16 (~24 GB) e quantizado (~15-25 s/imagem em fp8); edição em contexto com FLUX.1 Kontext [dev]; FLUX Tools (Fill / Depth / Canny / Redux); SD 3.5 Large bf16 (~18 GB); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB) em 2K nativo; HunyuanDiT 1.5B; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Geração de vídeo
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, com ambos os especialistas residentes); caminho rápido Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 (~60-80 GB, apertado a 720p); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 (11B) bf16; Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Áudio / Voz / TTS
- ASR: Whisper v3 large / turbo (~50x tempo real); NVIDIA Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open; Coqui XTTS v2; StyleTTS 2; Step-Audio-EditX
- Tempo real / S2S: Kyutai Moshi (full-duplex a 200 ms); Step-Audio 2 mini; Step-Audio-R1 / R1.1; Qwen2.5-Omni-7B
- Música / SFX: Meta MusicGen; AudioGen; Suno Bark; SeamlessM4T v2
Serviço multimodelo / multi-inquilino
- Assistente de programação em streaming para um único inquilino — 70B denso bf16, baixa latência, sem penalização de TP
- Pilha residente mista: Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi numa só placa com VRAM particionada
- Afinação: LoRA / QLoRA em modelos de 13-34B; parâmetros completos em 7B
- Serviço de embeddings: BGE-M3 / E5 / Jina residente ao lado de um LLM gerador
Cargas de trabalho-alvo
- Assistente de programação em streaming para um único inquilino a correr Llama 3.3 70B bf16 ou Qwen3-Coder-30B-A3B — sem sobrecarga de coordenação de TP
- Estação de trabalho para um engenheiro ou uma equipa pequena que precise de um modelo da classe 70B com 32-128k de contexto
- Laboratório de geração de vídeo ou imagem — HunyuanVideo 13B, Wan 2.2 com dois especialistas e HunyuanImage-2.1, todos residentes em bf16
- Banco de ensaio de VLM / OCR — Qwen3-VL-32B bf16 ou InternVL3.5-38B com pipelines de documentos longos
- Equipamento simples para um pequeno gateway de API de LLM — um modelo, uma placa, operação fácil
Desempenho medido
Referências publicadas | ficha técnica da NVIDIA RTX Pro 6000 Blackwell + benchmarks da comunidade
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por placa (ficha técnica NVIDIA) | 2 000 TOPS |
| VRAM por placa | 96 GB ECC GDDR7 |
| Largura de banda de memória | ~1 800 GB/s |
| Llama 3.3 70B Q6 numa só GPU (comunidade) | 40-55 tok/s em fluxo único |
| Llama 3.3 70B bf16 numa só GPU (comunidade) | 15-25 tok/s em fluxo único |
| fp8 nativo em Blackwell | DeepSeek-V3 fp8 e Hunyuan-A13B fp8 correm sem conversão para bf16 |
Referências externas publicadas, não medidas em hardware Kentino. A Kentino publicará números próprios depois da primeira configuração para cliente.
Menos indicado para
- Treinar modelos grandes de raiz (uma só GPU — sem paralelismo de tensores nem de pipeline)
- MoE de fronteira com mais de 200B em quantizações reais (Qwen3-235B Q4, GLM-4.5/4.6 — use o Kentino AI 192 RTXPro6000 ou superior)
- Inferência multi-inquilino com elevada concorrência (uma só placa limita o débito agregado; 4x RTX 4090 ou 4x L40 escalam melhor)
Garantia e prazo de entrega
Garantia OEM NVIDIA de 3 anos na RTX Pro 6000 + garantia de integração Kentino. A montagem inclui assemblagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade dos componentes e é confirmado na encomenda.
Extras recomendados
- Aumentar a RAM para 512 GB (acrescentar 4x 64 GB DDR4 — há quatro ranhuras DIMM livres)
- Disco NVMe secundário de 4 TB para biblioteca de modelos / preparação de datasets
- Armário aberto 24U para montagem em rack de produção
- Para ligação a x16 Gen5, considere a variante na plataforma Genoa, sob consulta
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.