Kentino AI 64 Rome 5080 3600TOPS — servidor de IA económico
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 64 Rome 5080 3600TOPS
Servidor Blackwell de 4 GPU económico
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
O servidor Blackwell de 4 GPU económico da Kentino — pool de 64 GB de VRAM, 3 600 TOPS INT8 agregados, o melhor custo em CZK por TOPS da gama.
Um servidor de inferência Blackwell de 4 GPU construído em torno da RTX 5080 — 360 W por placa, silício PCIe 5, 16 GB de GDDR7 em cada uma. Quatro placas oferecem um envelope de 64 GB de VRAM em pool e 3 600 TOPS INT8 agregados, no melhor ponto de CZK por TOPS que a Kentino oferece. A porta de entrada na inferência Blackwell multi-GPU: ideal para clusters de embeddings, serviço de modelos 7-13B à escala, geração de imagem / vídeo em lote e 70B Q4 em tensor parallel.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| pool de VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Arranque / armazenamento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Fonte ATX única de 2 kW |
| Chassis | Montagem em rack 4U, 4x GPU, risers Gen4 x16 passivos, fluxo de ar dirigido da frente para trás |
| Arrefecimento | Cooler tower SP3, 3x entrada frontal de 120 mm + 1x exaustão traseira de 120 mm (ventoinhas industriais) |
| Rede | Duplo 10 GbE integrado (Intel X550) + IPMI |
Envelope de potência
- Consumo das GPU: 4 x 360 W = 1 440 W
- Total do sistema em plena carga: ~1 765 W
- Total da fonte: 2 000 W (ATX única de 2 kW) — 11.75 % de margem
- Acima do mínimo de 10 %, mas mais apertado do que noutras configurações de 4 GPU; recomenda-se a atualização para fonte dupla em cargas de trabalho intensivas
Topologia de lanes
A ROMED8-2T distribui 4x16 Gen4 a partir do root complex do CPU. A 5080 é silício PCIe Gen5 a funcionar em Gen4 x16, sem estrangulamento de largura de banda para inferência. Sem switch PCIe. Sem NVLink — tensor parallel sobre PCIe.
O que pode executar
Com 64 GB de VRAM em pool nas 4 placas Blackwell, este servidor suporta 70B Q4 em tensor parallel, clusters de embeddings à escala, pipelines de geração de imagem e vídeo em lote e serviço multi-inquilino de modelos 7-13B para 64-128 utilizadores em simultâneo.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3-32B Q8 (denso, com qualidade próxima de fp16); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, fica apertado)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — apertado, com spill para a RAM DDR4)
- Hunyuan-A13B fp8 (~80 GB nativo — apertado, prefira Q6)
- Seed-OSS-36B bf16 (~72 GB, apertado)
- DeepSeek-R2 32B MoE esparso bf16 (~64 GB) (~45-60 tok/s em stream único a Q4 em Blackwell, referência publicada)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — pouca margem para a cache KV
- ERNIE-4.5-47B-A3B Q4 (~28 GB, com margem para um segundo modelo)
Fronteira ocidental
- Llama 3.3 70B Q4_K_M (~43 GB) — o ponto ideal para este pool (~30-36 tok/s em stream único em 4x 5080, referência publicada)
- Hermes 3 70B / Tulu 3 70B Q4 — derivados abertos do Llama com total transparência de pós-treino
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodal
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 instâncias em 4 placas para inquilinos em paralelo); gpt-oss-120b MXFP4 (80 GB — apertado; spill controlável)
Visão-linguagem
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, apertado); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodal bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Geração de imagem
FLUX.1 [dev] / [schnell] fp16 — em paralelo com lotes de 4 (~10-15 segundos por imagem 1024x1024 a fp8 em Blackwell, referência publicada); FLUX.1 Kontext [dev] — edição em contexto para 4 inquilinos; SD 3.5 Large (18 GB fp16) — 4 geradores em paralelo; stacks SDXL 1.0 + ControlNet + AnimateDiff x 4; HunyuanImage-2.1 bf16 por placa; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Geração de vídeo
Wan 2.2 TI2V-5B bf16 numa única placa — 4 inquilinos em paralelo; Wan 2.1 14B T2V/I2V Q4-Q6 por placa; HunyuanVideo 13B Q4 (~30 GB) em tensor parallel a 2 vias; HunyuanVideo 1.5 (8.3B) bf16 por placa; Open-Sora 2.0 (11B) Q8 por placa — 4 gerações em paralelo; CogVideoX-5B int8; Mochi-1 Q4 por placa.
Áudio / Voz / TTS
Toda a stack de áudio ocidental e chinesa cabe em cada placa: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Com 4 placas, cada uma pode alojar um inquilino de voz dedicado. O Whisper v3 turbo corre a ~50x o tempo real por placa (referência publicada).
Multimodelo / multi-inquilino
O caso de utilização alvo. Os 16 GB por placa compensam cargas de trabalho particionadas:
- Cluster de embeddings: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 inquilinos com RPS elevado
- Serviço de modelos 7-13B à escala: 16-32 utilizadores simultâneos por placa via vLLM / SGLang; 64-128 em simultâneo no total
- Pipeline misto: Placa 1 = Qwen3-14B + reranker; Placa 2 = Whisper + Moshi; Placa 3 = FLUX.1; Placa 4 = Wan 2.2 TI2V
- Tensor parallel a 4 vias para 70B Q4 — Llama 3.3 70B AWQ INT4 nas 4 placas, ~90-130 tok/s agregados em lote (extrapolado do benchmark gf-logic 4x4090)
Cargas de trabalho alvo
- Plataforma económica de serviço de IA multi-GPU para uma startup ou laboratório com capex limitado
- Infraestrutura de embeddings + RAG com escala horizontal a 4 vias
- Farm de geração de imagem / vídeo em lote (Stable Diffusion / FLUX / Wan 2.2)
- Serviço à escala de modelos pequenos 7-13B — 4 inquilinos independentes ou 64-128 em simultâneo em pool
- Máquina de staging para fluxos de trabalho de desenvolvimento 70B Q4 em tensor parallel
Referências de desempenho publicadas
Medições da Kentino (referência 4x4090) + estimativas publicadas da 5080
| Benchmark | Resultado |
|---|---|
| Referência 4x4090: fp16 sustentado | 647 TFLOPS |
| Referência 4x4090: vLLM Llama 3.3 70B AWQ (lote de 32) | 179.3 tok/s agregados |
| Referência 4x4090: llama.cpp 70B Q4_K_M (único) | 20.3 tok/s de descodificação |
| 5080 estimado: Llama 3.3 70B Q4 TP-4 único | ~15-20 tok/s |
| 5080 estimado: FLUX.1 fp8 por placa | ~2.2-2.8 s por 1024x1024 com 20 passos |
O débito tensorial da 5080 é ~1.35x o da 4090 por TOPS INT8; a descodificação em stream único é limitada pela largura de banda de memória (GDDR7 ~960 GB/s vs 4090 ~1 008 GB/s — praticamente equivalentes).
Menos indicado para
- 70B denso a Q6+ (os 16 GB por placa limitam o espaço por placa; o pool de 64 GB fica apertado para Q6)
- MoE de topo com contexto longo (Qwen3-235B, GLM-4.5) — VRAM insuficiente, mesmo a Q2
- Trabalho em stream único sensível à latência em modelos muito grandes (a sobrecarga de TP consome as placas de 16 GB)
Garantia e prazo de entrega
A construção inclui montagem, configuração da BIOS, instalação de drivers, testes de burn-in e verificação funcional. O prazo de entrega depende da disponibilidade dos componentes e é confirmado na encomenda.
Extras recomendados
- Atualizar a fonte para duas ATX de 2 kW sincronizadas — aumenta a margem para 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Atualizar o disco de arranque para NVMe de 4 TB
- Atualizar a RAM para 384 GB (6x 64 GB) — mais margem para concorrência multimodelo
- PDU de rack (C13/C19 com medição) e UPS online de 3 kVA
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.