Kentino AI 64 Rome 5080 3600TOPS — Servidor de IA económico 4x RTX 5080
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 64 Rome 5080 3600TOPS
Servidor Blackwell de 4 GPU asequible
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
El servidor Blackwell de 4 GPU más asequible de Kentino: 64 GB de VRAM agrupada, 3 600 TOPS INT8 agregados y el menor coste en CZK por TOPS de toda la gama.
Un servidor de inferencia Blackwell de 4 GPU construido en torno a la RTX 5080: 360 W por tarjeta, silicio PCIe 5 y 16 GB de GDDR7 en cada una. Cuatro tarjetas ofrecen un volumen de 64 GB de VRAM agrupada y 3 600 TOPS INT8 agregados en el mejor punto de coste en CZK por TOPS que Kentino puede ofrecer. Es la puerta de entrada a la inferencia Blackwell multi-GPU: ideal para clústeres de embeddings, servir modelos de 7-13B a escala, generación de imagen y vídeo por lotes y paralelismo tensorial con 70B Q4.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| VRAM agrupada | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 líneas PCIe 4.0) |
| Placa base | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM del sistema | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Arranque / almacenamiento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | Una sola fuente ATX de 2 kW |
| Chasis | Montaje en rack 4U, 4x GPU, risers pasivos Gen4 x16, flujo de aire dirigido de delante hacia atrás |
| Refrigeración | Disipador tipo torre SP3, 3x admisión frontal de 120 mm + 1x extracción trasera de 120 mm (ventiladores industriales) |
| Red | Doble 10 GbE integrado (Intel X550) + IPMI |
Consumo eléctrico
- Consumo de las GPU: 4 x 360 W = 1 440 W
- Total del sistema a plena carga: ~1 765 W
- Total de la fuente: 2 000 W (una sola ATX de 2 kW): 11.75 % de margen
- Por encima del mínimo del 10 %, pero más justo que en otras configuraciones de 4 GPU; se recomienda ampliar a doble fuente para cargas de trabajo intensivas
Topología de líneas PCIe
La ROMED8-2T reparte 4x16 Gen4 desde el root complex de la CPU. La 5080 es silicio PCIe Gen5 funcionando a Gen4 x16 sin cuello de botella de ancho de banda para inferencia. Sin conmutador PCIe. Sin NVLink: el paralelismo tensorial va por PCIe.
Qué puede ejecutar
Con 64 GB de VRAM agrupada entre 4 tarjetas Blackwell, este servidor asume paralelismo tensorial con 70B Q4, clústeres de embeddings a escala, canalizaciones de imagen y vídeo por lotes y servicio multiinquilino de 7-13B para 64-128 usuarios simultáneos.
LLM: texto / razonamiento / programación
Vanguardia china
- Qwen3-32B Q8 (denso, con calidad cercana a fp16); Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, entra justo)
- Qwen3.5-122B-A10B Q4 (~70-75 GB: justo, con descarga a la RAM DDR4)
- Hunyuan-A13B fp8 (~80 GB nativo: justo, mejor Q6)
- Seed-OSS-36B bf16 (~72 GB, justo)
- DeepSeek-R2 32B MoE disperso bf16 (~64 GB) (~45-60 tok/s en flujo único a Q4 en Blackwell, referencia publicada)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB): margen de KV ajustado
- ERNIE-4.5-47B-A3B Q4 (~28 GB, con margen para un segundo modelo)
Vanguardia occidental
- Llama 3.3 70B Q4_K_M (~43 GB): el punto óptimo para esta VRAM agrupada (~30-36 tok/s en flujo único con 4x 5080, referencia publicada)
- Hermes 3 70B / Tulu 3 70B Q4: derivados abiertos de Llama con total transparencia en el postentrenamiento
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodal
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB: 4 instancias en 4 tarjetas para inquilinos en paralelo); gpt-oss-120b MXFP4 (80 GB: justo, con descarga asumible)
Visión y lenguaje
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B; InternVL3.5-38B Q6-Q8; Llama 3.2 90B Vision Q4 (~52 GB, justo); Pixtral 12B / Pixtral Large 124B Q2-Q3; Gemma 3 27B multimodal bf16; PaliGemma 2 28B bf16; Molmo 72B Q4 (~45 GB); Aya Vision 32B bf16.
Generación de imagen
FLUX.1 [dev] / [schnell] fp16: lotes de 4 en paralelo (~10-15 segundos por imagen de 1024x1024 a fp8 en Blackwell, referencia publicada); FLUX.1 Kontext [dev]: edición en contexto para 4 inquilinos; SD 3.5 Large (18 GB fp16): 4 generadores en paralelo; pilas SDXL 1.0 + ControlNet + AnimateDiff x 4; HunyuanImage-2.1 bf16 por tarjeta; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Generación de vídeo
Wan 2.2 TI2V-5B bf16 en una sola tarjeta: 4 inquilinos en paralelo; Wan 2.1 14B T2V/I2V Q4-Q6 por tarjeta; HunyuanVideo 13B Q4 (~30 GB) con paralelismo tensorial a 2 vías; HunyuanVideo 1.5 (8.3B) bf16 por tarjeta; Open-Sora 2.0 (11B) Q8 por tarjeta: 4 generaciones en paralelo; CogVideoX-5B int8; Mochi-1 Q4 por tarjeta.
Audio / voz / TTS
Toda la pila de audio occidental y china cabe por tarjeta: Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Con 4 tarjetas, cada una puede alojar un inquilino de voz dedicado. Whisper v3 turbo funciona a ~50x tiempo real por tarjeta (referencia publicada).
Multimodelo / multiinquilino
El caso de uso principal. Los 16 GB por tarjeta sacan partido a las cargas de trabajo repartidas:
- Clúster de embeddings: BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3: 4 inquilinos con alto número de peticiones por segundo
- Servicio de 7-13B a escala: 16-32 usuarios simultáneos por tarjeta mediante vLLM / SGLang; 64-128 simultáneos en total
- Canalización mixta: tarjeta 1 = Qwen3-14B + reranker; tarjeta 2 = Whisper + Moshi; tarjeta 3 = FLUX.1; tarjeta 4 = Wan 2.2 TI2V
- Paralelismo tensorial a 4 vías para 70B Q4: Llama 3.3 70B AWQ INT4 repartido entre 4 tarjetas, ~90-130 tok/s agregados por lotes (extrapolado del banco de pruebas 4x4090 de gf-logic)
Cargas de trabajo objetivo
- Plataforma asequible de servicio de IA multi-GPU para una startup o un laboratorio con un presupuesto de inversión ajustado
- Infraestructura de embeddings y RAG con escalado horizontal a 4 vías
- Granja de generación de imagen y vídeo por lotes (Stable Diffusion / FLUX / Wan 2.2)
- Servicio a escala de modelos pequeños de 7-13B: 4 inquilinos independientes o 64-128 usuarios simultáneos agrupados
- Equipo de preproducción para flujos de trabajo con paralelismo tensorial de 70B Q4
Referencias de rendimiento publicadas
Medido por Kentino (referencia 4x4090) + estimaciones publicadas de la 5080
| Prueba | Resultado |
|---|---|
| Referencia 4x4090: fp16 sostenido | 647 TFLOPS |
| Referencia 4x4090: vLLM Llama 3.3 70B AWQ (lotes de 32) | 179.3 tok/s agregados |
| Referencia 4x4090: llama.cpp 70B Q4_K_M (único) | 20.3 tok/s de decodificación |
| Estimación 5080: Llama 3.3 70B Q4 TP-4 único | ~15-20 tok/s |
| Estimación 5080: FLUX.1 fp8 por tarjeta | ~2.2-2.8 s por imagen de 1024x1024 con 20 pasos |
El rendimiento tensorial de la 5080 es ~1.35x el de la 4090 por TOPS INT8; la decodificación en flujo único está limitada por el ancho de banda de memoria (GDDR7 ~960 GB/s frente a ~1 008 GB/s de la 4090, prácticamente a la par).
No es la opción ideal para
- Modelos densos de 70B a Q6 o superior (los 16 GB por tarjeta limitan el espacio por tarjeta; 64 GB agrupados son justos para Q6)
- Buques insignia MoE de contexto largo (Qwen3-235B, GLM-4.5): VRAM insuficiente incluso a Q2
- Trabajo sensible a la latencia en flujo único con modelos muy grandes (la sobrecarga del paralelismo tensorial se come las tarjetas de 16 GB)
Garantía y plazo de entrega
El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, pruebas de rodaje y verificación funcional. El plazo de entrega depende de la disponibilidad de componentes y se confirma al realizar el pedido.
Complementos recomendados
- Ampliar a doble fuente ATX de 2 kW sincronizada: eleva el margen al 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Ampliar la unidad de arranque a 4 TB NVMe
- Ampliar la RAM a 384 GB (6x 64 GB): mejor margen para varios modelos simultáneos
- PDU de rack (C13/C19 con medición) y SAI online de 3 kVA
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.