Kentino AI 48 Rome 4090 1322TOPS — Servidor de IA de entrada 2x RTX 4090
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 48 Rome 4090 1322TOPS
Servidor de entrada de 2 GPU con 48 GB de VRAM
2x RTX 4090 | EPYC Rome | 1 322 TOPS INT8
Pool de 48 GB de VRAM entre dos RTX 4090: el suelo de coste para la inferencia tensor-paralela de clase 32B.
Un servidor de IA de clase estación de trabajo con dos GPU Ada, construido sobre ROMED8-2T / EPYC Rome. Dos RTX 4090 aportan un pool de 48 GB de VRAM que ejecuta con holgura modelos densos de 32B a Q6-Q8, Hunyuan-A13B a Q6, vídeo con Wan 2.1 14B y visión con Pixtral 12B: la mejor selección global de modelos por euro de toda la gama Kentino antes de dar el salto a Blackwell.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 2x NVIDIA GeForce RTX 4090 24 GB GDDR6X (450 W, PCIe 4.0 x16) |
| Pool de VRAM | 48 GB (sin NVLink: tensor-paralelo sobre PCIe) |
| CPU | AMD EPYC 7542 Rome (32C/64T, 225 W, 128 líneas PCIe 4.0) |
| Placa base | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM del sistema | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Arranque / almacenamiento | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | Una sola PSU ATX de 2 kW |
| Chasis | Montaje en rack 4U, risers pasivos Gen4 x16 |
| Refrigeración | Disipador tipo torre SP3, 3x 120 mm de entrada frontal + 1x 120 mm de extracción trasera |
| Red | Doble 10 GbE integrado (Intel X550) + IPMI |
Consumo eléctrico
- Consumo de las GPU: 2 x 450 W = 900 W
- Total del sistema a plena carga: ~1 225 W
- Total de la PSU: 2 000 W (una sola ATX de 2 kW): 38.75 % de margen
- Margen holgado con una sola PSU
Topología de líneas PCIe
La ROMED8-2T reparte 2x16 directamente desde el root complex de la CPU, sin switch PLX. La 4090 de consumo no tiene NVLink; el tensor-paralelo se comunica por PCIe. PCIe Gen4 x16 en ambas GPU.
Qué puede ejecutar
Con 48 GB de VRAM agrupada entre 2 tarjetas, este servidor maneja LLM densos de clase 32B a Q6-Q8, buques insignia MoE, generación de imagen y vídeo, IA de voz y servicio multiinquilino.
LLM — texto / razonamiento / programación
Frontera china
- Qwen3-32B denso Q6-Q8 (~25-35 tok/s en flujo único con 2x 4090, referencia publicada); QwQ-32B Q6; Qwen3.5-27B Q6-Q8
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, justo; use Q6)
- Hunyuan-A13B Q6 o fp8 (~48 GB): MoE 80B/13B, 256k de contexto
- Seed-OSS-36B Q6: 512k de contexto nativo
- DeepSeek-R2 MoE disperso 32B bf16 (~64 GB, justo: mejor Q6 ~45 GB) (~30-40 tok/s en flujo único a Q4, referencia publicada)
- ERNIE-4.5-47B-A3B Q4 (~28 GB con margen) / Q6 (~42 GB)
Frontera occidental
- Llama 3.3 70B Q4_K_M (~43 GB) con tensor-paralelo a 2 vías: el punto dulce de esta categoría (~14-17 tok/s en flujo único con 2x 4090, referencia publicada)
- Llama 4 Scout MoE 109B/17B Q3_K (~51 GB, justo)
- Mistral Small 3 / Magistral Small / Devstral Small 2 (24B) bf16
- Mixtral 8x7B Q6
- Gemma 3 27B bf16; Phi-4 14B bf16
- Nemotron-Super 49B Q4 (~28 GB)
- Otros: OLMo 2 32B; Reka Flash 3 21B bf16; Falcon H1R 7B
Visión-lenguaje
Qwen3-VL-32B / Qwen3-VL-30B-A3B MoE / Qwen3-Omni-30B-A3B; InternVL3-38B Q4-Q5; InternVL3.5-38B; DeepSeek-VL2; ERNIE-4.5-VL-28B-A3B-Thinking; Llama 3.2 11B Vision bf16; Pixtral 12B bf16; Gemma 3 27B multimodal; PaliGemma 2 28B Q4; MiniCPM-V 2.6 / MiniCPM-o 2.6.
Generación de imagen
FLUX.1 [dev] / [schnell] fp16 (24 GB) o fp8 (~12 GB) con lotes generosos (~15-25 segundos por imagen de 1024x1024 a fp8 y por tarjeta, referencia publicada); FLUX.1 Kontext [dev]; SD 3.5 Large (18 GB fp16); SDXL 1.0 + ControlNet + AnimateDiff; HunyuanImage-2.1 bf16 (~34 GB, cabe en el pool); AuraFlow v0.3 / OmniGen v1 / Kolors 2.0.
Generación de vídeo
Wan 2.1 14B T2V/I2V Q6/fp8; Wan 2.2 TI2V-5B bf16 en una sola tarjeta; Wan 2.2 T2V-A14B / I2V-A14B Q4 (~32 GB); HunyuanVideo 13B Q4-Q5 (~30 GB); HunyuanVideo 1.5 (8.3B) bf16; Open-Sora 2.0 (11B) Q8; CogVideoX-5B / 1.5 bf16; Mochi-1 Q4-Q8; LTX-Video 2B; Pyramid Flow 2B.
Audio / voz / TTS
Toda la pila de la gama de 24 GB cabe con espacio para uso simultáneo: Whisper v3 large + Parakeet-TDT + Canary 1B + Moshi + Step-Audio 2 mini + CosyVoice 3.0 + Kokoro 82M + Stable Audio Open pueden residir todos a la vez. Whisper v3 turbo funciona a ~50x tiempo real en una sola tarjeta (referencia publicada).
Multimodelo / multiinquilino
- 2-4 usuarios simultáneos con LLM de clase 32B Q6 mediante tensor-paralelo en vLLM
- Carga de trabajo mixta: Qwen3-32B Q6 (~20 GB) + FLUX.1 fp8 (~12 GB) + Whisper-turbo (1.6 GB) + Moshi (8 GB) residentes en 2 tarjetas
- Ajuste fino LoRA / QLoRA de modelos de 7-14B con holgura; 24-32B justo
Cargas de trabajo objetivo
- Estación de trabajo de IA para dos operadores con pilas mixtas de LLM + imagen + audio
- Endpoint de servicio de clase 32B para un entorno de desarrollo de equipo pequeño (4-8 usuarios simultáneos con Qwen3-32B / Gemma 3 27B)
- Pipeline de generación de imagen (FLUX.1 + SD 3.5 + ControlNet) para producción por lotes
- Equipo de desarrollo de generación de vídeo (Wan 2.1 / Wan 2.2 TI2V / HunyuanVideo 1.5)
- Equipo de investigación de ajuste fino LoRA / QLoRA para pesos chinos y occidentales de 7-34B
Referencias de rendimiento publicadas
Referencia publicada | hardware comparable con 2x RTX 4090
| Benchmark | Resultado |
|---|---|
| Decodificación de Llama 3.3 70B Q4_K_M en llama.cpp | ~14-17 tok/s en flujo único |
| Qwen3-32B Q6 en vLLM, flujo único | ~35-45 tok/s de decodificación |
| FLUX.1 [dev] fp8 | ~2.5-3.0 s por 1024x1024 con 20 pasos |
| Agregado de vLLM con lote 32 (extrapolado de 4x4090) | ~90 tok/s agregados |
Puntos de referencia publicados de hardware comparable con 2x4090. No medidos en hardware de Kentino.
No es la opción ideal para
- 70B denso a Q6+ (requiere un pool de 96 GB: pase a 4x RTX 4090 o 4x RTX 5090)
- MoE de frontera de más de 100B a bf16 (GLM-4.5, Kimi K2, Mistral Large 3)
Garantía y plazo de entrega
El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, pruebas de burn-in y verificación funcional. El plazo de entrega depende de la disponibilidad de componentes y se confirma en el pedido.
Complementos recomendados
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Ampliar la unidad de arranque a 2 TB NVMe
- Ampliar la RAM a 256 GB (4x 64 GB): más margen de caché KV para MoE de contexto largo
- PDU de rack (C13/C19 con medición) y SAI online de 2 kVA
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.