Kentino AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 384 Rome RTXPro6000MQ 8000TOPS
Servidor de laboratorio con 384 GB de VRAM ECC
4x RTX Pro 6000 Max-Q Turbofan | EPYC Milan | 8 000 TOPS INT8
Referencias externas publicadas. No medidas en hardware de Kentino.
Un servidor de inferencia de 4U para montaje en rack con cuatro tarjetas NVIDIA RTX Pro 6000 Blackwell Max-Q turbofan (blower) de 96 GB ECC cada una, agrupadas en un pool de 384 GB de VRAM ECC, una CPU AMD EPYC 7643 Milan (48C/96T), 384 GB DDR4-2666 ECC, 2 TB NVMe de arranque y doble fuente de alimentación ATX de 2.5 kW sincronizadas. El mismo silicio Blackwell que la Server Edition —idéntico perfil de inferencia, idéntico rendimiento— con un refrigerador blower más silencioso, adecuado para entornos de laboratorio, I+D y contiguos a la oficina.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 4x NVIDIA RTX Pro 6000 Blackwell Max-Q 96 GB ECC (refrigerador turbofan / blower, 600 W TGP, PCIe 5.0 x16, 2000 TOPS INT8 por tarjeta, fp8 nativo) |
| Pool de VRAM | 384 GB ECC agregados entre 4 tarjetas |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 líneas PCIe 4.0) |
| Placa base | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM del sistema | 384 GB DDR4-2666 ECC RDIMM (6x 64 GB — 2 zócalos DIMM libres para ampliar a 512 GB) |
| Arranque / almacenamiento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | 2x ATX de 2.5 kW con cable de sincronización de doble fuente (5 kW agregados) |
| Chasis | 4U para montaje en rack |
| Refrigeración | Disipador de torre SP3 (clase Arctic Freezer 4U-M) + flujo de aire dirigido de delante hacia atrás (3x admisión frontal de 120 mm + 1x extracción trasera de 120 mm). Las tarjetas GPU se autorrefrigeran mediante blower turbofan (extracción trasera), más silencioso para entornos de laboratorio. |
| Red | Doble 10 GbE integrado (Intel X550) |
Perfil de consumo
- Consumo de GPU: 4 x 600 W = 2 400 W
- Total del sistema a plena carga: ~2 775 W
- Total de las fuentes: 5 000 W (dos de 2.5 kW sincronizadas): 44.5% de margen
- Doble fuente para repartir la entrega de potencia: el fallo de una fuente supone perder 2 GPU, o 2 GPU más la placa base
Perfil térmico (Max-Q)
Max-Q utiliza un refrigerador turbofan (blower) con extracción direccional por la parte trasera de la tarjeta. Punto caliente de GPU previsto de 72-80 C con carga continua. Materialmente más silencioso que las tarjetas pasivas en un chasis de alta presión estática. Más adecuado para flujos de aire ajenos al centro de datos, racks abiertos o ubicaciones de laboratorio y contiguas a la oficina. El silicio, el TDP, la ECC y el rendimiento son idénticos a los de la Server Edition.
Qué puede ejecutar
Idéntico a la Server Edition (Kentino AI 384 Rome RTXPro6000): mismo silicio Blackwell, mismo pool de 384 GB ECC, mismo fp8 nativo, misma compatibilidad de modelos. La diferencia es acústica, no computacional.
LLM: texto / razonamiento / programación
Frontera china
- DeepSeek V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 Q3 (~290 GB) holgadamente en tarjeta (~30-40 tok/s en petición única, referencia publicada); fp8 nativo (~670 GB) con volcado a RAM
- Qwen3-Coder-480B-A35B Q3 (~350 GB, justo, con volcado a RAM): agente de programación abierto SOTA (~18-25 tok/s en petición única, referencia publicada)
- Qwen3-235B-A22B Q6/Q8 (~200-280 GB) con contexto largo y batching multiusuario
- GLM-5 / GLM-5.1 Q3 (~317 GB): frontera china, cerca de Claude Opus 4.6 en programación
- Kimi-K2 UD de 1.58 bits (~240 GB): agente de un billón de parámetros con rendimiento real
- Hunyuan-Large 389B/52B Q4 (~220 GB), fp8 nativo (~390 GB con volcado)
- ERNIE-4.5-424B-A47B Q4 (~240 GB); MiniMax-M1 Q4 (~260 GB) con contexto de 1M
- Llama 3.3 70B bf16 residente en una sola tarjeta (96 GB por tarjeta)
Frontera occidental
- Mistral Large 3 (675B/41B MoE, Apache 2.0) Q3 (~317 GB): pesos abiertos occidentales de frontera (~20-30 tok/s en petición única, referencia publicada)
- Llama 4 Maverick (400B/17B) Q4 (~232 GB) con un presupuesto de KV generoso (~45-55 tok/s en petición única, referencia publicada)
- Llama-3.1-Nemotron Ultra 253B Q4-Q6 (~119-207 GB)
- gpt-oss-120b MXFP4 nativo (80 GB) con margen para una flota concurrente
- Pixtral Large / Mistral Large 2 bf16 (~248 GB); Devstral 2 123B bf16: el mejor modelo abierto de programación con 256k
- Llama 3.3 70B bf16 en una sola tarjeta; es posible desplegar 4 instancias 70B concurrentes
Modelos de visión y lenguaje
Qwen3-VL-235B-A22B bf16 (~240 GB); InternVL3.5-241B-A28B Q4 (~135 GB); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16; Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V 106B bf16 con TP. El fp8 de Blackwell ofrece aproximadamente el doble de rendimiento en la inferencia de la torre de visión frente a Ada.
Generación de imágenes
FLUX.1 [dev] / Kontext / Tools en fp8 nativo (~15-20 s por imagen de 1024x1024 en una sola RTX Pro 6000, referencia publicada); SD 3.5 Large; HunyuanImage-2.1 (17B nativo a 2K); HunyuanImage-3.0 80B/13B MoE; AuraFlow; OmniGen; 4 workers de ComfyUI concurrentes.
Generación de vídeo
Wan 2.2 T2V-A14B / I2V-A14B de doble experto bf16; HunyuanVideo 13B bf16 con ambos expertos; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / voz / TTS
- ASR: Whisper v3 large / turbo; Parakeet-TDT; Canary; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Tiempo real / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Música / efectos: MusicGen / AudioGen / Bark / SeamlessM4T
Servicio multimodelo / multiinquilino
- DeepSeek V3 Q3 + un 70B concurrente + FLUX.1 + Whisper, todos residentes
- Paralelismo de tensores a 4 vías en modelos de clase 350-400B en Q4
- Aislamiento de inquilinos por tarjeta: un Llama 3.3 70B bf16 de 96 GB por tarjeta, 4 silos de inferencia independientes
- RAG multimodelo: lector, reranker, visión y embedder, todos en un mismo host
Cargas de trabajo previstas
- Inferencia de frontera con pesos abiertos para un equipo de laboratorio o I+D en el que el presupuesto acústico importa
- Sala de servidores de un equipo pequeño sin flujo de aire específico de centro de datos: la autorrefrigeración Max-Q tolera la ubicación en rack abierto
- Estación de trabajo de IA contigua a la oficina para un equipo especializado (investigación en ML, herramientas agénticas)
- Servicio nativo en fp8 (DeepSeek / R1 / Hunyuan) en entornos de laboratorio
- Carga de trabajo con aislamiento de 4 inquilinos por tarjeta y presupuesto de ruido
Referencias de rendimiento publicadas
Referencias externas | Mismo silicio que la Server Edition | No medidas en hardware de Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por tarjeta RTX Pro 6000 | 2 000 TOPS |
| Ancho de banda de memoria de la RTX Pro 6000 | ~1 800 GB/s por tarjeta |
| vLLM — DeepSeek V3 Q3 en 4x Blackwell PCIe (petición única) | ~30-40 tok/s |
| vLLM — DeepSeek V3 Q3 en 4x Blackwell PCIe (lote de 8) | ~200 tok/s agregados |
| SGLang — Llama 4 Maverick Q4 en 4x Blackwell (petición única) | ~45-55 tok/s |
| llama.cpp — Qwen3-Coder-480B Q3 en 4x Blackwell (petición única) | ~18-25 tok/s |
| FLUX.1 [dev] fp8 en una sola RTX Pro 6000 | ~1.8 s por imagen de 1024x1024 |
Kentino publicará cifras propias tras el primer montaje para cliente.
No es la opción ideal para
- Despliegues en rack de centro de datos propiamente dicho, con flujo de aire de pasillo caliente ya establecido: elija en su lugar la Server Edition pasiva (Kentino AI 384 Rome RTXPro6000), con el mismo silicio y mecánicamente más sencilla
- Cargas de trabajo de un solo usuario de hasta 70B (4x RTX 5090 sale materialmente más barato para un pool de 128 GB)
- Entrenamiento de frontera desde cero (sin NVLink)
- DeepSeek V3 Q4 completo en tarjeta (~404 GB): amplíe a 6x RTX Pro 6000 / 576 GB
Garantía y plazo de entrega
El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, rodaje, memtest y verificación funcional. El plazo de entrega depende de la disponibilidad de componentes y se confirma al hacer el pedido.
Complementos recomendados
- Ampliar la RAM a 512 GB DDR4 (añadir 2x 64 GB: quedan 2 zócalos DIMM libres) para ganar margen de volcado a RAM con las cuantizaciones Q3 de frontera
- NVMe de 4 TB Gen4 x4 para la biblioteca de modelos de frontera (solo DeepSeek V3 Q3 ocupa ~290 GB en disco)
- Armario rack completo de 24U con PDU gestionada y SAI online
- Alternativa: la Server Edition pasiva (Kentino AI 384 Rome RTXPro6000), con el mismo silicio, para despliegues con flujo de aire de centro de datos
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.