Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS — Servidor de IA Frontier con 8× RTX Pro 6000 Blackwell Max-Q (Turin dual)
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 768 TurinDual RTXPro6000MQ 16000TOPS
Buque insignia de frontera con 768 GB de VRAM ECC
8x RTX Pro 6000 Max-Q | EPYC Turin dual | 16 000 TOPS INT8
El precio de las CPU se cierra en el momento del pedido: el mercado de la serie Turin 9005 se mueve cada semana en el segundo trimestre de 2026.
Referencias externas publicadas. No medidas en hardware de Kentino.
La cima de la gama de servidores de IA de Kentino. Una plataforma de inferencia de nivel frontera, insignia, en formato rack de 7U, con ocho tarjetas NVIDIA RTX Pro 6000 Blackwell Max-Q turbofan agrupadas en 768 GB de VRAM ECC, dos CPU AMD EPYC Turin de la serie 9005 (Zen5c, SP5), 1.5 TB de DDR5-4800 ECC (los 24 canales poblados), 4 TB de NVMe de arranque y 5x fuentes de alimentación de servidor de 1200 W. PCIe Gen5 de extremo a extremo. DeepSeek V3 fp8 nativo (~670 GB) en las tarjetas. Kimi-K2 Q4-Q5. 4 modelos de clase frontera residentes a la vez.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 8x NVIDIA RTX Pro 6000 Blackwell Max-Q de 96 GB ECC (turbofan, 600 W de TDP según especificación, PCIe 5.0 x16, 2000 TOPS INT8 por tarjeta, fp8 nativo) |
| Pool de VRAM | 768 GB en total entre 8 tarjetas (sin NVLink: P2P sobre PCIe Gen5 a ~55-60 GB/s dentro del socket, entre sockets vía interconexión de CPU) |
| CPU | 2x AMD EPYC Turin serie 9005 (Zen5c, SP5, PCIe 5.0) — pendiente de presupuesto, SKU exacta confirmada en el pedido |
| Placa base | ASRock Rack TURIN2D24XGM/500W (SP5 Turin dual, PCIe 5.0, 24x DDR5, 2x 10 GbE, IPMI) |
| RAM del sistema | 1.5 TB DDR5-4800 ECC RDIMM (24x 64 GB: los 24 canales poblados, ~920 GB/s agregados) |
| Arranque / almacenamiento | 4 TB NVMe M.2 (PCIe 4.0 x4) — dimensionado para checkpoints de frontera |
| Fuente de alimentación | Conjunto de 5x fuentes de servidor de 1200 W (6 kW en total) |
| Chasis | Rack de 7U para 8 GPU, capacidad para 10 slots PCIe, risers Gen5 activos |
| Refrigeración | 2x disipadores torre para SP5 Turin + 8x ventiladores de chasis Martech de 120 mm. Los turbofan de cada GPU son autónomos. |
| Red | Doble 10 GbE integrado (Intel X550) |
Envolvente de potencia
- Consumo de GPU (especificación): 8 x 600 W = 4 800 W
- Consumo de CPU: 2 x 360 W = 720 W (estimación para Turin de gama media)
- Total del sistema a plena carga según especificación: ~5 720 W
- Total de las fuentes: 6 000 W — ~4.7% de margen bruto según especificación
- En la práctica: las Max-Q se mantienen en 520-550 W en inferencia, lo que eleva el margen sostenido a más del ~20%
- Límite de potencia por firmware a 520 W disponible para garantizar margen
Topología de líneas
El Turin dual aporta 2x 128 líneas PCIe Gen5. La TURIN2D24XGM/500W conecta los 8 slots de GPU directamente a las CPU a Gen5 x16 mediante risers activos: 4 slots por raíz de CPU. Sin conmutador PCIe en la ruta de las GPU, una topología limpia de doble raíz. Se requiere ajuste de NUMA para un peer-to-peer óptimo entre sockets. Sin NVLink; P2P a ~55-60 GB/s por sentido dentro del socket.
Qué puede ejecutar
Con 768 GB de VRAM ECC agrupada —el tope de la gama Kentino—, este servidor ejecuta DeepSeek V3 fp8 nativo (~670 GB) en las tarjetas, Kimi-K2 Q4-Q5 (~630 GB) con holgura y el caso de uso que lo define: 4 modelos de clase frontera residentes a la vez para servicio multiinquilino en producción.
LLM: texto / razonamiento / programación
Frontera china en cuantizaciones de producción
- Kimi-K2 (Base / Instruct / Thinking) en Q4_K_M / Q5_K_M (~630 GB) con holgura (~15-25 tok/s en single, referencia publicada): el buque insignia chino de frontera en una sola máquina y en cuantizaciones de producción
- DeepSeek V3 / R1 / V3.1 / V3.2 en fp8 nativo (~670 GB) en las tarjetas (~30-50 tok/s en single, referencia publicada): los tensor cores fp8 de Blackwell lo ejecutan de forma nativa y rápida
- DeepSeek V3 en Q4_K_M (~404 GB) con varias instancias simultáneas de servicio en lotes grandes
- GLM-5 / GLM-5.1 (~745B/44B) en Q3-Q4 (~420-560 GB) con holgura en las tarjetas
- Intern-S1-Pro (1T/22B activos, SAGE) en Q3-Q4 (~440-580 GB) con holgura
- Qwen3-Coder-480B-A35B en Q5-Q6 (~340-400 GB) con contexto de 1M
- Qwen3-235B-A22B en bf16 (~470 GB) con KV generoso para contextos largos
- ERNIE-4.5-424B-A47B en Q6 (~360 GB); Hunyuan-Large en fp8 (~390 GB)
- MiniMax-Text-01 / M1 en Q5-Q6 (~325-390 GB)
Frontera occidental en cuantizaciones de producción
- Mistral Large 3 (675B/41B MoE, Apache 2.0) en Q3-Q4 (~317-404 GB) con holgura (~20-30 tok/s en single, referencia publicada)
- Llama 4 Maverick (400B/17B, 128 expertos) en Q5-Q6 (~290-350 GB)
- Llama-3.1-Nemotron Ultra 253B en bf16 (~506 GB) en las tarjetas
- Snowflake Arctic en Q5-Q6 (~350-420 GB); Grok-1 en Q5-Q6 (~225-270 GB)
- DBRX Instruct 132B/36B en bf16 (~264 GB) en multiinstancia
Modelos de visión y lenguaje
Qwen3-VL-235B-A22B, el VLM insignia con contexto largo; InternVL3.5-241B-A28B en bf16 (~482 GB); GLM-4.5V / 4.6V 106B bf16 en multiinstancia; Llama 3.2 90B Vision bf16 en multiinstancia; Pixtral Large 124B bf16; Molmo 72B bf16 en multiinstancia.
Generación de imagen
Instancias simultáneas de HunyuanImage-3.0 Instruct; FLUX.1 en multiinstancia (~15-20 s por imagen de 1024x1024, referencia publicada); SD 3.5 Large; SDXL; AuraFlow; OmniGen; HunyuanImage-2.1; Kolors 2.0: todo el stack de imagen chino y occidental residente de forma simultánea.
Generación de vídeo
Wan 2.2 T2V-A14B / I2V-A14B: muchos flujos simultáneos; HunyuanVideo 13B bf16 con varios flujos simultáneos; Open-Sora 2.0 (11B) en multiinstancia; Mochi-1 (10B) en multiinstancia; NVIDIA Cosmos Predict 2 hasta 14B.
Audio / voz / TTS
Stack completo residente en lotes: Whisper v3 large, Parakeet-TDT, Canary 1B, Moshi 7B en tiempo real, Qwen3-Omni, Step-Audio R1, CosyVoice 3.0, Kokoro, Stable Audio Open.
Servicio multimodelo y multiinquilino (el caso de uso que lo define)
- Producción de frontera multiinquilino: 4 modelos de clase frontera residentes a la vez —por ejemplo DeepSeek V3 fp8 + Kimi-K2 Q4 + Mistral Large 3 Q3 + Qwen3-Coder-480B Q5— con VRAM particionada y SLO por inquilino
- Inferencia simultánea fp8 nativa en Blackwell (familia DeepSeek V3 / R1, Hunyuan fp8) más servicio cuantizado en dominios PCIe separados
- Investigación A/B entre 4-5 modelos de frontera de pesos abiertos en cuantizaciones de nivel investigación
- Plataforma agéntica con un modelo principal de más de 400B y varios especialistas de 30-70B residentes
Cargas de trabajo objetivo
- Producción multiinquilino con modelos de frontera de pesos abiertos: varios modelos de frontera residentes a la vez con aislamiento por inquilino
- Despliegue soberano de IA de frontera: acceso on-premise a DeepSeek V3 fp8 / Kimi-K2 / Mistral Large 3, con residencia de datos en la UE
- Laboratorio de investigación de frontera con evaluación A/B entre más de 4 modelos de frontera de pesos abiertos en cuantizaciones de nivel investigación
- Plataforma agéntica empresarial en la que un MoE de más de 400B gobierna las herramientas y varios modelos especialistas
- Inferencia air-gapped a escala de frontera para sectores regulados, con ECC y PCIe Gen5
Referencias de rendimiento publicadas
Referencias externas | No medidas en hardware de Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por tarjeta RTX Pro 6000 | 2 000 TOPS |
| vLLM — DeepSeek V3 fp8 en 8x RTX Pro 6000 (single) | ~30-50 tok/s |
| vLLM — DeepSeek V3 fp8 en 8x RTX Pro 6000 (lote de 32) | 300-500 tok/s agregados |
| Servicio de Kimi-K2 Q4 en 8x RTX Pro 6000 (single) | ~15-25 tok/s |
| FLUX.1 [dev] fp8 en una sola RTX Pro 6000 | ~15-20 s por imagen de 1024x1024 |
Las cifras exactas se confirman en la fase de prueba de concepto. Kentino publicará datos propios tras la primera instalación de cliente.
No es la opción ideal para
- Despliegues con presupuesto ajustado: es la SKU insignia y tiene precio de insignia
- Entrenar desde cero modelos de clase frontera: sin NVLink, solo P2P por PCIe (para entrenar a esta escala, la herramienta adecuada es H100/H200 SXM o el tejido NVLink de GB200)
- Despliegues «plug and play»: servir MoE de frontera en multiinquilino exige un equipo de MLOps experto
Garantía y plazo de entrega
El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, rodaje, memtest, verificación funcional, ajuste de NUMA y preparación del entorno de LLM (stack vLLM / SGLang / llama.cpp / CUDA 13 con kernels fp8 de Blackwell). El plazo de entrega depende de la disponibilidad de componentes y se confirma en el pedido.
Complementos recomendados
- NIC NVIDIA ConnectX-5 MCX555A-ECAT o ConnectX-7 Gen5 de 100 GbE para escalado multinodo
- Mellanox ConnectX-6 25 GbE SFP28 para tejido de centro de datos
- Un segundo NVMe de 4 TB para la biblioteca de conjuntos de datos y modelos (los checkpoints de frontera son enormes: solo Kimi-K2 bf16 ocupa ~1 TB)
- Armario rack completo de 24U con puerta frontal perforada y PDU gestionada
- SAI online de 10 kVA (apagado controlado ante un corte de corriente)
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.