Kentino AI 256 TurinDual 5090 — Buque insignia Zen5c de doble socket con 8× RTX 5090
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 256 TurinDual 5090 13408TOPS
Servidor de inferencia insignia con 256 GB de VRAM
8x RTX 5090 | EPYC Turin dual | 13 408 TOPS INT8
El precio de la CPU se cierra al hacer el pedido: el mercado de la serie Turin 9005 se mueve cada semana en el Q2 de 2026.
Referencias externas publicadas. No medidas en hardware de Kentino.
Servidor de inferencia insignia de 7U para rack con ocho GeForce RTX 5090 (32 GB GDDR7, Blackwell, fp8 nativo) sobre plataforma EPYC Turin de doble socket (Zen5c, SP5) con 768 GB de DDR5-4800 ECC en los 12 canales, 2 TB NVMe de arranque y 5x fuentes de alimentación de servidor de 1200 W. PCIe Gen5 de extremo a extremo hasta la GPU mediante risers activos con retimer/redriver. Ejecuta vLLM, SGLang, llama.cpp, ComfyUI y todos los stacks de inferencia de pesos abiertos importantes sin configuración adicional.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 8x NVIDIA GeForce RTX 5090 32 GB GDDR7 (Blackwell, 575 W TGP, PCIe 5.0 x16, fp8 nativo, 1676 TOPS INT8 por tarjeta) |
| Pool de VRAM | 256 GB agregados entre 8 tarjetas (las RTX 5090 de consumo no llevan NVLink) |
| CPU | 2x AMD EPYC Turin serie 9005 (Zen5c, SP5, PCIe 5.0): precio pendiente de presupuesto al hacer el pedido |
| Placa base | ASRock Rack TURIN2D24XGM/500W (SP5 dual, PCIe 5.0, 24x DIMM DDR5) |
| RAM del sistema | 768 GB DDR5-4800 ECC RDIMM (12x 64 GB: los 12 canales poblados; quedan 12 zócalos para escalar hasta 1.5 TB) |
| Arranque / almacenamiento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | Conjunto de 5x fuentes de servidor de 1200 W (compatibles HP, 6 kW agregados) |
| Chasis | 7U para 8 GPU (hasta 10 slots PCIe, bahías de fuente separadas) |
| Refrigeración | 2x disipadores tipo torre SP5 + flujo de aire frontal-trasero para rack (ventiladores industriales) |
| Risers | 8x PCIe Gen5 x16 activos (retimer/redriver): Gen5 de extremo a extremo |
| Red | 10 GbE integrada (según placa) |
Envolvente de potencia
- Consumo de GPU: 8 x 575 W = 4 600 W
- Total del sistema a plena carga: ~5 520 W
- Total de las fuentes: 6 000 W (5x 1200 W): 8% de margen sobre especificación
- Kentino lo envía con las GPU limitadas a 500 W: el total baja a ~4 920 W (~15% de margen)
Topología de líneas
El Turin dual aporta 2x 128 = 256 líneas PCIe Gen5 en el lado del host. Los risers Gen5 activos llevan Gen5 x16 de extremo a extremo hasta cada GPU, sin necesidad de switch PCIe (una CPU por banco de 4 tarjetas). Sin NVLink; P2P entre GPU a Gen5 x16 (~60 GB/s nominales por enlace).
Qué puede ejecutar
Con 256 GB de VRAM agrupada entre 8 tarjetas Blackwell con fp8 nativo, este servidor apunta a los MoE frontera de 235-480B en Q4 con contexto real, a la familia DeepSeek V3 en Q2 y a Kimi-K2 con cuantización dinámica de 1.58 bits a rendimiento real.
LLM: texto / razonamiento / programación
Frontera china
- Qwen3-235B-A22B (Instruct / Thinking / «2507») Q4 (~132 GB) con contexto largo y batching multiusuario (~25-40 tok/s en flujo único sobre 8x RTX 5090, referencia publicada)
- GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB): razonamiento y programación insignia, 200k de contexto en 4.6+
- GLM-5 / GLM-5.1 Q2 (~260 GB) con ligero desbordamiento a RAM: programación frontera cercana a Claude Opus 4.6
- DeepSeek V3 / R1 / V3.1 / V3.2 / V3.2-Speciale Q2 (~215 GB) a una velocidad de inferencia útil (~28 tok/s en flujo único sobre 8x Blackwell, referencia publicada)
- Kimi-K2 UD-TQ1_0 de 1.58 bits (~240 GB): un agente de un billón de parámetros a rendimiento real de tokens (~7-10 tok/s en flujo único, referencia publicada)
- Hunyuan-Large MoE 389B/52B Q4 (~220 GB); ERNIE-4.5-424B-A47B Q4 (~240 GB)
- Qwen3-Coder-480B-A35B Q4 (~270 GB, justo, con desbordamiento a RAM): el buque insignia abierto de programación, SOTA
- MiniMax-M1 / Text-01 Q4 (~260 GB) con 1M de contexto; Qwen3.5-397B-A17B Q4 (~214 GB)
Frontera occidental
- Mistral Large 3 (MoE 675B/41B, Apache 2.0) Q3 (~317 GB con desbordamiento): pesos abiertos de la frontera occidental
- Llama 4 Maverick (400B/17B, 128 expertos) Q4 (~232 GB), multimodal
- Llama-3.1-Nemotron Ultra 253B Q4 (~119 GB): iguala a DeepSeek-R1 con la mitad de tamaño
- gpt-oss-120b MXFP4 nativo (80 GB) con holgura para varios modelos a la vez
- Devstral 2 123B (Modified MIT) Q6: lo mejor en programación abierta, 256k de contexto
- Llama 3.3 70B bf16 (~142 GB) para servicio multiinquilino (~30-40 tok/s en flujo único por pareja de RTX 5090 en TP2, referencia publicada)
Modelos de visión y lenguaje
Qwen3-VL-235B-A22B en bf16 completo (~240 GB en tarjeta); InternVL3.5-241B-A28B (~135 GB en Q4); Llama 3.2 90B Vision bf16; Pixtral Large 124B bf16 (~248 GB, justo); Qwen3-Omni-30B-A3B; Molmo 72B; ERNIE-4.5-VL; GLM-4.6V completo. La ruta fp8 de Blackwell ofrece ~2x de rendimiento en la inferencia de la torre de visión frente a Ada.
Generación de imagen
FLUX.1 [dev] / Kontext / Tools en bf16 completo (~10-18 s por imagen en fp8 por tarjeta, referencia publicada); SD 3.5 Large; HunyuanImage-2.1 (17B, 2K nativo); HunyuanImage-3.0 MoE 80B/13B; AuraFlow; OmniGen; granjas ComfyUI con varios workers.
Generación de vídeo
Wan 2.2 T2V-A14B / I2V-A14B de doble experto en bf16 (con high-noise y low-noise residentes a la vez); HunyuanVideo 13B bf16 con ambos expertos; Open-Sora 2.0 (11B) bf16; CogVideoX-5B; Mochi-1; LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / voz / TTS
- ASR: Whisper v3 large / turbo (~50x tiempo real); Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / 3; Kokoro; Stable Audio Open; XTTS v2; Step-Audio-EditX
- Tiempo real / S2S: Kyutai Moshi; Step-Audio 2 mini / R1; Qwen2.5-Omni-7B
- Música / efectos: MusicGen; AudioGen; Bark; SeamlessM4T v2
Servicio multimodelo y multiinquilino
- Pasarela de inferencia frontera: un MoE de 200B+ junto a un 70B, imagen y vídeo, todo residente
- Paralelismo tensorial a 8 vías para Kimi-K2 / DeepSeek V3 con contexto real
- API LLM multiinquilino: de 50 a 100 usuarios simultáneos sobre un 235B en Q4 con vLLM/SGLang
- Residencia simultánea de toda la frontera china y occidental para evaluación y benchmarking
Cargas de trabajo objetivo
- Backend de inferencia frontera de pesos abiertos para una organización de 100 a 500 puestos, combinando Qwen3-235B, GLM-4.5+ y DeepSeek V3 en Q2
- Plataforma de agentes Kimi-K2 de 1.58 bits a rendimiento de producción (uso de herramientas, más de 200 llamadas secuenciales)
- Servicio de DeepSeek V3 / R1 en fp8 completo sobre silicio Blackwell
- Nodo principal de entrenamiento multinodo con fabric Gen5 de 100 GbE / InfiniBand
- Granja mixta de inferencia y difusión (Qwen3-235B + FLUX.1 + HunyuanVideo 13B en paralelo)
Referencias de rendimiento publicadas
Referencias externas | No medidas en hardware de Kentino
| Benchmark | Resultado |
|---|---|
| TOPS INT8 por tarjeta de la RTX 5090 | 1 676 TOPS |
| Ancho de banda de memoria de la RTX 5090 | ~1 800 GB/s por tarjeta |
| vLLM: Qwen3-235B Q4_K_M sobre 4x RTX 5090 (flujo único) | ~90 tok/s |
| vLLM: Qwen3-235B Q4_K_M sobre 4x RTX 5090 (batch-32) | ~450 tok/s agregados |
| SGLang: DeepSeek V3 Q2 sobre 8x Blackwell (flujo único) | ~28 tok/s |
| llama.cpp: Kimi-K2 UD-TQ1_0 sobre 8x Blackwell 256 GB | ~7-10 tok/s |
Kentino publicará cifras propias de tok/s tras el primer equipo de cliente con el SKU Turin definitivo.
No es ideal para
- Despliegues con presupuesto ajustado (sobreprecio de Turin frente a las alternativas Genoa o Rome)
- Cargas densas de 70B de un solo inquilino (excesivo: 4x RTX 5090 o 4x RTX Pro 6000 son la gama adecuada)
- Modelos frontera de 600B+ en Q4+ con contexto completo (requieren un pool de 576 GB o más; vea el de 6x RTX Pro 6000)
- Entrenamiento sostenido desde cero (las RTX 5090 de consumo no llevan NVLink)
Garantía y plazo de entrega
El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, pruebas de rodaje y verificación funcional. El plazo de entrega depende de la disponibilidad de componentes y se confirma al hacer el pedido.
Complementos recomendados
- Ampliar la RAM a 1.5 TB de DDR5 (24x 64 GB, población completa): necesario para Kimi-K2 en Q4 o DeepSeek V3 en Q3 sin desbordamiento a RAM
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT: fabric Gen5 para nodos de clúster
- Mellanox ConnectX-6 25 GbE SFP28 para fabric de centro de datos
- NVMe Gen4 x4 de 4 TB para arranque y biblioteca de modelos
- Armario rack completo de 24U con PDU gestionada
- SAI online de 8-10 kVA (crítico: 5.5 kW de pico de consumo)
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.