Kentino AI 192 Turin2U RTXPro6000 4000TOPS — 2× RTX Pro 6000 Blackwell Server Edition — Turin SP5 en 2U
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 192 Turin2U RTXPro6000 4000TOPS
Pareja insignia Blackwell de 192 GB ECC
2x RTX Pro 6000 Server Edition | EPYC Turin SP5 | 4 000 TOPS INT8
Dos tarjetas pasivas RTX Pro 6000 Blackwell Server Edition, de 96 GB ECC cada una. Menos sobrecarga de paralelismo tensorial que las configuraciones de 4 u 8 tarjetas. Pareja insignia de centro de datos sobre plataforma 2U Gen5/DDR5 con alimentación redundante 1+1 real.
Servidor de inferencia de montaje en rack 2U con dos tarjetas pasivas RTX Pro 6000 Blackwell Server Edition (96 GB ECC GDDR7 por tarjeta), una CPU AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz), 512 GB DDR5-4800 ECC, 5.76 TB de NVMe Gen5 de centro de datos y una fuente de alimentación CRPS redundante 1+1 de 2.7 kW 80+ Platinum. Desde 56 600 € sin IVA. Para 70B denso en bf16 y MoE de tamaño medio, pocas tarjetas grandes superan a muchas pequeñas: el paralelismo tensorial a dos tarjetas tiene una sobrecarga de comunicación mínima y cada tarjeta de 96 GB aloja una copia completa de la mayoría de los modelos.
La misma pareja Blackwell de 192 GB que nuestra configuración 4U Rome, en un chasis ASRock 2U de alta densidad de rack con Gen5 completo en el lado del host, memoria DDR5-4800 y una fuente CRPS Platinum redundante 1+1 de 2.7 kW real. Elija esta configuración cuando importe la densidad de rack, cuando su subvención o su pliego de compras exija una plataforma moderna PCIe 5.0 / DDR5, o cuando la alimentación redundante sea un requisito y no un extra.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 2x NVIDIA RTX Pro 6000 Blackwell Server Edition 96 GB ECC GDDR7 (pasiva, 600 W, PCIe 5.0 x16, doble slot) |
| Pool de VRAM | 192 GB ECC (96 GB x 2) -- cada tarjeta aloja por sí sola un modelo de 70B en bf16 |
| CPU | AMD EPYC 9335 Turin (32C/64T, 3.0/4.4 GHz, 210 W, SP5, 128x carriles PCIe 5.0, Zen5c, 256 MB L3) |
| Placa base | ASRock Rack 2U4G-GENOA/M3 (SP5, 4x GPU PCIe 5.0 x16 de doble slot, 8x DDR5 1DPC, OCP 3.0, IPMI AST2600) |
| RAM del sistema | 512 GB DDR5-4800 ECC RDIMM (8x 64 GB, 1DPC completamente poblado -- configuración de ancho de banda máximo) |
| Arranque / almacenamiento | Kioxia CD8-P 3.84 TB Gen5 U.3 (capa caliente, 1 DWPD, ~12 GB/s de lectura) + Kioxia CD8-P 1.92 TB Gen5 U.3 (capa de arranque del sistema) -- 5.76 TB en total de NVMe Gen5 de centro de datos |
| Fuente de alimentación | CRPS redundante 1+1 de 2.7 kW 80+ Platinum (2x 1350 W a 230 V) -- redundancia N+1 real; una sola fuente sostiene la carga completa de inferencia |
| Chasis | Montaje en rack 2U con flujo de aire dirigido de delante hacia atrás (ventiladores de 80 mm de alta presión estática). Apto para 24/7. |
| Refrigeración | Disipador activo de CPU SP5 + 3x admisión frontal de 80x38 mm + 1x extracción trasera de 80x80 mm (diseñado para la carga térmica de 4x GPU pasivas; la disposición de 2 tarjetas deja un amplio margen térmico) |
| Red | Intel X710-T2L PCIe dual 10GBASE-T + ranura OCP 3.0 disponible para ampliar a 25/100 GbE |
Balance energético
- Consumo de GPU: 2x 600 W = 1 200 W
- Total del sistema a plena carga: ~1 510 W
- Configuración de PSU: CRPS redundante 1+1, 2x 1350 W a 230 V (2 700 W en total)
- Margen: 44.1 % con carga de inferencia típica
- Redundancia N+1 real -- una sola fuente sostiene la carga completa de inferencia; sin riesgo de fallo por PSU única
Topología de carriles
PCIe Gen5 x16 de extremo a extremo -- host y tarjeta con Gen5 nativo. Conexión directa al root complex, sin conmutador PCIe. Quedan libres una ranura PCIe 5.0 x16 de un solo slot y una ranura PCIe 5.0 x8 (la NIC ocupa la x8). Sin NVLink -- comunicación entre GPU punto a punto por PCIe. El ancho de banda Gen5 elimina el límite del host Gen4 presente en la variante 4U Rome.
Qué puede ejecutar
Con 192 GB de VRAM ECC en solo dos tarjetas Blackwell con fp8/fp4 nativos, esta es la vía más limpia para 70B denso en bf16 y MoE de tamaño medio. Dos flujos 70B independientes --uno por tarjeta-- o MoE de 200B repartido entre ambas con una sobrecarga mínima de TP a dos vías.
LLM -- texto / razonamiento / programación
Frontera china
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-235B-A22B Q4 (~132 GB) holgado con contexto largo (~15-25 tok/s en flujo único entre 2 tarjetas); Qwen3-Coder-480B-A35B Q2 (~160 GB); Qwen3.5-122B-A10B fp8 (~75 GB); Qwen3-32B denso bf16 con KV enorme; QwQ-32B bf16
- DeepSeek: DeepSeek-V3/R1 Q2 (~215 GB con un pequeño desbordamiento a RAM) -- Blackwell ejecuta fp8 de forma nativa; DeepSeek-R2 32B bf16 con dos flujos simultáneos (uno por tarjeta)
- GLM / Z.ai: GLM-4.5 / 4.6 / 4.7 Q4 (~177 GB) -- configuración estrella en esta gama; GLM-4.5-Air fp8 o bf16 con KV enorme
- Tencent Hunyuan: Hunyuan-Large Q3 (~160 GB) -- MoE de 389B con contexto de 256k; Hunyuan-A13B fp8 nativo (~80 GB) con KV enorme
- Otros: Baidu ERNIE-4.5-424B Q3 (~180 GB); InternVL3.5-241B-A28B Q4 (~135 GB); MiniMax-M1 Q3 (~180 GB)
Frontera occidental
- Meta Llama: Llama 3.3 70B bf16 en una tarjeta -- dos flujos 70B simultáneos e independientes (~20-30 tok/s por flujo); Llama 4 Scout bf16 (~218 GB, justo); Llama 4 Maverick Q3 (~188 GB)
- Mistral: Mistral Large 2 / Pixtral Large / Devstral 2 123B Q6 (~88 GB) en una sola tarjeta o bf16 entre ambas; Mistral Small 3 multiflujo
- OpenAI (pesos abiertos): gpt-oss-120b MXFP4 nativo (80 GB) -- cabe en UNA tarjeta, dos flujos simultáneos independientes
- NVIDIA Nemotron: Llama-3.1-Nemotron Ultra 253B Q4 (~147 GB); Super 49B bf16 en una sola tarjeta
- Otros: Cohere Command R+ 104B Q6 (~85 GB) en una tarjeta; Google Gemma 3 27B bf16 con varios flujos simultáneos
Modelos de visión y lenguaje
InternVL3.5-241B-A28B Q4 (~135 GB); Qwen3-VL-235B-A22B Q4; Qwen3-VL-32B bf16 en una sola tarjeta; Pixtral Large 124B bf16 o Q6; Llama 3.2 90B Vision bf16 (~180 GB); Molmo 72B bf16 (~144 GB); GLM-4.6V 106B fp8; Gemma 3 27B multimodal x 2-3 flujos simultáneos.
Generación de imagen
FLUX.1 [dev] bf16 con varios flujos simultáneos; FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large bf16 simultáneo; HunyuanImage-2.1 bf16 (~34 GB) x 2-4 simultáneos; HunyuanImage-3.0 base (MoE de 80B, 13B activos) bf16 -- cabe en una tarjeta; HunyuanDiT; Kolors / Kolors 2.0; AuraFlow; OmniGen v1; PixArt-Sigma.
Generación de vídeo
Wan 2.2 MoE de doble experto bf16 con contexto completo -- cabe en una tarjeta, dos flujos de generación simultáneos; Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 con ambos expertos; HunyuanVideo 1.5; CogVideoX-5B bf16; Open-Sora 2.0 11B bf16; Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / voz / TTS
- ASR: Whisper v3 large / turbo (~50x tiempo real); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2/3; Kokoro 82M; XTTS v2; Stable Audio Open; Step-Audio-EditX
- Tiempo real / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
- Música / efectos de sonido: MusicGen / AudioGen / Bark; SeamlessM4T v2
Servicio multimodelo / multiinquilino
- Dos flujos 70B independientes -- uno por tarjeta, la forma más sencilla de aislamiento entre inquilinos
- 70B denso bf16 + pila de apoyo -- el LLM en la tarjeta 1, imagen/vídeo/audio en la tarjeta 2
- MoE de 200B repartido entre ambas tarjetas -- sobrecarga mínima de paralelismo tensorial (reparto a dos vías)
- Frontera fp8 nativa -- familia DeepSeek V3, Hunyuan-Large fp8 con rutas nativas de Blackwell
Cargas de trabajo objetivo
- Inferencia 70B densa en bf16 -- dos tarjetas en paralelismo tensorial con sobrecarga mínima, o un modelo por tarjeta para streaming
- MoE de 100-150B en Q4-Q6 (GLM-4.5-Air, Qwen3.5-122B-A10B, Hunyuan-A13B, Llama 4 Scout)
- Inferencia de frontera con FP8 nativo (familia DeepSeek V3, Hunyuan, Llama 4) -- Blackwell ejecuta fp8 de forma nativa
- Cálculo científico que exige rendimiento NVMe Gen5 de centro de datos y memoria ECC
- Estudio de generación de imagen y vídeo en bf16 (Wan 2.2 T2V-A14B, HunyuanVideo 13B, FLUX.1 [dev])
- Despliegues limitados por la densidad de rack -- formato 2U frente al equivalente 4U Rome con la misma VRAM
- Pliegos de compra que exigen plataforma PCIe 5.0 / DDR5 o PSU redundante
Rendimiento medido
Referencias publicadas | ficha técnica de NVIDIA RTX Pro 6000 Blackwell Server Edition + pruebas de la comunidad
| Prueba | Resultado |
|---|---|
| TOPS INT8 por tarjeta (ficha técnica de NVIDIA) | 2 000 TOPS |
| TOPS INT8 agregados (2 tarjetas) | 4 000 TOPS |
| Ancho de banda de memoria por tarjeta | ~1 800 GB/s, 96 GB ECC GDDR7 |
| Llama 3.3 70B bf16 por tarjeta (comunidad) | 15-25 tok/s en flujo único, 60-90 tok/s por lotes -- mejora esperada gracias a la ruta de memoria Gen5 del lado del host en cargas de streaming por lotes frente a un host Gen4 |
| Ventaja del host Gen5 (una tarjeta, mismo silicio) | PCIe 5.0 x16 de extremo a extremo reduce la latencia de transferencia host-dispositivo en cargas de streaming por lotes; las tareas limitadas por cómputo en la tarjeta rinden igual que en configuraciones con host Gen4 |
| 70B con paralelismo tensorial a dos tarjetas (comunidad) | ~30-45 tok/s en flujo único (esperado) |
| fp8 nativo de Blackwell | DeepSeek-V3 fp8 y Hunyuan-A13B fp8 se ejecutan sin conversión a bf16 |
Referencias externas publicadas, no medidas en hardware de Kentino. Kentino publicará cifras propias tras el primer montaje para cliente.
No es la opción ideal para
- Servicio multiinquilino con muchísima concurrencia -- 4x L40 o 6x L4 reparten mejor entre más tarjetas
- Caché KV pesada con contexto muy largo -- dé el salto a Kentino AI 576 Genoa RTXPro6000 12000TOPS
- Entrenamiento -- Kentino no vende fabrics NVLink de clase H
- Inferencia económica con este pool de VRAM -- la configuración 4U Rome Kentino AI 192 RTXPro6000 4000TOPS sale más barata si el host Gen4 resulta aceptable y no se exige redundancia de PSU
Garantía y plazo de entrega
Garantía OEM de NVIDIA de 3 años en la RTX Pro 6000 Server Edition + 36 meses de garantía del chasis + garantía de integración de Kentino. El montaje incluye ensamblaje, configuración de BIOS/firmware, puesta a punto de IPMI, instalación de controladores, pruebas de rodaje y verificación funcional. El plazo de 14-21 días hábiles refleja el pedido a distribuidor de los componentes de clase Turin; se confirma al formalizar el pedido.
Complementos recomendados
- Ampliar a una configuración de 4 tarjetas -- el chasis tiene 4 bahías de GPU de serie (esta configuración usa 2 de 4), con vía de ampliación a Kentino AI 384 Turin2U RTXPro6000 8000TOPS
- Añadir 25 GbE o 100 GbE mediante la ranura OCP 3.0 (variante OCP Mellanox ConnectX-5/6)
- NVMe Kioxia CD8-P adicionales en las 2 bahías U.2 restantes para RAID o almacenamiento temporal
- Mejorar la capa de almacenamiento a Samsung PM1743 o Kioxia CM7-V para mayor resistencia (3 DWPD)
- Armario rack de 24U + SAI online de 5 kVA
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.