Kentino AI 96 Rome RTXPro6000 2000TOPS — Servidor estación de trabajo Blackwell de 96 GB con una sola tarjeta
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 96 Rome RTXPro6000 2000TOPS
Servidor de estación de trabajo de una sola tarjeta con 96 GB ECC
1x RTX Pro 6000 Blackwell | EPYC Milan | 2 000 TOPS INT8
Una tarjeta, 96 GB de VRAM ECC y todo el pipeline tensorial de Blackwell. 70B denso en bf16 en una sola GPU, sin sobrecarga de paralelismo de tensores.
Servidor de estación de trabajo en formato rack 4U con una sola tarjeta NVIDIA RTX Pro 6000 Blackwell Workstation (96 GB ECC GDDR7), una CPU AMD EPYC 7643 Milan (48C/96T), 256 GB DDR4 ECC, arranque NVMe de 2 TB y una fuente de alimentación ATX de 2 kW con un 54 % de margen. La vía de software más sencilla que ofrece Kentino: sin configurar paralelismo de tensores y sin depurar multi-GPU. vLLM, SGLang, llama.cpp y ComfyUI funcionan en un solo dispositivo y sin complicaciones.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 1x NVIDIA RTX Pro 6000 Blackwell Workstation 96 GB ECC GDDR7 (600 W, PCIe 5.0 x16) |
| VRAM | 96 GB ECC en una sola tarjeta: sin agrupación de memoria ni sobrecarga de paralelismo de tensores |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x carriles PCIe 4.0) |
| Placa base | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM del sistema | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Arranque / almacenamiento | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | 1x fuente ATX de 2 kW |
| Chasis | Montaje en rack 4U (capacidad para 4 ranuras, 1 ocupada — margen para ampliar) |
| Refrigeración | Torre Arctic Freezer 4U-M SP3 + 3x entrada frontal de 120 mm + 1x extracción trasera de 120 mm |
| Red | Doble 10 GbE integrado (Intel X550) |
Consumo eléctrico
- Consumo de GPU: 1 x 600 W = 600 W
- Total del sistema a plena carga: ~925 W
- Total de la fuente: 2 000 W — 53.8 % de margen
- Una sola fuente, cableado sencillo — margen generoso para un equipo de una tarjeta
Topología de carriles
PCIe Gen4 x16 en la GPU (la tarjeta es Gen5 nativa; la placa Rome se limita a Gen4). Conexión directa al root complex, sin switch PCIe. No hace falta NVLink: una sola tarjeta, sin ningún enlace entre GPU. Quedan seis ranuras x16 libres para NIC / almacenamiento / ampliación.
Qué puede ejecutar
Con 96 GB de VRAM ECC en una sola tarjeta Blackwell, este servidor mueve modelos densos de 70B en bf16 en una GPU, LLM de pesos abiertos, modelos de visión, generación de imagen y vídeo, IA de voz e inferencia en producción, sin coordinación de paralelismo de tensores.
LLM — texto / razonamiento / programación
Frontera china
- Qwen3 / Qwen3.5 (Alibaba): Qwen3-32B denso bf16 (~65 GB) con KV generoso; Qwen3-72B Q6 (~58 GB, ~25-35 tok/s en flujo único); Qwen3-30B-A3B MoE bf16; Qwen3-Coder-30B-A3B agéntico a 256k ctx; Qwen3.5-122B-A10B Q4 (~70 GB) con KV ajustado; QwQ-32B bf16 de razonamiento
- DeepSeek: DeepSeek-R2 32B MoE disperso bf16 (~64 GB, 92.7 % en AIME 2025 con una sola tarjeta); DeepSeek-R1-Distill-Qwen-32B bf16; DeepSeek-V2-Lite 16B en precisión completa
- GLM / Z.ai: GLM-4.5-Air 106B/12B Q4-Q5 (60-70 GB); GLM-4.6V 106B Q4
- Tencent Hunyuan: Hunyuan-A13B 80B/13B MoE Q4-fp8 (~48-80 GB) con 256k ctx y razonamiento de doble modo
- ByteDance Seed-OSS-36B bf16 (~72 GB, justo) o fp8 (~36 GB) con los 512k de contexto nativo completos
- Baidu ERNIE-4.5-47B-A3B Q4-fp8 con contexto largo
Frontera occidental
- Meta Llama: Llama 3.3 70B en bf16 (~70 GB) en una sola tarjeta con 8-16k ctx — la configuración estrella; Llama 3.3 70B Q6 (~58 GB, ~35-50 tok/s en flujo único); Llama 3.1 8B bf16 (~80-120 tok/s); Llama 3.2 90B Vision Q4 (~52 GB); Llama 4 Scout 109B/17B MoE Q4 (~63 GB)
- Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B), todos en bf16 con 256k ctx; Mixtral 8x7B Q6; Codestral Mamba 7B; Pixtral 12B bf16
- OpenAI (pesos abiertos): gpt-oss-20b MXFP4 nativo (16 GB); gpt-oss-120b MXFP4 nativo (80 GB) — una tarjeta, flujo único
- Google Gemma 3: 27B multimodal bf16 (~54 GB) con 128k ctx; 12B / 4B bf16
- Microsoft Phi-4 14B denso bf16; Phi-4-reasoning; Phi-4-multimodal
- NVIDIA Nemotron: Llama-3.1-Nemotron-Super 49B Q6 (~40 GB); Nemotron-Nano 8B
- Otros: IBM Granite 4.0 H-Small 32B/9B; OLMo 2 32B; Reka Flash 3 21B; Falcon H1R 7B; Command R 35B
Modelos de visión y lenguaje
Qwen3-VL-8B / 32B bf16, Qwen3-VL-30B-A3B MoE bf16, Qwen3-Omni-30B-A3B; InternVL3 hasta 78B Q4 (~48 GB); InternVL3.5-38B bf16; DeepSeek-VL2 en toda su gama; Llama 3.2 11B Vision bf16; Llama 3.2 90B Vision Q4 (~52 GB); Pixtral 12B bf16; Molmo 72B Q4; Molmo 7B bf16; Gemma 3 12B / 27B multimodal; PaliGemma 2 28B; Phi-3.5-Vision; Aya Vision 8B / 32B; MiniCPM-V 2.6 / MiniCPM-o 2.6; GLM-4.6V.
Generación de imagen
FLUX.1 [dev] / [schnell] bf16 (~24 GB) y cuantizado (~15-25 s/imagen en fp8); edición en contexto con FLUX.1 Kontext [dev]; FLUX Tools (Fill / Depth / Canny / Redux); SD 3.5 Large bf16 (~18 GB); SDXL 1.0; HunyuanImage-2.1 bf16 (~34 GB) a 2K nativo; HunyuanDiT 1.5B; Kolors / Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.
Generación de vídeo
Wan 2.2 T2V-A14B / I2V-A14B MoE bf16 (~54 GB, ambos expertos residentes); vía rápida Wan 2.2 TI2V-5B; HunyuanVideo 13B bf16 (~60-80 GB, justo a 720p); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 (11B) bf16; Genmo Mochi-1 bf16 (~42 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos Predict 2.
Audio / voz / TTS
- ASR: Whisper v3 large / turbo (~50x en tiempo real); NVIDIA Parakeet-TDT 1.1B; Canary 1B; Qwen3-ASR; SenseVoice
- TTS: CosyVoice 2 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open; Coqui XTTS v2; StyleTTS 2; Step-Audio-EditX
- Tiempo real / S2S: Kyutai Moshi (200 ms full-duplex); Step-Audio 2 mini; Step-Audio-R1 / R1.1; Qwen2.5-Omni-7B
- Música / efectos: Meta MusicGen; AudioGen; Suno Bark; SeamlessM4T v2
Servicio multimodelo / multiinquilino
- Asistente de programación en streaming de un solo inquilino — 70B denso bf16, baja latencia, sin penalización de TP
- Pila residente mixta: Qwen3-32B bf16 + FLUX.1 fp8 + Whisper-turbo + Moshi en una tarjeta con la VRAM particionada
- Ajuste fino: LoRA / QLoRA en modelos de 13-34B; parámetros completos en 7B
- Servicio de embeddings: BGE-M3 / E5 / Jina residentes junto a un LLM generador
Cargas de trabajo objetivo
- Asistente de programación en streaming de un solo inquilino con Llama 3.3 70B bf16 o Qwen3-Coder-30B-A3B — sin sobrecarga de coordinación TP
- Estación de trabajo para un ingeniero o un equipo reducido que necesite un modelo de clase 70B con 32-128k de contexto
- Laboratorio de generación de vídeo o imagen — HunyuanVideo 13B, Wan 2.2 de doble experto y HunyuanImage-2.1, todos residentes en bf16
- Banco de pruebas VLM / OCR — Qwen3-VL-32B bf16 o InternVL3.5-38B con flujos de documentos largos
- Appliance limpio para una pequeña pasarela de API de LLM — un modelo, una tarjeta, operación sencilla
Rendimiento medido
Referencias publicadas | ficha técnica de NVIDIA RTX Pro 6000 Blackwell + pruebas de la comunidad
| Prueba | Resultado |
|---|---|
| TOPS INT8 por tarjeta (ficha técnica de NVIDIA) | 2 000 TOPS |
| VRAM por tarjeta | 96 GB ECC GDDR7 |
| Ancho de banda de memoria | ~1 800 GB/s |
| Llama 3.3 70B Q6 en una GPU (comunidad) | 40-55 tok/s en flujo único |
| Llama 3.3 70B bf16 en una GPU (comunidad) | 15-25 tok/s en flujo único |
| fp8 nativo de Blackwell | DeepSeek-V3 fp8 y Hunyuan-A13B fp8 se ejecutan sin conversión a bf16 |
Referencias externas publicadas, no medidas en hardware de Kentino. Kentino publicará cifras propias tras el primer equipo entregado a un cliente.
No es ideal para
- Entrenar modelos grandes desde cero (una sola GPU — sin paralelismo de tensores ni por etapas)
- MoE de frontera de más de 200B con cuantizaciones reales (Qwen3-235B Q4, GLM-4.5/4.6 — use Kentino AI 192 RTXPro6000 o superior)
- Inferencia multiinquilino de alta concurrencia (una sola tarjeta limita el rendimiento agregado; 4x RTX 4090 o 4x L40 escalan mejor)
Garantía y plazo de entrega
Garantía OEM de NVIDIA de 3 años en la RTX Pro 6000 más la garantía de integración de Kentino. El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, pruebas de rodaje y verificación funcional. El plazo depende de la disponibilidad de componentes y se confirma en el pedido.
Complementos recomendados
- Ampliar la RAM a 512 GB (añadir 4x 64 GB DDR4 — quedan cuatro ranuras DIMM libres)
- Unidad NVMe secundaria de 4 TB para la biblioteca de modelos / preparación de conjuntos de datos
- Armario abierto 24U para montaje en rack en producción
- Para velocidad de enlace Gen5 x16, consulte la variante sobre plataforma Genoa bajo pedido
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.