Kentino AI 48 Rome L4 484TOPS — Servidor de IA edge pasivo con 2x NVIDIA L4
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI 48 Rome L4 484TOPS
Servidor edge silencioso con 2x L4 pasivas
48 GB de VRAM ECC | EPYC Milan | 484 TOPS INT8
Equipo de inferencia silencioso con 2x L4 pasivas: vía de garantía de nivel centro de datos, 72 W por tarjeta y 48 GB de VRAM ECC para despliegues edge siempre activos.
Un servidor de inferencia edge con 2 GPU construido en torno a tarjetas NVIDIA L4 pasivas: la opción silenciosa de clase centro de datos dentro de la gama Kentino. 48 GB de VRAM ECC en total, 144 W de consumo de GPU, tarjetas de una sola ranura y un flujo de aire gestionado por completo por el chasis. Para delegaciones, instalaciones de broadcast, transcripción permanente y cualquier despliegue en el que el perfil acústico y una vía de garantía de centro de datos pesen más que el rendimiento bruto en tensores.
Hardware
| Componente | Detalle |
|---|---|
| GPU | 2x NVIDIA L4 24 GB GDDR6 pasivas (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| Pool de VRAM | 48 GB ECC |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 líneas PCIe 4.0) |
| Placa base | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM del sistema | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Arranque / almacenamiento | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Fuente de alimentación | Una fuente ATX de 2 kW |
| Chasis | Montaje en rack 4U, risers pasivos Gen4 x16 |
| Refrigeración | Disipador torre SP3, 3x 120 mm de entrada frontal + 1x 120 mm de extracción trasera (PWM de bajas RPM) |
| Red | Doble 10 GbE integrado (Intel X550) + IPMI |
Consumo eléctrico
- Consumo de GPU: 2 x 72 W = 144 W
- Total del sistema a plena carga: ~469 W
- Total de la fuente: 2 000 W — 76.55 % de margen
- Mantiene los ventiladores a bajas RPM (~35 dBA en reposo, <45 dBA en inferencia sostenida)
Topología de líneas
PCIe Gen4 x16 en ambas GPU. La L4 es Gen4 x16 nativa; la ROMED8-2T reparte 2x16 directamente desde la CPU. Sin conmutador y sin NVLink. Temperatura de GPU sostenida de 55-65 C: las tarjetas pasivas dependen por completo del flujo de aire del chasis.
Qué puede ejecutar
Con 48 GB de VRAM ECC repartidos entre 2 tarjetas L4 pasivas, este servidor asume inferencia LLM permanente, pipelines de ASR + TTS 24/7, procesamiento documental con VLM y despliegues edge en los que el silencio y la garantía de centro de datos son determinantes.
LLM: texto / razonamiento / programación
Frontera china
- Qwen3-32B denso Q6 con 32k de contexto (~15-20 tok/s en flujo único en L4, referencia publicada)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, 256k de contexto)
- QwQ-32B Q6; DeepSeek-R2 32B MoE disperso Q4-Q6 (~18-24 tok/s en flujo único a Q4 en L4, referencia publicada)
- Hunyuan-A13B Q6 o fp8 (~48 GB): MoE 80B/13B, 256k de contexto
- Seed-OSS-36B Q4-Q6: 512k de contexto nativo
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Frontera occidental
- Llama 3.3 70B Q4_K_M (~43 GB) con paralelismo de tensores a 2 vías (~8-12 tok/s en flujo único en 2x L4, referencia publicada)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodal bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think: investigación en razonamiento totalmente abierta
Visión y lenguaje
Qwen3-VL-8B / 32B Q4-Q6; InternVL3.5-38B Q4; Pixtral 12B bf16 (24 GB); Llama 3.2 11B Vision bf16; Gemma 3 12B / 27B multimodal; MiniCPM-V 2.6 / MiniCPM-o 2.6; Aya Vision 8B / 32B para VLM en 23 idiomas.
Generación de imágenes
La L4 está optimizada para inferencia: sirve para pipelines de imagen en régimen estable, no para generación por lotes. FLUX.1 [dev] fp8 / Q4: una imagen en 8-12 s; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8.
Generación de vídeo
No recomendable para nuevos proyectos de vídeo en L4: mejor un equipo con 4090/5090. Para pipelines T2V ligeros: Wan 2.2 TI2V-5B en bf16, 5 s a 720p en ~6-10 minutos; HunyuanVideo 1.5 (8.3B) por la vía de optimización Wan2GP.
Audio / voz / TTS
El verdadero punto fuerte de la L4: ASR + TTS y pilas de voz en tiempo real 24/7.
- ASR: Whisper v3 large / turbo (~30x tiempo real en L4, referencia publicada); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Tiempo real / S2S: Kyutai Moshi (7B, 200 ms de latencia en dúplex completo); Step-Audio 2 mini / R1
- Traducción: Meta SeamlessM4T v2 (~100 idiomas)
Multimodelo / multiinquilino
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 residentes a la vez en la tarjeta 1 (~18-20 GB); la tarjeta 2 queda reservada para un segundo inquilino o para un VLM
- De 8 a 16 sesiones ASR simultáneas en una sola L4 con Whisper-turbo a tiempo real
- Endpoint RAG: Qwen3-14B / Llama 3.1 8B (~48-72 tok/s en flujo único en L4, referencia publicada) + embeddings BGE-M3 + reranker
Cargas de trabajo objetivo
- Equipo de inferencia silencioso para delegaciones o instalaciones de broadcast
- Pipeline permanente de ASR + traducción (centros de llamadas, transcripción de clases, subtitulado de medios)
- Endpoint RAG edge sobre documentación corporativa con vía de garantía de centro de datos
- Asistente multimodal 24/7 (Qwen3-VL-8B + MiniCPM-o 2.6) para una oficina pequeña
- Equipo de preproducción para despliegues de clase centro de datos: el mismo silicio L4 que en el edge de los hiperescalares
Referencias de rendimiento publicadas
Referencia publicada | hardware comparable con 2x NVIDIA L4
| Prueba | Resultado |
|---|---|
| Llama 3.1 8B Q4_K_M, decodificación con llama.cpp | ~30-40 tok/s en flujo único |
| Qwen3-14B Q6, decodificación con vLLM | ~20-28 tok/s |
| Whisper v3 large, factor de tiempo real | ~15-20x por L4 |
| Parakeet-TDT 1.1B, ASR en inglés | ~40-60x tiempo real |
| Moshi 7B, voz en dúplex completo | 200 ms de latencia, cabe en una sola L4 |
Datos publicados, no medidos en hardware de Kentino.
No es la opción ideal para
- Modelos densos de 70B a Q6 o superior (incluso un pool de 48 GB se queda justo: use 4x4090 o 2x5090)
- Generación de imagen o vídeo por lotes a gran escala (el rendimiento en tensores de la L4 está orientado a inferencia)
- Flujos de LoRA o ajuste fino: use equipos con 4090/5090
Garantía y plazo de entrega
La L4 incluye la vía de garantía de centro de datos de NVIDIA, una ventaja real frente a las tarjetas de consumo en despliegues 24/7 con SLA. El montaje incluye ensamblaje, configuración de la BIOS, instalación de controladores, pruebas de rodaje y verificación funcional.
Complementos recomendados
- Pase al Kentino AI 96 Rome L4 968TOPS (4x L4, pool de 96 GB) para duplicar el rendimiento
- Amplíe la unidad de arranque a 2 TB NVMe
- Amplíe la RAM a 256 GB (4x 64 GB) para servir varios modelos a la vez
- PDU de rack + SAI online de 2 kVA para despliegues en delegaciones
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.