Kentino AI 48 Rome L4 484TOPS — servidor de IA edge 2x NVIDIA L4 passiva
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI 48 Rome L4 484TOPS
Servidor silencioso 2x L4 passiva para edge
48 GB de VRAM ECC | EPYC Milan | 484 TOPS INT8
Caixa de inferência silenciosa com 2x L4 passiva — via de garantia de nível de centro de dados, 72 W por placa e 48 GB de VRAM ECC para implementações edge sempre ativas.
Um servidor de inferência edge com 2 GPU construído em torno de placas NVIDIA L4 passivas — a opção silenciosa de classe centro de dados na gama Kentino. 48 GB de VRAM ECC no total, 144 W de consumo total de GPU, formato de placa de um só slot e fluxo de ar inteiramente assegurado pelo chassis. Para escritórios locais, instalações de difusão, transcrição permanente e qualquer implementação em que o perfil acústico e uma via de garantia de centro de dados pesem mais do que o débito tensorial bruto.
Hardware
| Componente | Detalhe |
|---|---|
| GPU | 2x NVIDIA L4 24 GB GDDR6 passiva (72 W, PCIe 4.0 x16, Ada Lovelace, ECC) |
| Reserva de VRAM | 48 GB ECC |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128 linhas PCIe 4.0) |
| Placa-mãe | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM do sistema | 128 GB DDR4-2666 ECC RDIMM (2x 64 GB) |
| Arranque / armazenamento | 1 TB NVMe M.2 (PCIe 4.0 x4) |
| Fonte de alimentação | Uma fonte ATX de 2 kW |
| Chassis | Rack 4U, risers passivos Gen4 x16 |
| Arrefecimento | Dissipador torre SP3, 3x entrada frontal de 120 mm + 1x extração traseira de 120 mm (PWM de baixa rotação) |
| Rede | Dupla 10 GbE integrada (Intel X550) + IPMI |
Envelope de potência
- Consumo das GPU: 2 x 72 W = 144 W
- Total do sistema a plena carga: ~469 W
- Total da fonte: 2 000 W — 76.55 % de folga
- Mantém as ventoinhas em rotação baixa (~35 dBA em repouso, <45 dBA em inferência contínua)
Topologia de linhas
PCIe Gen4 x16 nas duas GPU. A L4 é nativamente Gen4 x16; a ROMED8-2T distribui 2x16 diretamente a partir do CPU. Sem switch, sem NVLink. Temperatura de GPU sustentada de 55-65 C — as placas passivas dependem inteiramente do fluxo de ar do chassis.
O que pode executar
Com 48 GB de VRAM ECC distribuídos por 2 placas L4 passivas, este servidor dá resposta a inferência de LLM sempre ativa, pipelines de ASR + TTS 24/7, processamento documental com VLM e implementações edge em que o silêncio e a garantia de centro de dados são decisivos.
LLM — texto / raciocínio / programação
Fronteira chinesa
- Qwen3-32B denso Q6 com 32k de contexto (~15-20 tok/s em fluxo único numa L4, referência publicada)
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B Q4-Q6 (MoE, 256k de contexto)
- QwQ-32B Q6; DeepSeek-R2 32B MoE esparso Q4-Q6 (~18-24 tok/s em fluxo único a Q4 numa L4, referência publicada)
- Hunyuan-A13B Q6 ou fp8 (~48 GB) — MoE 80B/13B, 256k de contexto
- Seed-OSS-36B Q4-Q6 — 512k de contexto nativo
- ERNIE-4.5-47B-A3B Q4-Q6 (~28-42 GB)
Fronteira ocidental
- Llama 3.3 70B Q4_K_M (~43 GB) tensor-parallel em 2 vias (~8-12 tok/s em fluxo único com 2x L4, referência publicada)
- Mistral Small 3 / Magistral / Devstral Small 2 (24B) bf16
- Gemma 3 27B multimodal bf16
- Phi-4 14B / Phi-4-reasoning bf16
- Nemotron-Super 49B Q4 (~28 GB)
- OLMo 2 32B / OLMo 3.1-32B-Think — investigação em raciocínio totalmente aberta
Visão-linguagem
Qwen3-VL-8B / 32B Q4-Q6; InternVL3.5-38B Q4; Pixtral 12B bf16 (24 GB); Llama 3.2 11B Vision bf16; Gemma 3 12B / 27B multimodal; MiniCPM-V 2.6 / MiniCPM-o 2.6; Aya Vision 8B / 32B para VLM em 23 línguas.
Geração de imagem
A L4 está otimizada para inferência — serve para pipelines de imagem em regime estável, não para geração em lote: FLUX.1 [dev] fp8 / Q4 — uma imagem em 8-12 s; SD 3.5 Large fp8 / SDXL 1.0 / SD 3.5 Medium; HunyuanImage-2.1 NF4 (~14 GB); Kolors 2.0 fp8.
Geração de vídeo
Não recomendado para novos projetos de vídeo numa L4 — prefira uma montagem com 4090/5090. Para pipelines T2V ligeiros: Wan 2.2 TI2V-5B em bf16 — 5 s a 720p em ~6-10 minutos; via de otimização HunyuanVideo 1.5 (8.3B) Wan2GP.
Áudio / voz / TTS
O verdadeiro ponto forte da L4 — stacks de ASR + TTS e de voz em tempo real a funcionar 24/7.
- ASR: Whisper v3 large / turbo (~30x tempo real numa L4, referência publicada); NVIDIA Parakeet-TDT 1.1B; Canary 1B
- TTS: CosyVoice 2.0 / Fun-CosyVoice 3.0; Kokoro 82M; Stable Audio Open
- Tempo real / S2S: Kyutai Moshi (7B, 200 ms de latência em full-duplex); Step-Audio 2 mini / R1
- Tradução: Meta SeamlessM4T v2 (~100 línguas)
Multimodelo / multi-inquilino
- Whisper v3 + Kokoro + Moshi + Qwen3-14B Q6 todos residentes na placa 1 (~18-20 GB); placa 2 reservada para um segundo inquilino ou para um VLM
- 8-16 sessões de ASR em simultâneo numa só L4 com o Whisper-turbo em tempo real
- Endpoint RAG: Qwen3-14B / Llama 3.1 8B (~48-72 tok/s em fluxo único numa L4, referência publicada) + embeddings BGE-M3 + reranker
Cargas de trabalho alvo
- Caixa de inferência silenciosa para escritório local ou instalação de difusão
- Pipeline permanente de ASR + tradução (call centers, transcrição de aulas, legendagem de conteúdos)
- Endpoint RAG edge sobre documentos da empresa, com via de garantia de centro de dados
- Assistente multimodal 24/7 (Qwen3-VL-8B + MiniCPM-o 2.6) para um pequeno escritório
- Máquina de staging para desenvolvimento de implementações de classe centro de dados — o mesmo silício L4 do edge à escala hyperscale
Referências de desempenho publicadas
Referência publicada | hardware comparável com 2x NVIDIA L4
| Benchmark | Resultado |
|---|---|
| Descodificação Llama 3.1 8B Q4_K_M em llama.cpp | ~30-40 tok/s em fluxo único |
| Descodificação Qwen3-14B Q6 em vLLM | ~20-28 tok/s |
| Fator de tempo real do Whisper v3 large | ~15-20x por L4 |
| ASR em inglês com Parakeet-TDT 1.1B | ~40-60x o tempo real |
| Voz full-duplex com Moshi 7B | 200 ms de latência, cabe numa só L4 |
Valores publicados, não medidos em hardware Kentino.
Menos indicado para
- Modelos densos de 70B a Q6+ (mesmo uma reserva de 48 GB fica apertada — use 4x4090 ou 2x5090)
- Geração de imagem / vídeo em lote e a grande escala (o débito tensorial da L4 está otimizado para inferência)
- Fluxos de LoRA / afinação — use antes montagens com 4090/5090
Garantia e prazo de entrega
A L4 beneficia da via de garantia de centro de dados da NVIDIA — uma vantagem concreta face às placas de consumo em implementações 24/7 com SLA. A montagem inclui assemblagem, configuração da BIOS, instalação de controladores, testes de burn-in e verificação funcional.
Extras recomendados
- Passar para o Kentino AI 96 Rome L4 968TOPS (4x L4, reserva de 96 GB) para duplicar o débito
- Aumentar o disco de arranque para 2 TB NVMe
- Aumentar a RAM para 256 GB (4x 64 GB) para servir vários modelos em simultâneo
- PDU de rack + UPS online de 2 kVA para implementação em escritório local
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.