Kentino AI 144 Rome L4 1452TOPS — 6× NVIDIA L4 — EPYC Milan
Kentino AI 144 Rome L4 1452TOPS — 6× NVIDIA L4 — EPYC Milan
Kentino AI 144 Rome L4 1452TOPS — 6× NVIDIA L4 — EPYC Milan
Kentino AI 144 Rome L4 1452TOPS — 6× NVIDIA L4 — EPYC Milan
Kentino · Räätälöity AI-palvelin

Kentino AI 144 Rome L4 1452TOPS — 6× NVIDIA L4 — EPYC Milan

Yritystason alusta, koottu ja testattu EU:ssa.

€42.170,00 ilman ALV:tä · toimituskulut lasketaan kassalla
Varastossa — toimitus EU-varastosta
ISO 9001 · tarkastettu laitteistoEU-varasto & takuu7+ vuotta yritysten AI-ratkaisujaBurn-in-testattu ennen toimitusta
Yleiskatsaus
UKK
Toimitus ja takuu

Kentino AI 144 Rome L4 1452TOPS

144 GB VRAM – hiljainen edge-inferenssipalvelin
6x NVIDIA L4 passiivinen | EPYC Milan | 1 452 TOPS INT8

1 452
INT8 TOPS
144 GB
VRAM-kokonaismäärä
432 W
GPU-tehobudjetti
hiljainen
passiiviset GPU:t

Kuusi passiivista L4-konesalikorttia. Kentinon valikoiman hiljaisin AI-palvelin — soveltuu toimiston edge-käyttöön.

4U-yksisokettinen inferenssipalvelin, jossa on kuusi passiivista NVIDIA L4 -korttia (24 GB kukin, yhteensä 144 GB), yksi AMD EPYC 7643 Milan -suoritin (48C/96T), 384 GB DDR4 ECC, 2 TB NVMe-käynnistyslevy ja yksi 2 kW:n ATX-virtalähde 62 %:n varalla. Tiheän edge-inferenssin työjuhta embedding-kalustoille, pienten ja keskikokoisten LLM-mallien monivuokralaiskäyttöön sekä wattia per kysely -optimoituihin käyttöönottoihin toimistotilojen lähellä.

Laitteisto

Komponentti Tiedot
GPU:t 6x NVIDIA L4 24 GB (Ada Lovelace, passiivinen, 72 W, yhden paikan LP, PCIe Gen4 x8)
VRAM-kokonaismäärä 144 GB yhteensä 6 kortilla
Suoritin AMD EPYC 7643 Milan (48C/96T, 225 W, 128 PCIe 4.0 -linjaa)
Emolevy ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI)
Keskusmuisti 384 GB DDR4-2666 ECC RDIMM (6x 64 GB)
Käynnistys / tallennus 2 TB NVMe M.2 (PCIe 4.0 x4)
Virtalähde 1x 2 kW ATX-virtalähde
Kotelo 4U-räkkikotelo (6 kortin asettelu)
Jäähdytys SP3-tornijäähdytin + ohjattu ilmavirta edestä taakse (teollisuustuulettimet)
Verkko Integroitu kaksois-10 GbE (Intel X550)

Tehobudjetti

  • GPU-kulutus: 6 x 72 W = 432 W
  • Järjestelmä yhteensä täydellä kuormalla: ~757 W
  • Virtalähde yhteensä: 2 000 W — 62 % varaa
  • Hiljainen toiminta, runsas lämpövara

Linjatopologia

L4 on natiivisti PCIe Gen4 x8 — ei kaistahäviötä isäntään nähden. ROMED8-2T tarjoaa 7x x16-paikkaa; yksi paikka jää vapaaksi lisäverkkokortille. PCIe-kytkintä ei tarvita. Ei NVLinkiä.

Mitä sillä voi ajaa

Kun 144 GB on jaettu 6 fyysiselle kortille, paras käyttökohde on samanaikainen monimallikäyttö: samanaikaisesti voidaan ajaa 70B dense Q4-tarkkuudella, 30B MoE, 14B-koodausmalli, VLM ja embedding-malli, ja KV-välimuistille jää silti varaa.

LLM:t — teksti / päättely / koodaus

Kiinalaiset kärkimallit

  • Qwen3 / Qwen3.5 (Alibaba): Qwen3-30B-A3B Q4-Q6; QwQ-32B Q6; Qwen3-32B dense Q6; Qwen3.5-122B-A10B Q4-Q5 (~75 GB väljästi); Qwen3-235B-A22B Q3 (~112 GB) tiukasti, lyhyt konteksti
  • DeepSeek: DeepSeek-R2 32B sparse MoE Q4-Q6 (toimii yhdellä kortilla, 6x samanaikaista virtaa, ~15-20 tok/s per virta); Seed-OSS-36B Q4-Q6 natiivilla 512k kontekstilla
  • GLM / Z.ai: GLM-4.5-Air Q4-Q5 (60-70 GB väljästi); Hunyuan-A13B Q4-Q6 (~48 GB)
  • Baidu ERNIE-4.5-47B-A3B Q4; Step-3.5-Flash Q3-Q4 pienellä RAM-ylivuodolla

Länsimaiset kärkimallit

  • Meta Llama: Llama 3.3 70B Q4-Q6 (43-58 GB) runsaalla KV-välimuistilla (~10-17 tok/s yksittäisvirta, 6x L4 tensor-parallel); Llama 4 Scout 109B/17B MoE Q4 (~63 GB) väljästi
  • Mistral: Mistral Small 3 / Magistral Small 1.2 / Devstral Small 2 (24B) bf16-tarkkuudella (~50-65 tok/s per L4-kortti); Mixtral 8x22B Q4
  • OpenAI (avoimet painot): gpt-oss-120b natiivi MXFP4 (~80 GB) reilulla varalla; gpt-oss-20b MXFP4
  • Google Gemma 3: 27B bf16; Phi-4 14B bf16
  • NVIDIA Nemotron: Llama-3.1-Nemotron Super 49B Q4-Q6; Pixtral 12B / Pixtral Large Q4 (~72 GB)

Vision-language-mallit

Qwen3-VL-8B/32B, Qwen3-VL-30B-A3B MoE, InternVL3 jopa 78B Q4 (~48 GB), InternVL3.5-38B, DeepSeek-VL2, Llama 3.2 11B Vision bf16, Llama 3.2 90B Vision Q4 (~52 GB), Molmo 72B Q4, Gemma 3 12B/27B multimodaalinen, MiniCPM-V 2.6 / MiniCPM-o 2.6, GLM-4.6V-Flash.

Kuvien generointi

FLUX.1 [dev] / [schnell] fp8 (~20-35 s/kuva yhdellä L4:llä fp8-tarkkuudella); FLUX.1 Kontext [dev]; FLUX Tools; SD 3.5 Large (18 GB fp16 / 11 GB fp8); SDXL 1.0; HunyuanImage-2.1 (~34 GB bf16); HunyuanDiT; Kolors 2.0; AuraFlow v0.3; OmniGen v1; PixArt-Sigma.

Videon generointi

Wan 2.2 T2V-A14B / I2V-A14B MoE (tiukka bf16:lla ~54 GB); Wan 2.2 TI2V-5B nopea polku; HunyuanVideo 13B Q4-Q8 (~30 GB); HunyuanVideo 1.5 (8.3B); CogVideoX-5B; Open-Sora 2.0 Q8 (~16 GB); Mochi-1 Q4 (~18 GB); LTX-Video; Pyramid Flow; SVD / SV3D / SV4D; NVIDIA Cosmos.

Ääni / puhe / TTS

  • ASR: Whisper v3 large / turbo (~50x reaaliaika); Parakeet-TDT; Canary 1B; Qwen3-ASR; SenseVoice
  • TTS: CosyVoice 2 / 3; Kokoro 82M; Stable Audio Open; XTTS v2; StyleTTS 2; Step-Audio-EditX
  • Reaaliaika / S2S: Kyutai Moshi 7B; Step-Audio 2 mini/R1; Qwen2.5-Omni-7B
  • Musiikki / SFX: MusicGen / AudioGen / Bark; SeamlessM4T v2

Monimalli- ja monivuokralaiskäyttö

  • 6 samanaikaista virtaa 24 GB:n Q4-mallilla (yksi per kortti): esim. 6x Qwen3-14B Q4 -agenttia
  • Sekakalusto: Llama 3.3 70B Q4 (tensor-parallel 2 kortilla) + FLUX.1 (1 kortti) + Whisper-turbo (1 kortti) + Moshi (1 kortti) + BGE-M3-embedder (1 kortti)
  • Embedding-palvelu suurella QPS:llä — 6x rinnakkaista embedding-virtaa: BGE-M3 / E5 / Nomic / Cohere Embed
  • Videon transkoodausfarmi — 6x rinnakkaista NVENC/NVDEC-virtaa

Kohdekuormitukset

  • Monivuokralainen LLM-API SaaS-käyttöön — 20-40 samanaikaista käyttäjää 24B/32B-mallilla, ja rinnalla tilaa kuva- ja ASR-kuormille
  • RAG-taustajärjestelmä — kyselypuolen embedder + 70B Q4 -lukija + reranker, alle sekunnin viive, 50 QPS
  • Video-AI-putki — live-transkoodaus + tekstitys + moderointi 6 rinnakkaisella virralla
  • Edge-AI-laite toimiston lähellä — matala äänitaso, ei riippuvuutta konesalista
  • Keskitason mallien T&K-testipenkki — nopea iterointi 30-70B-hienosäädöissä, yksi kortti per koe

Mitattu suorituskyky

Julkaistut lähteet | NVIDIA L4 -datalehti + yhteisön benchmarkit

Testi Tulos
INT8 TOPS per kortti (NVIDIA-datalehti) 242 TOPS
INT8 TOPS yhteensä (6 korttia) 1 452 TOPS
Llama 3.1 8B Q4 yhdellä L4:llä (yhteisö) ~35-45 tok/s yksittäisvirta
BGE-M3-embedding QPS L4:llä (yhteisö) ~800 QPS 512 tokenin syötteellä
Whisper v3 turbo -reaaliaikakerroin ~1.5-2x reaaliaika per kortti

Julkaistuja ulkoisia lähteitä, ei mitattu Kentinon laitteistolla. Kentino julkaisee omat lukunsa ensimmäisen asiakastoimituksen jälkeen.

Ei ihanteellinen

  • Kärkitason 200B+ MoE Q4+-tarkkuudella ja pitkällä kontekstilla — 4x L40 tai 8x RTX 4090 (192 GB, yhtenäinen TP) on oikea valinta
  • Koulutuskuormitukset — L4:stä puuttuu FP8 ja kaista tehokkaaseen koulutukseen
  • Yksittäisen kuormituksen huippusuorituskyky — kortin laskentateho on vaatimaton verrattuna L40:een / RTX Pro 6000:een

Takuu ja toimitusaika

2 vuotta
osatakuu
1 vuosi
työtakuu
10-28 päivää
toimitusaika

NVIDIAn OEM-takuu 3 vuotta L4:lle + Kentinon integrointitakuu. Toimitukseen sisältyy kokoonpano, BIOS-määritys, ajurien asennus, burn-in-testaus ja toiminnallinen tarkastus. Toimitusaika riippuu komponenttien saatavuudesta ja vahvistetaan tilauksen yhteydessä.

Suositellut lisävarusteet

  • 4 TB NVMe -päivitys mallikirjaston esivalmisteluun
  • 24U avoin räkkikaappi hallitulla PDU:lla

Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.

Kauanko se kestää?

Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.

Voiko kokoonpanoa muuttaa ennen rakentamista?

Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.

Voiko palvelimen noutaa itse?

Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.

Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?

Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.

Mitä mallia tällä kokoonpanolla voi ajaa?

Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.

Miten palvelin testataan ennen toimitusta?

Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.

Onko palvelin käyttövalmis saapuessaan?

Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.

Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.

Etkö löytänyt juuri sitä, mitä tarvitset?

Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.