AI server pro inferenci 70B L40
Platforma podnikové třídy, sestavená a otestovaná v EU.
Tato položka zůstává v katalogu pouze pro referenci.
Tento server byl nahrazen novou produktovou řadou Kentino AI. Aktuální ekvivalent nebo vylepšenou konfiguraci najdete v naší kolekci AI serverů.
Doporučená náhrada: Kentino AI 192 Rome L40 1448TOPS (4x NVIDIA L40, stejná platforma, aktualizované provedení)
Počítač 70B L40
Specifikace
- GPU: 6x NVIDIA L40 (celkem 288 GB VRAM)
- Základní deska: ASRock Rack ROMED8-2T
- CPU: AMD EPYC 7542
- RAM: 512GB SK Hynix 2666MHz REG ECC DDR4 LRDIMM (8 x 64GB)
- Propojení GPU a základní desky: Kabel RYSER PCIe 4.0 x16
- Zdroj: 2x AX1600i 1000W
- Skříň: 4U do racku
-
Úložiště:
- 2TB NVMe SSD
- Disk SATA 500GB
Klíčové vlastnosti
- Vysoký výpočetní výkon GPU: šest karet NVIDIA L40 s celkem 288 GB VRAM pro náročné workloady v oblasti AI, strojového učení a vizualizace.
- Komponenty serverové třídy: spolehlivá základní deska ASRock Rack ROMED8-2T a výkonný procesor AMD EPYC 7542 pro mimořádný výpočetní výkon.
- Dostatek paměti: 512GB rychlé paměti SK Hynix DDR4 zajišťuje plynulý multitasking a efektivní zpracování dat při složitých výpočtech.
- Rychlé propojení GPU: kabel RYSER PCIe 4.0 x16 zajišťuje rychlé spojení mezi grafickými kartami a základní deskou při plné propustnosti, a tím optimální výkon i rychlost přenosu dat.
- Robustní napájení: dva zdroje AX1600i 1000W dodávají stabilní a dostatečný výkon pro náročné komponenty i při vysoké zátěži.
- Rozšiřitelné úložiště: rychlý 2TB NVMe SSD jako hlavní úložiště a doplňkový 500GB disk SATA pro další kapacitu.
- Chlazení profesionální úrovně: prostorná skříň 24U do racku zajišťuje optimální proudění vzduchu a tepelný management pro trvalý provoz při vysokém výkonu.
- Všestranná konfigurace: navrženo pro širokou škálu náročných výpočetních úloh, od AI a strojového učení po profesionální vizualizaci a rendering.
Ideální využití
- Inference velkých jazykových modelů (např. modely se 70B parametry)
- Výzkum v oblasti AI a strojového učení
- Datová analytika a vizualizace
- Profesionální 3D rendering a animace
- Vědecké simulace
- Aplikace pro vysoce výkonné výpočty (HPC)
- Počítačové vidění a zpracování obrazu
- Finanční modelování a analýza rizik
Zvláštní poznámky
- Optimalizováno pro modely se 70B parametry: s celkem 288 GB VRAM je tento systém navržen přímo pro velké jazykové modely až se 70 miliardami parametrů, a je tak ideální pro špičkový výzkum a nasazení AI.
- Přednost karet NVIDIA L40: L40 nabízejí vyvážený poměr výpočetního výkonu a paměti a hodí se pro širokou škálu workloadů v AI, HPC i profesionální vizualizaci.
- Výkon PCIe 4.0: kabel RYSER PCIe 4.0 x16 zajišťuje, že každá karta pracuje při plné propustnosti, což maximalizuje datový tok a minimalizuje latenci.
- Škálovatelný návrh: ačkoli je systém optimalizován pro modely se 70B parametry, lze jej snadno rozšířit nebo zapojit do clusteru pro ještě větší workloady či prostředí s více uživateli.
Počítač 70B L40 představuje výkonné a všestranné řešení pro organizace a výzkumníky, kteří pracují s velkými AI modely, zejména v oblasti zpracování a generování přirozeného jazyka. Díky vyvážené kombinaci karet NVIDIA L40, procesoru AMD EPYC a rychlé paměti se hodí i pro širokou škálu náročných výpočetních úloh mimo AI, včetně vědeckých simulací, datové analytiky a profesionální vizualizace.
Dodání 2–6 týdnů
Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.
Jak dlouho to trvá?
Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.
Lze konfiguraci změnit ještě před sestavením?
Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.
Mohu si server vyzvednout osobně?
Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.
Mohu mluvit s někým, kdo opravdu rozumí workloadu?
Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.
Jaký model na této konfiguraci spustím?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Jak testujete server před expedicí?
Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.
Je server po dodání připravený k provozu?
Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.
Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.
Není to přesně to, co potřebujete?
Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.