NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)
NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)
Kentino · AI server na míru

NVIDIA CMP 170HX 64 GB HBM2e (upravená, z těžby)

Platforma podnikové třídy, sestavená a otestovaná v EU.

€5.200,00 bez DPH · dopravu spočítáme v košíku
Vyrábíme na zakázku — o dodací lhůtě nás kontaktujte
Rozhraní PCIe
ISO 9001 · ověřený hardwareSklad a záruka v EU7+ let ve firemní AIPřed expedicí otestováno zátěží
Přehled
Časté dotazy
Doprava a záruka
Upraveno · Ex-mining · 64 GB HBM2e

NVIDIA CMP 170HX 64 GB HBM2e — levná VRAM pro rezidentní inferenci

CMP 170HX postavená na čipu GA100 s pamětí rozšířenou na 64 GB HBM2e. Při ceně €1,600 to vychází zhruba na €25 za gigabajt vysokopropustné VRAM — asi pětina toho, co stojí profesionální karty s velkou pamětí. Jde o upravený hardware s reálnými omezeními a popisujeme je níže, ještě než nakoupíte.

64 GB
HBM2e VRAM
GA100
GPU Ampere
~25 €/GB
cena VRAM
PCIe 1.0
linka ×4 nebo ×16
Přečtěte si nejdřív

Co tato karta je — a co není

CMP 170HX prodávala NVIDIA jako čistě těžební kartu: osekaný GA100 se záměrně uzamčenou linkou na PCIe 1.0 a s většinou zobrazovacích i výpočetních funkcí omezených. Tyto kusy byly dodatečně upraveny na 64 GB HBM2e. Díky tomu jde o nezvykle levný způsob, jak udržet velký model celý ve vysokopropustné paměti — a o špatnou volbu pro cokoli, co závisí na rychlých přenosech z hostitele, škálování přes více GPU nebo tréninku.

Jde o upravený hardware provozovaný mimo zamýšlenou konfiguraci. Výpočetní jednotky jsou oproti plnému A100 částečně odpojené, takže důvodem k nákupu ať je kapacita VRAM, ne propustnost. Jednotlivé kusy se liší: některé jsou odemčené více než jiné a nemůžeme slíbit, který Vám přijde. Pokud potřebujete zaručený a předvídatelný výpočetní výkon, kupte raději RTX PRO 6000 nebo řádnou datacentrovou kartu — rádi Vám ji naceníme.
Omezení PCIe

Proč varianta ×16 stojí o €150 víc

Obě verze jsou uzamčené na signalizaci PCIe 1.0 — to vrátit nelze. Liší se počtem linek, a ten mění propustnost mezi hostitelem a kartou čtyřnásobně:

PCIe 1.0 ×4 — €1,600 ~1 GB/s · naplnění 64 GB trvá zhruba minutu
PCIe 1.0 ×16 — €1,750 ~4 GB/s · naplnění 64 GB trvá zhruba 15 sekund
Jakmile jsou váhy jednou ve VRAM, inference běží z HBM2e a na lince PCIe skoro nezáleží. Rychlost linky rozhoduje hlavně o době načtení modelu, o streamování mezi hostitelem a kartou a o komunikaci mezi více GPU. Pokud model načtete jednou a pak ho hodiny obsluhujete, ×4 bohatě stačí. Pokud modely často střídáte, průběžně streamujete data nebo plánujete model rozdělit mezi karty, těch €150 se vyplatí.
Obě varianty pocházejí ze stejné šarže karet — úpravu na ×16 děláme u nás před expedicí a právě to těch €150 pokrývá. U objednávek ×16 proto počítejte s malým zdržením na úpravu a opětovné otestování.
Specifikace

Technické údaje

GPU NVIDIA GA100 — Ampere
Paměť 64 GB HBM2e (upraveno — není to tovární konfigurace)
Výpočetní výkon Oproti A100 částečně odpojený — orientovaný na kapacitu, ne na propustnost
Rozhraní PCIe 1.0 ×4 nebo PCIe 1.0 ×16 (vyberte výše)
Propustnost k hostiteli ~1 GB/s (×4) · ~4 GB/s (×16)
Obrazové výstupy Žádné — pouze výpočty
Chlazení Pasivní — vyžaduje proudění vzduchu v šasi
Stav Použité, ex-mining — před expedicí otestováno
Nejlepší pro

Kam se hodí

  • Provoz jednoho velkého modelu, který zůstává rezidentní ve VRAM — načíst jednou, běžet hodiny.
  • Experimenty s velkými modely za rozumné peníze, kde je 64 GB za €1,600 celá pointa.
  • Dávkovou inferenci, kterou limituje VRAM, a ne přenosy.
  • Učení a vývoj nad velkými modely bez výdajů za datacentrová GPU.

Kam se nehodí

  • Trénink nebo fine-tuning — PCIe 1.0 i osekaný výpočetní výkon hrají proti Vám.
  • Tensor-parallel sestavy s více GPU — propojení je zdaleka příliš pomalé.
  • Workloady, které průběžně streamují data z paměti hostitele nebo z disku.
  • Cokoli, co potřebuje obrazový výstup, i kartu, na kterou se chcete roky spoléhat v produkci.
Otázky

FAQ



Uvidí můj framework všech 64 GB?

Při našem testování je celá kapacita adresovatelná — právě to je jediný důvod, proč tuto kartu kupovat. Výpočetní schopnosti jsou jiná věc: oproti skutečnému A100 jsou částečně omezené a kus od kusu se liší. Napište nám před objednávkou, na co kartu chcete použít, a řekneme Vám na rovinu, jestli je to pro Vás správný nákup.

Můžu dostat plně odemčenou kartu?

Některé kusy jsou omezené méně než jiné, ale je to skutečně loterie a nebudeme Vám slibovat něco, co nemůžeme dodržet. Objednávejte s tím, že dostanete 64 GB VRAM za nízkou cenu; cokoli navíc berte jako bonus.

Můžu jich dát víc do jednoho stroje?

Fyzicky ano a každá karta si drží vlastních 64 GB, takže nezávislé úlohy na kartu fungují. Co nefunguje dobře, je rozdělit jeden model mezi karty — PCIe 1.0 dělá z tensor-parallel komunikace s velkým náskokem to nejužší hrdlo.

Potřebuje speciální chlazení?

Ano. Je to pasivní karta bez vlastního ventilátoru a počítá se serverovým šasi s pořádným prouděním vzduchu zepředu dozadu. V běžné stolní skříni se přehřeje.

Jak si stojí proti nákupu profesionální karty?

V ceně za VRAM se jí nic nevyrovná — zhruba €25/GB tady proti asi €141/GB u 96GB RTX PRO 6000. Ve spolehlivosti, výpočetním výkonu, záruce, propustnosti PCIe i zůstatkové hodnotě vyhrává profesionální karta na celé čáře. Vyberte podle toho, co je pro Vás důležitější.

Nejste si jistí, jestli je to pro Váš workload ta správná karta? Napište nám, jaký model a jakým způsobem chcete provozovat, a upřímně Vám řekneme, zda se hodí spíš ona, nebo sestava Kentino AI.

Otázky, které nám kupující kladou před objednávkou serveru nejčastěji.

Jak dlouho to trvá?

Stroje sestavené z komponent, které máme skladem, expedujeme rychle; cokoli, co vyžaduje konkrétní generaci GPU, závisí na dostupnosti. Termín Vám sdělíme ještě před platbou, a pokud se posune, dáme Vám vědět sami, místo abyste na to museli přijít.

Lze konfiguraci změnit ještě před sestavením?

Téměř vždy. GPU, paměť, úložiště i chlazení volíme podle konkrétní objednávky a uvedená konfigurace je spíš výchozím bodem než pevně daným balíkem. Pokud potřebujete více VRAM, rychlejší úložiště nebo jiné řešení chlazení, dejte nám vědět ještě před objednávkou a změnu Vám naceníme.

Mohu si server vyzvednout osobně?

Ano, můžete. Náš sklad je v Praze a osobní odběr vítáme — většina těch, kdo přijedou, využije návštěvu k tomu, aby si stroj prošla s naším technikem a zeptala se na věci, které se e-mailem řeší těžko. U objednávek v rámci České republiky se také snažíme doručovat osobně a provést Vás nastavením přímo na místě.

Mohu mluvit s někým, kdo opravdu rozumí workloadu?

Ano. Máme inženýra, který se věnuje přímo AI systémům, nikoli obecné obchodní oddělení. Pokud se ptáte na velikosti batchů, kvantizaci, propojení nebo na to, kde bude Vaše úzké hrdlo, zeptejte se — takový rozhovor obvykle posune konfiguraci k lepšímu.

Jaký model na této konfiguraci spustím?

Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.

Jak testujete server před expedicí?

Testujeme ji na skutečných AI workloadech, ne na syntetických skóre: propustnost inference, chování při dlouhodobé zátěži a teploty v nepřetržitém provozu. Výsledky benchmarků dostanete spolu se strojem, takže si slíbený výkon můžete ověřit hned první den.

Je server po dodání připravený k provozu?

Ano. Každý stroj je sestaven, podroben burn-in testu a změřen na reálných AI workloadech ještě před expedicí a odchází od nás s již nainstalovaným a běžícím LLM. Zapojíte jej, připojíte do své sítě a začnete pracovat — zbývá jediné rozhodnutí: na jakém projektu poběží jako prvním.

Expedujeme z našeho skladu v EU. U těžkých položek může být nutná přeprava nákladní dopravou — napište si o cenovou nabídku dopravy a dodací lhůtu. Dvouletá omezená záruka s přednostním RMA servisem, prodloužená záruka na vyžádání.

Není to přesně to, co potřebujete?

Řekněte nám, jaký workload provozujete, a my Vám tuto platformu navrhneme na míru — GPU, paměť, úložiště i chlazení podle toho, co u Vás skutečně běží.