NVIDIA CMP 170HX 64 GB HBM2e (upravená, po ťažbe)
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
NVIDIA CMP 170HX 64 GB HBM2e — lacná VRAM pre rezidentnú inferenciu
CMP 170HX na báze GA100 s pamäťou rozšírenou na 64 GB HBM2e. Pri €1,600 to vychádza zhruba na €25 za gigabajt vysokopriepustnej VRAM — približne pätina ceny profesionálnych kariet s veľkou VRAM. Ide o upravený hardvér s reálnymi obmedzeniami a nižšie ich otvorene pomenúvame, ešte pred nákupom.
Čím táto karta je — a čím nie je
CMP 170HX predávala NVIDIA ako vyhradenú ťažobnú kartu: osekaný GA100 so zámerne uzamknutou linkou na PCIe 1.0 a s obmedzenou väčšinou zobrazovacích aj výpočtových funkcií. Tieto kusy boli dodatočne upravené tak, aby niesli 64 GB HBM2e. Vďaka tomu sú nezvyčajne lacným spôsobom, ako udržať veľký model celý vo vysokopriepustnej pamäti — a zlou voľbou pre čokoľvek, čo závisí od rýchlych prenosov z hostiteľa, od škálovania na viac GPU alebo od trénovania.
Prečo stojí verzia ×16 o €150 viac
Obe verzie sú uzamknuté na signalizáciu PCIe 1.0 — to sa už zvrátiť nedá. Líši sa počet liniek, a ten mení priepustnosť medzi hostiteľom a kartou 4×:
| PCIe 1.0 ×4 — €1,600 | ~1 GB/s · naplnenie 64 GB trvá zhruba minútu |
| PCIe 1.0 ×16 — €1,750 | ~4 GB/s · naplnenie 64 GB trvá zhruba 15 sekúnd |
Technické údaje
| GPU | NVIDIA GA100 — Ampere |
| Pamäť | 64 GB HBM2e (upravené — nie je to sériová konfigurácia) |
| Výpočtový výkon | Čiastočne odpojený oproti A100 — orientovaný na kapacitu, nie na priepustnosť |
| Rozhranie | PCIe 1.0 ×4 alebo PCIe 1.0 ×16 (vyberte vyššie) |
| Priepustnosť k hostiteľovi | ~1 GB/s (×4) · ~4 GB/s (×16) |
| Obrazové výstupy | Žiadne — len výpočty |
| Chladenie | Pasívne — vyžaduje prúdenie vzduchu v šasi |
| Stav | Použité, po ťažbe — otestované pred expedíciou |
Kam sa hodí
- Obsluha jedného veľkého modelu, ktorý zostáva rezidentný vo VRAM — načítate raz, beží hodiny.
- Experimentovanie s veľkými modelmi s obmedzeným rozpočtom, kde je 64 GB za €1,600 celá pointa.
- Dávkové inferenčné úlohy, ktoré limituje VRAM, nie prenosy.
- Učenie a vývoj nad veľkými modelmi bez výdavkov na datacentrové GPU.
Kam sa nehodí
- Trénovanie alebo doladenie — PCIe 1.0 aj znížený výpočtový výkon idú proti Vám.
- Multi-GPU tensor-parallel zostavy — prepoj je ďaleko príliš pomalý.
- Workloady, ktoré nepretržite streamujú dáta z pamäte hostiteľa alebo z disku.
- Čokoľvek, čo potrebuje obrazový výstup, alebo kartu, na ktorú sa dá spoľahnúť pri rokoch produkčnej prevádzky.
FAQ
Uvidí môj framework všetkých 64 GB?
V našich testoch je adresovateľná celá kapacita, čo je aj jediný dôvod túto kartu kúpiť. Výpočtová schopnosť je iná vec — oproti skutočnej A100 je čiastočne obmedzená a kusy sa medzi sebou líšia. Napíšte nám pred objednaním, aký workload plánujete, a dáme Vám priamu odpoveď, či je to pre Vás tá správna kúpa.
Dostanem úplne odomknutú kartu?
Niektoré kusy sú menej obmedzené než iné, no je to naozaj lotéria a nepredáme Vám sľub, ktorý nevieme dodržať. Objednávajte s tým, že dostanete 64 GB VRAM za nízku cenu; čokoľvek nad rámec toho berte ako bonus.
Môžem ich prevádzkovať viac v jednom stroji?
Fyzicky áno a každá karta si ponecháva vlastných 64 GB, takže nezávislé úlohy na jednotlivých kartách fungujú. Čo nefunguje dobre, je rozdelenie jedného modelu medzi karty — PCIe 1.0 robí z tensor-parallel komunikácie výrazné úzke hrdlo.
Potrebuje špeciálne chladenie?
Áno. Je to pasívna karta bez vlastného ventilátora a očakáva serverové šasi s riadnym prúdením vzduchu spredu dozadu. V bežnej desktopovej skrini sa prehreje.
Ako to vychádza oproti kúpe profesionálnej karty?
V cene za VRAM sa jej nič nevyrovná — zhruba €25/GB tu oproti približne €141/GB pri 96 GB RTX PRO 6000. V spoľahlivosti, výpočtovom výkone, záruke, priepustnosti PCIe aj zostatkovej hodnote vyhráva profesionálna karta na celej čiare. Vyberajte podľa toho, čo je pre Vás dôležitejšie.
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.