NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)
NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)
NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)
NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)
NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)
Kentino · Räätälöity AI-palvelin

NVIDIA CMP 170HX 64 GB HBM2e (muokattu, ex-louhinta)

Yritystason alusta, koottu ja testattu EU:ssa.

€5.200,00 ilman ALV:tä · toimituskulut lasketaan kassalla
Varastossa — toimitus EU-varastosta
PCIe-liitäntä
ISO 9001 · tarkastettu laitteistoEU-varasto & takuu7+ vuotta yritysten AI-ratkaisujaBurn-in-testattu ennen toimitusta
Yleiskatsaus
UKK
Toimitus ja takuu
Muokattu · Entinen louhintakortti · 64 GB HBM2e

NVIDIA CMP 170HX 64 GB HBM2e — edullista VRAM-muistia muistinvaraiseen inferenssiin 

GA100-pohjainen CMP 170HX, jonka muisti on laajennettu 64 GB:hen HBM2e-muistia. Hintaan €1,600 se tarkoittaa noin €25 per gigatavu suurikaistaista VRAM-muistia — noin viidesosa siitä, mitä suuren VRAM-muistin ammattikortit maksavat. Kyseessä on muokattu laitteisto, jolla on todelliset rajoitukset, ja kerromme ne alla ennen ostopäätöstä.

64 GB
HBM2e VRAM
GA100
Ampere-GPU
~25 €/GB
VRAM-kustannus
PCIe 1.0
×4- tai ×16-linkki
Lue tämä ensin

Mitä tämä kortti on — ja mitä se ei ole

NVIDIA myi CMP 170HX:ää erityisenä louhintakorttina: riisuttu GA100, jonka PCIe-linkki on tarkoituksella lukittu PCIe 1.0 -tasolle ja jonka useimmat näyttö- ja laskentatoiminnot on rajoitettu. Nämä yksiköt on jälkikäteen muokattu 64 GB:n HBM2e-muistille. Siksi ne ovat poikkeuksellisen edullinen tapa pitää suuri malli kokonaan suurikaistaisessa muistissa — ja huono valinta kaikkeen, mikä riippuu nopeista isäntäsiirroista, usean GPU:n skaalauksesta tai koulutuksesta.

Tämä on muokattu laitteisto, joka toimii suunnitellun kokoonpanonsa ulkopuolella. Laskentatehoa on osittain poistettu käytöstä täyteen A100:aan verrattuna, joten ostoperusteena kannattaa pitää VRAM-kapasiteettia — ei suoritustehoa. Yksittäiset kortit vaihtelevat: osa on avattu laajemmin kuin toiset, emmekä voi luvata, millainen kortti toimitetaan. Jos tarvitaan taattua, ennustettavaa laskentatehoa, kannattaa valita sen sijaan RTX PRO 6000 tai varsinainen konesalikortti — teemme siitä mielellämme tarjouksen.
PCIe-rajoitus

Miksi ×16-vaihtoehto maksaa €150 enemmän

Molemmat versiot on lukittu PCIe 1.0 -signalointiin — sitä ei voi muuttaa. Ero on kaistojen määrässä, mikä muuttaa isännän ja kortin välistä kaistanleveyttä 4-kertaisesti:

PCIe 1.0 ×4 — €1,600 ~1 GB/s · 64 GB:n täyttö kestää noin minuutin
PCIe 1.0 ×16 — €1,750 ~4 GB/s · 64 GB:n täyttö kestää noin 15 sekuntia
Kun painot ovat VRAM-muistissa, inferenssi toimii HBM2e-muistista eikä PCIe-linkillä ole juuri merkitystä. Linkin nopeus ratkaisee mallin latausajan, isäntä↔laite-suoratoiston ja kaiken usean GPU:n välisen viestinnän. Jos malli ladataan kerran ja sitä käytetään tunteja, ×4 riittää. Jos malleja vaihdetaan usein, dataa suoratoistetaan jatkuvasti tai malli on tarkoitus jakaa usealle kortille, €150 kannattaa maksaa.
Molemmat vaihtoehdot ovat samasta korttierästä — ×16-muunnos tehdään omissa tiloissamme ennen lähetystä, ja €150 kattaa juuri tämän työn. ×16-tilauksissa kannattaa varata hieman lisäaikaa muunnokselle ja uudelleentestaukselle.
Tekniset tiedot

Tekninen erittely

GPU NVIDIA GA100 — Ampere
Muisti 64 GB HBM2e (muokattu — ei vakiokokoonpano)
Laskentateho Osittain poistettu käytöstä A100:aan verrattuna — kapasiteetti-, ei suoritustehokeskeinen
Liitäntä PCIe 1.0 ×4 tai PCIe 1.0 ×16 (valitse yllä)
Isäntäkaistanleveys ~1 GB/s (×4) · ~4 GB/s (×16)
Näyttöliitännät Ei — vain laskentaan
Jäähdytys Passiivinen — vaatii kotelon ilmavirran
Kunto Käytetty, entinen louhintakortti — testattu ennen lähetystä
Sopii parhaiten

Mihin se sopii

  • Yhden suuren mallin ajaminen pysyvästi VRAM-muistissa — lataa kerran, aja tunteja.
  • Suurten mallien kokeilu pienellä budjetilla, kun 64 GB hintaan €1,600 on koko pointti.
  • Eräinferenssityöt, joita rajoittaa VRAM eikä tiedonsiirto.
  • Suurten mallien työnkulkujen opettelu ja kehitys ilman konesali-GPU:iden kustannuksia.

Mihin se ei sovi

  • Koulutus tai hienosäätö — PCIe 1.0 ja rajoitettu laskentateho ovat molemmat esteenä.
  • Usean GPU:n tensoririnnakkaiset kokoonpanot — väylä on aivan liian hidas.
  • Kuormitukset, jotka suoratoistavat dataa jatkuvasti isäntämuistista tai levyltä.
  • Kaikki, mikä tarvitsee näyttölähtöä, tai kortti, johon on voitava luottaa vuosien tuotantokäytössä.
Kysymyksiä

UKK



Näkeekö ohjelmistokehys kaikki 64 GB?

Testeissämme koko kapasiteetti on osoitettavissa, mikä on koko syy ostaa tämä kortti. Laskentakyky on eri asia — se on osittain rajoitettu aitoon A100:aan verrattuna, ja kortit vaihtelevat yksilöittäin. Kerro aiottu kuormitus ennen tilausta, niin kerromme suoraan, onko tämä oikea hankinta.

Onko saatavilla täysin avattu kortti?

Osa yksiköistä on vähemmän rajoitettuja kuin toiset, mutta kyse on todellisesta arpapelistä, emmekä myy lupausta, jota emme voi pitää. Kortti kannattaa tilata 64 GB:n VRAM-muistin ja edullisen hinnan perusteella; kaikki sen lisäksi on bonusta.

Voiko samaan koneeseen asentaa useita?

Fyysisesti kyllä, ja jokaisella kortilla on omat 64 GB, joten korttikohtaiset itsenäiset työt toimivat. Huonosti toimii sen sijaan yhden mallin jakaminen usealle kortille — PCIe 1.0 tekee tensoririnnakkaisesta viestinnästä selvän pullonkaulan.

Tarvitseeko se erityistä jäähdytystä?

Kyllä. Se on passiivinen kortti ilman omaa tuuletinta, ja se vaatii palvelinkotelon, jossa on kunnollinen edestä taakse kulkeva ilmavirta. Tavallisessa pöytäkoneen kotelossa se ylikuumenee.

Miten tämä vertautuu ammattikortin ostamiseen?

VRAM-hinnassa mikään ei tule lähellekään — täällä noin €25/GB verrattuna noin €141/GB:hen 96 GB:n RTX PRO 6000:ssa. Luotettavuudessa, laskentatehossa, takuussa, PCIe-kaistanleveydessä ja jälleenmyyntiarvossa ammattikortti voittaa joka kohdassa. Valinta kannattaa tehdä sen mukaan, mikä näistä on tärkeintä.

Etkö ole varma, onko tämä oikea kortti kuormitukseesi? Kerro malli ja miten aiot ajaa sitä, niin kerromme rehellisesti, sopiiko tämä vai Kentino AI -kokoonpano paremmin.

Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.

Kauanko se kestää?

Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.

Voiko kokoonpanoa muuttaa ennen rakentamista?

Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.

Voiko palvelimen noutaa itse?

Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.

Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?

Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.

Mitä mallia tällä kokoonpanolla voi ajaa?

Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.

Miten palvelin testataan ennen toimitusta?

Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.

Onko palvelin käyttövalmis saapuessaan?

Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.

Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.

Etkö löytänyt juuri sitä, mitä tarvitset?

Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.