Kentino AI Node H100 — 8× NVIDIA H100 SXM5, 640 GB HBM3
Yritystason alusta, koottu ja testattu EU:ssa.
Kentino AI Node H100
640 GB HBM3, NVSwitch-Pooled
8x H100 SXM5 | 15,832 INT8 TOPS
The Hopper reference node - the best-understood 8-GPU platform in production.
An 8U node carrying eight NVIDIA H100 SXM5 80 GB modules on a single NVLink/NVSwitch baseboard: 640 GB of HBM3 at 3.35 TB/s per GPU, full any-to-any 900 GB/s GPU-to-GPU bandwidth, dual Intel Xeon Gold 6538Y+, 2 TB DDR5 ECC RDIMM and U.2 NVMe storage. The H100 is the most widely benchmarked 8-GPU platform in existence, which matters more than it sounds: if you have an existing training recipe, a vendor SLA or a procurement process built around H100 numbers, this is the node that matches them without re-validation.
Hardware
| Component | Detail |
|---|---|
| GPUs | 8x NVIDIA H100 SXM5 80 GB HBM3 (Hopper, 700 W per module) |
| VRAM pool | 640 GB HBM3, NVSwitch-pooled |
| Memory bandwidth | 3.35 TB/s per GPU |
| GPU interconnect | NVLink 4 via NVSwitch, 900 GB/s any-to-any |
| Compute | 7,912 TFLOPS bf16 dense | 15,832 TFLOPS fp8 dense | 15,832 INT8 TOPS |
| CPUs | 2x Intel Xeon Gold 6538Y+, 32C/64T each (64C/128T). Platinum 8558 (96C/192T) available as an upgrade |
| System memory | 2 TB DDR5 ECC RDIMM (16x 128 GB) |
| Storage | 2x 1.92 TB U.2 NVMe boot + 2x 3.84 TB U.2 NVMe data |
| Networking | 2x NVIDIA ConnectX-7. Up to 8x on request |
| Chassis | 8U rack-mount, front-to-back airflow, 24/7 rated |
| Power | 6x 3000 W (3+3) redundant Titanium |
What it runs
640 GB covers the whole current open-weight landscape at fp8 or Q4. Estimates are for this 8-GPU configuration with tensor parallelism.
| Component | Detail |
|---|---|
| Llama 3.3 70B / Qwen3-72B | fp8. ~90-130 tok/s single stream, 5,000+ tok/s batched |
| DeepSeek-V3.2 / R1 671B | Q4 comfortably; fp8 needs weight streaming at this pool size |
| Qwen3-235B-A22B MoE | fp8 native with context headroom |
| Qwen3-Coder-480B-A35B | Q4 agentic coding, full 8-GPU tensor parallel |
| Full fine-tune 70B | 8-way tensor parallel |
| Mixed multi-tenant | several 70B-class models resident simultaneously |
Throughput figures are estimates derived from published vendor specifications and community benchmarks for this GPU generation, not measurements taken on this exact configuration. We will give you measured numbers for your model and context length before you commit.
Power and cooling
Roughly 6.7 kW sustained - identical envelope to the H200 node. Dedicated 32 A three-phase feed per node, rack budget around one node per 10 kW, contained cold aisle below 24 C with genuine front-to-back airflow for 24/7 operation.
Export control - read this before ordering
The H100 is an Advanced Computing Item (ECCN 3A090.a). Shipment requires a completed KYC form and an End User Certificate naming the end user, the installation address and the intended use.
Budget several weeks for clearance on top of hardware lead time. If the end user cannot be named, this hardware cannot be supplied.
What you get from Kentino
Kentino supplies, configures and supports this node as a complete deployment: rack and power design against your site's actual feed, front-to-back airflow sizing for 24/7 operation, OS and driver stack (Ubuntu with pinned NVIDIA driver, CUDA, container toolkit), the inference or training stack of your choice, burn-in with a written report, EU-based logistics and warranty.
We also handle the export paperwork with you rather than mailing you a form and hoping. That part takes longer than the hardware and is where most first-time buyers of this class of machine get stuck.
Price shown is EUR excluding VAT, EXW Prague (Incoterms 2020). Collection, freight, insurance and any destination import duties are for the buyer’s account. Lead time on request.
Before you order this, ask us to quote the H200 node alongside it - at current channel pricing the 8x H200 baseboard often lands at or below the H100 board while carrying 1,128 GB instead of 640 GB. We would rather tell you that up front than sell you the wrong node.
Kysymykset, joita ostajat kysyvät meiltä useimmin ennen palvelimen tilaamista.
Kauanko se kestää?
Varastossa olevista komponenteista rakennetut koneet toimitetaan nopeasti; tiettyä GPU-sukupolvea vaativien koneiden toimitus riippuu saatavuudesta. Annamme päivämäärän ennen maksua, ja jos se muuttuu, kerromme siitä itse emmekä anna sen tulla yllätyksenä.
Voiko kokoonpanoa muuttaa ennen rakentamista?
Lähes aina. GPU:t, muisti, tallennustila ja jäähdytys valitaan tilauskohtaisesti, ja listattu kokoonpano on lähtökohta eikä kiinteä paketti. Jos tarvitaan enemmän VRAM:ia, nopeampaa tallennusta tai erilaista jäähdytysratkaisua, kerro siitä ennen tilausta, niin teemme muutoksesta tarjouksen.
Voiko palvelimen noutaa itse?
Voi. Varastomme sijaitsee Prahassa, ja nouto paikan päältä on tervetullut — useimmat noutajat käyttävät käynnin hyväkseen, käyvät koneen läpi insinöörimme kanssa ja kysyvät ne kysymykset, jotka ovat sähköpostitse hankalia. Tšekin tasavallan sisäisissä tilauksissa pyrimme myös toimittamaan laitteen henkilökohtaisesti ja käymään asennuksen läpi paikan päällä.
Voinko keskustella jonkun kanssa, joka oikeasti ymmärtää kuormituksen?
Kyllä. Meillä on nimenomaan AI-järjestelmiin erikoistunut insinööri, ei yleistä myyntipalvelua. Jos kysymys koskee eräkokoja, kvantisointia, väyläratkaisuja tai sitä, missä pullonkaula tulee vastaan, kysy — se keskustelu yleensä parantaa kokoonpanoa.
Mitä mallia tällä kokoonpanolla voi ajaa?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Miten palvelin testataan ennen toimitusta?
Testaamme laitteen todellisilla AI-kuormituksilla synteettisten pisteiden sijaan: inferenssiläpäisy, käyttäytyminen jatkuvassa kuormassa ja lämpötilat yhtäjaksoisessa käytössä. Benchmark-tulokset toimitetaan koneen mukana, joten luvattu suorituskyky on todennettavissa ensimmäisestä päivästä lähtien.
Onko palvelin käyttövalmis saapuessaan?
Kyllä. Jokainen kone kootaan, rasitustestataan ja testataan todellisilla AI-kuormituksilla ennen toimitusta, ja se lähtee meiltä LLM valmiiksi asennettuna ja käynnissä. Kone kytketään virtaan ja verkkoon, ja työt voi aloittaa — jäljelle jää vain päätös siitä, mikä projekti ajetaan ensin.
Toimitus EU-varastostamme. Raskaat tuotteet voivat vaatia rahtijärjestelyjä — pyydä toimitustarjous ja toimitusaika. 2 vuoden rajoitettu takuu ja ennakkovaihto-RMA-tuki; jatkettu takuu saatavilla.
Etkö löytänyt juuri sitä, mitä tarvitset?
Kerro kuormituksesi, niin määrittelemme alustan sen ympärille — GPU:t, muisti, tallennustila ja jäähdytys sovitettuna todelliseen käyttöön.