Kentino AI Node H200 — 8× NVIDIA H200 SXM5, 1,128 GB HBM3e
Platforma na podnikovej úrovni, zostavená a otestovaná v EÚ.
Kentino AI Node H200
1,128 GB HBM3e in One Chassis
8x H200 SXM5 | NVSwitch | 15,832 INT8 TOPS
The tier where frontier models stop needing quantisation.
An 8U node carrying eight NVIDIA H200 SXM5 modules on a single NVLink/NVSwitch baseboard: 1,128 GB of HBM3e pooled at 4.8 TB/s per GPU, with full any-to-any 900 GB/s GPU-to-GPU bandwidth. Dual Intel Xeon Platinum processors, 2 TB of DDR5 system memory, U.2 NVMe boot and data tiers, and high-speed networking. This is a different class of machine from a PCIe multi-GPU build: because every GPU talks to every other GPU at full bandwidth, tensor parallelism scales close to linearly instead of degrading on dense models.
Hardware
| Component | Detail |
|---|---|
| GPUs | 8x NVIDIA H200 SXM5 141 GB HBM3e (Hopper, 700 W per module) |
| VRAM pool | 1,128 GB HBM3e, NVSwitch-pooled - usable as one address space |
| Memory bandwidth | 4.8 TB/s per GPU |
| GPU interconnect | NVLink 4 via 4x NVSwitch, 900 GB/s any-to-any (not PCIe-limited) |
| Compute | 7,912 TFLOPS bf16 dense | 15,832 TFLOPS fp8 dense | 15,832 INT8 TOPS |
| CPUs | 2x Intel Xeon Platinum, dual-socket |
| System memory | 2 TB DDR5 |
| Storage | 2x 1.92 TB U.2 NVMe boot + 2x 3.84 TB U.2 NVMe data. Expandable |
| Networking | 2x NVIDIA ConnectX-7. Up to 8x on request for multi-node InfiniBand fabric |
| Chassis | 8U rack-mount, front-to-back airflow, 24/7 rated |
| Power | Redundant, up to 10.2 kW peak system draw |
What it runs
1,128 GB is the point at which the largest open-weight models run at their native precision instead of being squeezed into a quantisation that costs you quality. Estimates below are for this 8-GPU configuration with tensor parallelism.
| Component | Detail |
|---|---|
| DeepSeek-V3.2 / R1 671B | Native fp8, full context. ~30-50 tok/s single stream, 2,000+ tok/s batched |
| Kimi-K2 1T class | fp8 with room for KV cache - no 1.58-bit compromise needed |
| Llama 3.3 70B / Qwen3-72B | fp8. ~90-130 tok/s single stream, 5,000+ tok/s batched |
| Qwen3-235B-A22B MoE | fp8 native with long-context headroom |
| Long-context serving | 128k+ context with KV cache resident, not spilled |
| Full fine-tune 70B | 8-way tensor parallel, no gradient offload |
Throughput figures are estimates derived from published vendor specifications and community benchmarks for this GPU generation, not measurements taken on this exact configuration. We will give you measured numbers for your model and context length before you commit.
Power and cooling
Up to 10.2 kW peak system draw, the bulk of it the 8x 700 W GPU complex. In practice that means a dedicated three-phase feed per node and a rack budget planned around roughly one node per 12 kW. Air-cooled at this density needs real front-to-back airflow with a contained cold aisle below 24 C - perforated doors alone will not do it. A liquid-cooled baseboard variant is available and is the better answer above two nodes per rack; it needs a CDU and secondary loop, which we will scope with you rather than assume.
Export control - read this before ordering
The H200 is classified as an Advanced Computing Item (ECCN 3A090.a). Shipment requires a completed KYC form and an End User Certificate naming the end user, the installation address and the intended use. This is not optional and it is not something we can waive.
Practically: budget several weeks for clearance on top of hardware lead time, and expect to name the legal entity that will own and operate the machine. If the end user cannot be named, this hardware cannot be supplied - by us or by anyone else in the EU.
What you get from Kentino
Kentino supplies, configures and supports this node as a complete deployment: rack and power design against your site's actual feed, front-to-back airflow sizing for 24/7 operation, OS and driver stack (Ubuntu with pinned NVIDIA driver, CUDA, container toolkit), the inference or training stack of your choice, burn-in with a written report, EU-based logistics and warranty.
We also handle the export paperwork with you rather than mailing you a form and hoping. That part takes longer than the hardware and is where most first-time buyers of this class of machine get stuck.
Price shown is EUR excluding VAT, EXW Prague (Incoterms 2020). Collection, freight, insurance and any destination import duties are for the buyer’s account. Lead time on request.
Channel pricing on 8-GPU baseboards moves, so we confirm the figure against documented acquisition cost when you order — if it has moved in your favour, so does the price. Export clearance is part of the delivery. Contact us with your model, context length and site power envelope and we will come back with a firm quote, a measured throughput estimate and a delivery date.
Otázky, ktoré nám kupujúci kladú najčastejšie pred objednaním servera.
Ako dlho to trvá?
Stroje postavené z komponentov, ktoré máme na sklade, expedujeme rýchlo; čokoľvek, čo si vyžaduje konkrétnu generáciu GPU, závisí od dostupnosti. Termín Vám oznámime ešte pred platbou, a ak sa posunie, povieme Vám to sami – nenecháme Vás, aby ste na to prišli.
Dá sa konfigurácia pred stavbou ešte zmeniť?
Takmer vždy. GPU, pamäť, úložisko aj chladenie vyberáme podľa konkrétnej objednávky a uvedená konfigurácia je skôr východiskovým bodom než pevným balíkom. Ak potrebujete viac VRAM, rýchlejšie úložisko alebo iný spôsob chladenia, povedzte nám to pred objednaním a zmenu Vám naceníme.
Môžem si server vyzdvihnúť osobne?
Môžete. Náš sklad je v Prahe a osobný odber je vítaný — väčšina ľudí, ktorí prídu, využije návštevu na to, aby si stroj prešla s naším technikom a opýtala sa na veci, ktoré sa cez e-mail riešia ťažko. Pri objednávkach v rámci Českej republiky sa snažíme doručovať aj osobne a uvedenie do prevádzky s Vami prejsť priamo na mieste.
Môžem hovoriť s niekým, kto naozaj rozumie workloadu?
Áno. Máme inžiniera, ktorý sa venuje priamo AI systémom, nie všeobecné obchodné oddelenie. Ak sa pýtate na veľkosti batchov, kvantizáciu, prepojenie alebo na to, kde bude Vaše úzke miesto, pýtajte sa — taký rozhovor zvyčajne zmení konfiguráciu k lepšiemu.
Aký model môžem na tejto konfigurácii spustiť?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Ako testujete server pred odoslaním?
Testujeme ho na reálnych AI workloadoch, nie na syntetických skóre: priepustnosť inferencie, správanie pri trvalej záťaži a teploty pri nepretržitej prevádzke. Výsledky benchmarkov dostanete spolu so strojom, takže výkon, ktorý sme vám sľúbili, si môžete overiť hneď v prvý deň.
Je server po doručení pripravený na prevádzku?
Áno. Každý stroj je zostavený, prejde záťažovým testom a benchmarkmi na reálnych AI workloadoch ešte pred expedíciou a odchádza od nás s už nainštalovaným a bežiacim LLM. Stačí ho zapojiť, pripojiť do siete a pustiť sa do práce — jediné, o čom ešte rozhodnete, je, ktorý projekt na ňom pobeží ako prvý.
Expedujeme z nášho skladu v EÚ. Pri ťažkých položkách môže byť potrebná prepravná zásielka — kontaktujte nás pre cenovú ponuku dopravy a dodaciu lehotu. 2-ročná obmedzená záruka s rozšírenou RMA podporou; k dispozícii je predĺžená záruka.
Nie je to presne to, čo potrebujete?
Povedzte nám, aký workload prevádzkujete, a my okolo neho navrhneme túto platformu — GPU, pamäť, úložisko aj chladenie presne na mieru.