Kentino AI Node H200 — 8× NVIDIA H200 SXM5, 1,128 GB HBM3e
Plataforma de nível empresarial, montada e testada na UE.
Kentino AI Node H200
1,128 GB HBM3e in One Chassis
8x H200 SXM5 | NVSwitch | 15,832 INT8 TOPS
The tier where frontier models stop needing quantisation.
An 8U node carrying eight NVIDIA H200 SXM5 modules on a single NVLink/NVSwitch baseboard: 1,128 GB of HBM3e pooled at 4.8 TB/s per GPU, with full any-to-any 900 GB/s GPU-to-GPU bandwidth. Dual Intel Xeon Platinum processors, 2 TB of DDR5 system memory, U.2 NVMe boot and data tiers, and high-speed networking. This is a different class of machine from a PCIe multi-GPU build: because every GPU talks to every other GPU at full bandwidth, tensor parallelism scales close to linearly instead of degrading on dense models.
Hardware
| Component | Detail |
|---|---|
| GPUs | 8x NVIDIA H200 SXM5 141 GB HBM3e (Hopper, 700 W per module) |
| VRAM pool | 1,128 GB HBM3e, NVSwitch-pooled - usable as one address space |
| Memory bandwidth | 4.8 TB/s per GPU |
| GPU interconnect | NVLink 4 via 4x NVSwitch, 900 GB/s any-to-any (not PCIe-limited) |
| Compute | 7,912 TFLOPS bf16 dense | 15,832 TFLOPS fp8 dense | 15,832 INT8 TOPS |
| CPUs | 2x Intel Xeon Platinum, dual-socket |
| System memory | 2 TB DDR5 |
| Storage | 2x 1.92 TB U.2 NVMe boot + 2x 3.84 TB U.2 NVMe data. Expandable |
| Networking | 2x NVIDIA ConnectX-7. Up to 8x on request for multi-node InfiniBand fabric |
| Chassis | 8U rack-mount, front-to-back airflow, 24/7 rated |
| Power | Redundant, up to 10.2 kW peak system draw |
What it runs
1,128 GB is the point at which the largest open-weight models run at their native precision instead of being squeezed into a quantisation that costs you quality. Estimates below are for this 8-GPU configuration with tensor parallelism.
| Component | Detail |
|---|---|
| DeepSeek-V3.2 / R1 671B | Native fp8, full context. ~30-50 tok/s single stream, 2,000+ tok/s batched |
| Kimi-K2 1T class | fp8 with room for KV cache - no 1.58-bit compromise needed |
| Llama 3.3 70B / Qwen3-72B | fp8. ~90-130 tok/s single stream, 5,000+ tok/s batched |
| Qwen3-235B-A22B MoE | fp8 native with long-context headroom |
| Long-context serving | 128k+ context with KV cache resident, not spilled |
| Full fine-tune 70B | 8-way tensor parallel, no gradient offload |
Throughput figures are estimates derived from published vendor specifications and community benchmarks for this GPU generation, not measurements taken on this exact configuration. We will give you measured numbers for your model and context length before you commit.
Power and cooling
Up to 10.2 kW peak system draw, the bulk of it the 8x 700 W GPU complex. In practice that means a dedicated three-phase feed per node and a rack budget planned around roughly one node per 12 kW. Air-cooled at this density needs real front-to-back airflow with a contained cold aisle below 24 C - perforated doors alone will not do it. A liquid-cooled baseboard variant is available and is the better answer above two nodes per rack; it needs a CDU and secondary loop, which we will scope with you rather than assume.
Export control - read this before ordering
The H200 is classified as an Advanced Computing Item (ECCN 3A090.a). Shipment requires a completed KYC form and an End User Certificate naming the end user, the installation address and the intended use. This is not optional and it is not something we can waive.
Practically: budget several weeks for clearance on top of hardware lead time, and expect to name the legal entity that will own and operate the machine. If the end user cannot be named, this hardware cannot be supplied - by us or by anyone else in the EU.
What you get from Kentino
Kentino supplies, configures and supports this node as a complete deployment: rack and power design against your site's actual feed, front-to-back airflow sizing for 24/7 operation, OS and driver stack (Ubuntu with pinned NVIDIA driver, CUDA, container toolkit), the inference or training stack of your choice, burn-in with a written report, EU-based logistics and warranty.
We also handle the export paperwork with you rather than mailing you a form and hoping. That part takes longer than the hardware and is where most first-time buyers of this class of machine get stuck.
Price shown is EUR excluding VAT, EXW Prague (Incoterms 2020). Collection, freight, insurance and any destination import duties are for the buyer’s account. Lead time on request.
Channel pricing on 8-GPU baseboards moves, so we confirm the figure against documented acquisition cost when you order — if it has moved in your favour, so does the price. Export clearance is part of the delivery. Contact us with your model, context length and site power envelope and we will come back with a firm quote, a measured throughput estimate and a delivery date.
As perguntas que os compradores mais nos fazem antes de encomendar um servidor.
Quanto tempo demora?
As máquinas construídas a partir de componentes que temos em stock são expedidas rapidamente; tudo o que exija uma geração específica de GPU depende da disponibilidade. Indicamos uma data antes do pagamento e, se essa data mudar, informamos o cliente em vez de o deixar descobrir por si.
A configuração pode ser alterada antes da montagem?
Quase sempre. As GPU, a memória, o armazenamento e o arrefecimento são escolhidos em cada encomenda e a configuração indicada é um ponto de partida, não um pacote fixo. Se precisar de mais VRAM, de armazenamento mais rápido ou de outra abordagem de arrefecimento, diga-nos antes de encomendar e orçamentamos a alteração.
Posso levantar o servidor pessoalmente?
Pode, sim. O nosso armazém fica em Praga e o levantamento em pessoa é bem-vindo — a maioria de quem nos visita aproveita para rever a máquina com o nosso engenheiro e fazer as perguntas que são difíceis de resolver por e-mail. Nas encomendas dentro da República Checa tentamos também entregar pessoalmente e explicar a instalação no local.
Posso falar com alguém que perceba mesmo da carga de trabalho?
Sim. Temos um engenheiro dedicado especificamente a sistemas de IA, e não um balcão de vendas genérico. Se a sua pergunta é sobre tamanhos de lote, quantização, interligação ou onde estará o seu estrangulamento, coloque-a — essa conversa costuma melhorar a configuração final.
Que modelo posso executar nesta configuração?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Como testam um servidor antes da expedição?
Testamo-lo com cargas de trabalho de IA reais, e não com pontuações sintéticas: débito de inferência, comportamento sob carga sustentada e desempenho térmico em funcionamento contínuo. Os resultados dos benchmarks seguem com a máquina, por isso o desempenho prometido é o desempenho que pode verificar logo no primeiro dia.
O servidor chega pronto a funcionar?
Sim. Todas as máquinas são montadas, submetidas a testes de burn-in e avaliadas com cargas de trabalho de IA reais antes do envio, e saem das nossas instalações com um LLM já instalado e a funcionar. Basta ligá-la à corrente, ligá-la à sua rede e começar a trabalhar — a única decisão que resta é qual o primeiro projeto que irá correr.
Expedido a partir do nosso armazém na UE. Os artigos pesados podem exigir transporte de carga — contacte-nos para obter um orçamento de envio e o prazo de entrega. Garantia limitada de 2 anos com apoio RMA avançado; garantia alargada disponível.
Não é exatamente o que procura?
Diga-nos qual é a sua carga de trabalho e configuramos esta plataforma à sua medida — GPU, memória, armazenamento e arrefecimento ajustados ao que realmente executa.