Kentino AI Node A100 — 8× NVIDIA A100 SXM4 80 GB, 640 GB HBM2e
Plataforma de nivel empresarial, ensamblada y probada en la UE.
Kentino AI Node A100
640 GB HBM2e, NVSwitch-Pooled
8x A100 SXM4 80 GB | 4,992 INT8 TOPS
The only node tier with a sane cost per gigabyte of VRAM.
An 8-GPU node carrying eight NVIDIA A100 SXM4 80 GB modules on an NVLink/NVSwitch baseboard: 640 GB of HBM2e at 2.04 TB/s per GPU with 600 GB/s any-to-any GPU bandwidth. Ampere is two generations back, and for a large class of work that is exactly why you want it - the same 640 GB pool as a Hopper H100 node, at substantially less money and 2.4 kW less heat. If your models run at bf16 or Q4 and you are not going to use fp8, you should not be paying for it.
Hardware
| Component | Detail |
|---|---|
| GPUs | 8x NVIDIA A100 SXM4 80 GB HBM2e (Ampere, 400 W per module) |
| VRAM pool | 640 GB HBM2e, NVSwitch-pooled |
| Memory bandwidth | 2.04 TB/s per GPU |
| GPU interconnect | NVLink 3 via NVSwitch, 600 GB/s any-to-any |
| Compute | 2,496 TFLOPS bf16 dense | 4,992 INT8 TOPS. No fp8 tensor path |
| CPUs | 2x AMD EPYC 7643 (Milan, 48C/96T each) on the Supermicro AS-4124GO-NART+ platform |
| System memory | 1 TB DDR4-3200 ECC RDIMM (16x 64 GB) |
| Storage | 2x 1.92 TB U.2 NVMe boot + 2x 3.84 TB U.2 NVMe data |
| Networking | 2x NVIDIA ConnectX-7 400 Gb/s |
| Chassis | 4U rack-mount, front-to-back airflow, 24/7 rated |
| Power | 4x 3000 W redundant |
What it runs
640 GB at bf16 and Q4 covers most production serving and fine-tuning. Estimates are for this 8-GPU configuration with tensor parallelism.
| Component | Detail |
|---|---|
| Llama 3.3 70B / Qwen3-72B | bf16 full precision. ~35-50 tok/s single stream, 1,500+ tok/s batched |
| Qwen3-235B-A22B MoE | Q4 across the full 640 GB pool |
| Mistral Large 2 123B | Q4-Q8 with context headroom |
| QLoRA / full fine-tune 70B | 8-way tensor parallel, NVSwitch-backed |
| Classic HPC | 9.7 TFLOPS FP64 per GPU - 77.6 TFLOPS FP64 per node |
| Multi-tenant serving | several 30B-70B models resident at once |
Throughput figures are estimates derived from published vendor specifications and community benchmarks for this GPU generation, not measurements taken on this exact configuration. We will give you measured numbers for your model and context length before you commit.
Power and cooling
Roughly 4.3 kW sustained: 3.2 kW of GPU plus CPU, fans and storage. That is 2.4 kW less than a Hopper node and it is the practical selling point - 4.3 kW fits a conventional datacentre rack with front-to-back airflow and no aisle containment retrofit. Over three years at EU industrial electricity rates the difference against an H100 node is a real line in the TCO, not a rounding error.
What you give up, and export control
No fp8. Ampere predates the format. Models shipping fp8-native - the DeepSeek-V3 family, Hunyuan-Large - run here at bf16 or Q4 instead, which costs VRAM and throughput. If your roadmap is fp8 checkpoints, buy Hopper. This is the single real limitation of the tier and we would rather you hear it now.
Export control. A100 80 GB is above the Advanced Computing Item thresholds (ECCN 3A090.a), so it needs the same KYC form and End User Certificate as the Hopper nodes.
Late-life hardware. Ampere is near end of channel life. Warranty horizon and spares availability are shorter than on current generation, and we will tell you exactly what we can commit to in writing before you order.
What you get from Kentino
Kentino supplies, configures and supports this node as a complete deployment: rack and power design against your site's actual feed, front-to-back airflow sizing for 24/7 operation, OS and driver stack (Ubuntu with pinned NVIDIA driver, CUDA, container toolkit), the inference or training stack of your choice, burn-in with a written report, EU-based logistics and warranty.
We also handle the export paperwork with you rather than mailing you a form and hoping. That part takes longer than the hardware and is where most first-time buyers of this class of machine get stuck.
Price shown is EUR excluding VAT, EXW Prague (Incoterms 2020). Collection, freight, insurance and any destination import duties are for the buyer’s account. Lead time on request.
Tell us the models you need to serve and we will tell you honestly whether this node or a Hopper node is the right purchase - the answer is genuinely sometimes this one.
Las preguntas que más nos hacen los compradores antes de pedir un servidor.
¿Cuánto tarda?
Las máquinas construidas con componentes que tenemos en stock se envían rápido; cualquier equipo que requiera una generación concreta de GPU depende del suministro. Le damos una fecha antes de que pague y, si se mueve, se lo decimos en lugar de dejar que lo descubra usted.
¿Se puede cambiar la configuración antes de que lo monten?
Casi siempre. Las GPU, la memoria, el almacenamiento y la refrigeración se eligen para cada pedido, y la configuración indicada es un punto de partida, no un paquete cerrado. Si necesita más VRAM, un almacenamiento más rápido o un enfoque de refrigeración distinto, indíquenoslo antes de realizar el pedido y le presupuestaremos el cambio.
¿Puedo recoger el servidor en persona?
Puede hacerlo. Nuestro almacén está en Praga y la recogida en persona es bienvenida: la mayoría de quienes vienen aprovechan la visita para repasar la máquina con nuestro ingeniero y hacer esas preguntas que resultan incómodas por correo. En los pedidos dentro de la República Checa también intentamos entregar en persona y explicarle la instalación in situ.
¿Puedo hablar con alguien que entienda de verdad la carga de trabajo?
Sí. Contamos con un ingeniero dedicado específicamente a los sistemas de IA, no con un mostrador comercial genérico. Si su pregunta trata sobre tamaños de lote, cuantización, interconexión o dónde estará su cuello de botella, háganosla: esa conversación suele mejorar la configuración.
¿Qué modelo puedo ejecutar en esta configuración?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
¿Cómo se prueba un servidor antes del envío?
Lo probamos con cargas de trabajo de IA reales, no con puntuaciones sintéticas: rendimiento de inferencia, comportamiento bajo carga sostenida y temperaturas en funcionamiento continuo. Recibirá los resultados de las pruebas junto con la máquina, de modo que el rendimiento prometido sea el rendimiento que usted puede verificar desde el primer día.
¿Llega el servidor listo para funcionar?
Sí. Cada máquina se ensambla, se somete a pruebas de burn-in y se evalúa con cargas de trabajo de IA reales antes de enviarse, y sale de nuestras instalaciones con un LLM ya instalado y en funcionamiento. Usted solo tiene que conectarla, enlazarla a su red y ponerse a trabajar: la única decisión que queda es qué proyecto ejecutará primero.
Se envía desde nuestro almacén de la UE. Los artículos pesados pueden requerir transporte especial: contáctenos para obtener un presupuesto de envío y el plazo de entrega. Garantía limitada de 2 años con soporte RMA avanzado; garantía ampliada disponible.
¿No es exactamente lo que necesita?
Díganos cuál es su carga de trabajo y configuraremos esta plataforma a su medida: GPU, memoria, almacenamiento y refrigeración ajustados a lo que realmente ejecuta.