Kentino AI 64 Rome 5080 3600TOPS — serveur IA 4x RTX 5080
Plateforme de qualité professionnelle, assemblée et testée dans l'UE.
Kentino AI 64 Rome 5080 3600TOPS
Serveur Blackwell 4 GPU économique
4x RTX 5080 | EPYC Milan | 3 600 TOPS INT8
Serveur Blackwell 4 GPU économique de Kentino — pool VRAM de 64 GB, 3 600 TOPS INT8 cumulés, meilleur rapport CZK/TOPS de la gamme.
Un serveur d'inférence Blackwell 4 GPU construit autour de la RTX 5080 — 360 W par carte, silicium PCIe 5, 16 GB de GDDR7 chacune. Quatre cartes offrent une enveloppe VRAM mutualisée de 64 GB et 3 600 TOPS INT8 cumulés, au meilleur rapport CZK/TOPS proposé par Kentino. La porte d'entrée vers l'inférence Blackwell multi-GPU : idéal pour les clusters d'embeddings, le service de modèles 7-13B à grande échelle, la génération d'images et de vidéos par lots, et le tensor-parallel sur 70B Q4.
Matériel
| Composant | Détail |
|---|---|
| GPU | 4x NVIDIA GeForce RTX 5080 16 GB GDDR7 (360 W, PCIe 5.0 x16) |
| pool VRAM | 64 GB |
| CPU | AMD EPYC 7643 Milan (48C/96T, 225 W, 128x PCIe 4.0 lanes) |
| Carte mère | ASRock Rack ROMED8-2T (SP3, 7x PCIe 4.0 x16, 8x DDR4 ECC, 2x 10 GbE, IPMI) |
| RAM système | 256 GB DDR4-2666 ECC RDIMM (4x 64 GB) |
| Démarrage / stockage | 2 TB NVMe M.2 (PCIe 4.0 x4) |
| Alimentation | Alimentation ATX unique de 2 kW |
| Châssis | Rack 4U, 4x GPU, risers Gen4 x16 passifs, flux d'air dirigé avant-arrière |
| Refroidissement | Ventirad tour SP3, 3x entrées de 120 mm à l'avant + 1x extraction de 120 mm à l'arrière (ventilateurs industriels) |
| Réseau | Double 10 GbE intégré (Intel X550) + IPMI |
Enveloppe de puissance
- Consommation GPU : 4 x 360 W = 1 440 W
- Total système à pleine charge : ~1 765 W
- Total alimentation : 2 000 W (une seule ATX de 2 kW) — 11.75 % de marge
- Au-dessus du plancher de 10 % mais plus serré que les autres configurations 4 GPU ; passage à une double alimentation recommandé pour les charges de travail intensives
Topologie des lignes PCIe
La ROMED8-2T distribue 4x16 Gen4 depuis le root complex du CPU. La 5080 est un silicium PCIe Gen5 fonctionnant en Gen4 x16, sans goulet d'étranglement de bande passante pour l'inférence. Pas de switch PCIe. Pas de NVLink — tensor parallel via PCIe.
Ce que vous pouvez exécuter
Avec 64 GB de VRAM mutualisée sur 4 cartes Blackwell, ce serveur prend en charge le tensor-parallel 70B Q4, les clusters d'embeddings à grande échelle, les pipelines d'images et de vidéos par lots, et le service multi-locataire de modèles 7-13B pour 64-128 utilisateurs simultanés.
LLM — texte / raisonnement / code
Modèles chinois de pointe
- Qwen3-32B Q8 (dense, qualité proche du fp16) ; Qwen3.5-27B bf16
- Qwen3-30B-A3B / Qwen3-Coder-30B-A3B bf16 (~60 GB, tout juste)
- Qwen3.5-122B-A10B Q4 (~70-75 GB — serré, débordement sur la RAM DDR4)
- Hunyuan-A13B fp8 (~80 GB en natif — serré, préférez Q6)
- Seed-OSS-36B bf16 (~72 GB, serré)
- DeepSeek-R2 MoE clairsemé 32B bf16 (~64 GB) (~45-60 tok/s en flux unique en Q4 sur Blackwell, référence publiée)
- GLM-4.5-Air 106B/12B Q3_K (~55 GB) — marge KV serrée
- ERNIE-4.5-47B-A3B Q4 (~28 GB, avec de la marge pour un second modèle)
Modèles occidentaux de pointe
- Llama 3.3 70B Q4_K_M (~43 GB) — le point idéal pour ce pool (~30-36 tok/s en flux unique sur 4x 5080, référence publiée)
- Hermes 3 70B / Tulu 3 70B Q4 — dérivés ouverts de Llama, avec une transparence totale sur le post-entraînement
- Mistral Small 3 / Magistral / Devstral Small 2 24B bf16
- Gemma 3 27B bf16 multimodal
- Phi-4 14B / Nemotron-Super 49B Q6-Q8
- gpt-oss-20b MXFP4 (16 GB — 4 instances sur 4 cartes pour des locataires parallèles) ; gpt-oss-120b MXFP4 (80 GB — serré ; débordement gérable)
Vision-Langage
Qwen3-VL-32B / Qwen3-VL-30B-A3B / Qwen3-Omni-30B-A3B ; InternVL3.5-38B Q6-Q8 ; Llama 3.2 90B Vision Q4 (~52 GB, serré) ; Pixtral 12B / Pixtral Large 124B Q2-Q3 ; Gemma 3 27B multimodal bf16 ; PaliGemma 2 28B bf16 ; Molmo 72B Q4 (~45 GB) ; Aya Vision 32B bf16.
Génération d'images
FLUX.1 [dev] / [schnell] fp16 — lots de 4 en parallèle (~10-15 secondes par image 1024x1024 en fp8 sur Blackwell, référence publiée) ; FLUX.1 Kontext [dev] — édition en contexte sur 4 locataires ; SD 3.5 Large (18 GB fp16) — 4 générateurs en parallèle ; piles SDXL 1.0 + ControlNet + AnimateDiff x 4 ; HunyuanImage-2.1 bf16 par carte ; AuraFlow v0.3 / OmniGen v1 / Kolors 2.0 / PixArt-Sigma.
Génération de vidéos
Wan 2.2 TI2V-5B bf16 sur une seule carte — 4 locataires en parallèle ; Wan 2.1 14B T2V/I2V Q4-Q6 par carte ; HunyuanVideo 13B Q4 (~30 GB) en tensor-parallel sur 2 voies ; HunyuanVideo 1.5 (8.3B) bf16 par carte ; Open-Sora 2.0 (11B) Q8 par carte — 4 générations en parallèle ; CogVideoX-5B int8 ; Mochi-1 Q4 par carte.
Audio / Parole / TTS
La pile audio occidentale et chinoise complète tient sur une carte : Whisper v3 + Parakeet + Canary + Moshi + Step-Audio 2 / R1 + CosyVoice 3.0 + Kokoro + Stable Audio Open + MusicGen + AudioGen + SeamlessM4T v2. Avec 4 cartes, chaque carte peut héberger un locataire vocal dédié. Whisper v3 turbo tourne à ~50x le temps réel par carte (référence publiée).
Multi-modèle / multi-locataire
Le cas d'usage cible. Les 16 GB par carte favorisent les charges de travail cloisonnées :
- Cluster d'embeddings : BGE-M3 / Nomic / Jina-embed / E5 / Cohere Embed v3 — 4 locataires à haut débit de requêtes
- Service de modèles 7-13B à grande échelle : 16-32 utilisateurs simultanés par carte via vLLM / SGLang ; 64-128 simultanés au total
- Pipeline mixte : Carte 1 = Qwen3-14B + reranker ; Carte 2 = Whisper + Moshi ; Carte 3 = FLUX.1 ; Carte 4 = Wan 2.2 TI2V
- Tensor-parallel sur 4 voies pour du 70B Q4 — Llama 3.3 70B AWQ INT4 réparti sur 4 cartes, ~90-130 tok/s cumulés par lots (extrapolé du banc gf-logic 4x4090)
Charges de travail visées
- Plate-forme de service IA multi-GPU économique pour une startup ou un laboratoire au budget d'investissement serré
- Infrastructure d'embeddings + RAG avec mise à l'échelle horizontale sur 4 voies
- Ferme de génération d'images / vidéos par lots (Stable Diffusion / FLUX / Wan 2.2)
- Service de petits modèles 7-13B à grande échelle — 4 locataires indépendants ou 64-128 sessions simultanées mutualisées
- Machine de préproduction pour les flux de travail tensor-parallel 70B Q4
Références de performance publiées
Mesures Kentino (référence 4x4090) + estimations publiées pour la 5080
| Benchmark | Résultat |
|---|---|
| Référence 4x4090 : fp16 soutenu | 647 TFLOPS |
| Référence 4x4090 : vLLM Llama 3.3 70B AWQ (lots de 32) | 179.3 tok/s cumulés |
| Référence 4x4090 : llama.cpp 70B Q4_K_M (flux unique) | 20.3 tok/s en décodage |
| Estimation 5080 : Llama 3.3 70B Q4 TP-4, flux unique | ~15-20 tok/s |
| Estimation 5080 : FLUX.1 fp8 par carte | ~2.2-2.8 s par image 1024x1024 en 20 étapes |
Le débit tensoriel de la 5080 vaut ~1.35x celui de la 4090 par TOPS INT8 ; le décodage en flux unique est limité par la bande passante mémoire (GDDR7 ~960 GB/s contre ~1 008 GB/s pour la 4090 — quasiment à parité).
Moins adapté à
- 70B dense en Q6+ (les 16 GB par carte limitent l'empreinte par carte ; le pool de 64 GB est juste pour du Q6)
- Modèles MoE phares à long contexte (Qwen3-235B, GLM-4.5) — VRAM insuffisante, même en Q2
- Travaux en flux unique sensibles à la latence sur de très grands modèles (le surcoût du tensor-parallel grignote les cartes de 16 GB)
Garantie et délai de livraison
L'assemblage comprend le montage, la configuration du BIOS, l'installation des pilotes, les tests de rodage et la vérification fonctionnelle. Le délai dépend de la disponibilité des composants et est confirmé à la commande.
Options recommandées
- Passage à une double alimentation ATX 2 kW synchronisée — porte la marge à 55 %
- NVIDIA ConnectX-5 100 GbE MCX555A-ECAT
- Passage du disque de démarrage à 4 TB NVMe
- Passage de la RAM à 384 GB (6x 64 GB) — meilleure marge pour plusieurs modèles simultanés
- PDU de rack (C13/C19 avec mesure) et onduleur en ligne 3 kVA
Les questions que les acheteurs nous posent le plus fréquemment avant de commander un serveur.
Combien de temps cela prend-il ?
Les machines assemblées à partir de composants que nous avons en stock partent vite ; tout ce qui exige une génération de GPU précise dépend de l'approvisionnement. Nous vous donnons une date avant le paiement et, si elle bouge, nous vous prévenons plutôt que de vous laisser le découvrir.
La configuration peut-elle être modifiée avant l'assemblage ?
Presque toujours. Les GPU, la mémoire, le stockage et le refroidissement sont choisis commande par commande, et la configuration affichée est un point de départ plutôt qu'un ensemble figé. Si vous avez besoin de plus de VRAM, d'un stockage plus rapide ou d'une autre approche de refroidissement, dites-le nous avant de commander et nous chiffrerons la modification.
Puis-je venir récupérer le serveur sur place ?
Bien sûr. Notre entrepôt est à Prague et le retrait sur place est le bienvenu — la plupart de ceux qui viennent en profitent pour passer la machine en revue avec notre ingénieur et poser les questions qui passent mal par e-mail. Pour les commandes en République tchèque, nous essayons aussi de livrer en personne et de vous accompagner dans l'installation sur site.
Puis-je parler à quelqu'un qui comprend vraiment la charge de travail ?
Oui. Nous avons un ingénieur dédié aux systèmes d'IA, et non un simple service commercial. Si votre question porte sur les tailles de batch, la quantification, l'interconnexion ou l'endroit où se situera votre goulot d'étranglement, posez-la — cette conversation améliore généralement la configuration.
Quel modèle puis-je faire tourner sur cette configuration ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Comment testez-vous un serveur avant son expédition ?
Nous les éprouvons sur de véritables charges de travail IA plutôt que sur des scores synthétiques : débit d'inférence, tenue en charge soutenue et comportement thermique en fonctionnement continu. Vous recevez les résultats des tests avec la machine : les performances promises sont donc celles que vous pouvez vérifier dès le premier jour.
Le serveur est-il prêt à fonctionner à son arrivée ?
Oui. Chaque machine est assemblée, soumise à un test de rodage et évaluée sur de véritables charges de travail IA avant son expédition, et elle quitte nos ateliers avec un LLM déjà installé et opérationnel. Vous la branchez, vous la connectez à votre réseau et vous commencez à travailler — la seule décision qui vous reste est de choisir le premier projet qu'elle fera tourner.
Expédition depuis notre entrepôt dans l’UE. Les articles lourds peuvent nécessiter un transport en fret — contactez-nous pour un devis d’expédition et un délai de livraison. Garantie limitée de 2 ans avec support RMA avancé ; extension de garantie disponible.
Pas tout à fait ce qu'il vous faut ?
Dites-nous votre charge de travail et nous configurons cette plateforme autour d'elle — GPU, mémoire, stockage et refroidissement adaptés à ce que vous exécutez vraiment.