Monter votre propre système IA : le guide complet 2026 du matériel GPU grand public pour les LLM en local

Analyse approfondie des contraintes de VRAM, de la mutualisation multi-GPU, des limites du PCIe et des performances en virgule flottante

Par l'équipe technique de Kentino.com | Janvier 2026

Introduction : pourquoi construire votre propre système IA ?

La révolution de l'IA ne se joue plus seulement dans les centres de données. Avec des modèles open source comme DeepSeek R1, Qwen 3, Llama 4 et Gemma qui atteignent des capacités inédites, faire tourner une IA puissante en local n'est plus seulement possible — c'est devenu pratique.

Mais voici le piège dont personne ne parle : la VRAM est reine, et tout le reste n'est qu'un compromis.

Ce guide vous fera passer d'acheteur de GPU perdu à architecte de systèmes IA averti. Nous couvrirons tout, des configurations mono-GPU qui exécutent des modèles à 8B de paramètres aux configurations multi-GPU capables de gérer des monstres de plus de 70B. Que vous construisiez un assistant de code, une station de travail de recherche ou un serveur IA privé, ce guide est fait pour vous.

Partie 1 : comprendre la VRAM — la monnaie de l'IA

Pourquoi la VRAM compte plus que tout le reste

Lorsque vous exécutez de grands modèles de langage (LLM), la VRAM de votre GPU (Video Random Access Memory) est la caractéristique la plus critique. Contrairement au jeu vidéo, où la VRAM stocke surtout des textures et des tampons d'image, les charges de travail IA mobilisent la VRAM pour :

1. Poids du modèle : les milliards de paramètres qui constituent les connaissances de l'IA
2. Cache KV : une mémoire qui croît avec la longueur de la conversation (fenêtre de contexte)
3. Mémoire d'activation : les calculs temporaires pendant l'inférence
4. Surcharge système : noyaux CUDA, gestion de la mémoire, tampons d'exécution

La formule d'or :

VRAM requise (GB) = (Paramètres en milliards × Précision en octets) × 1.2

Exemples :
- modèle 8B @ FP16 (2 octets) :   8 × 2 × 1.2 = ~19.2 GB
- modèle 8B @ Q4 (0.5 octet) :    8 × 0.5 × 1.2 = ~4.8 GB
- modèle 70B @ FP16 (2 octets) :  70 × 2 × 1.2 = ~168 GB
- modèle 70B @ Q4 (0.5 octet) :   70 × 0.5 × 1.2 = ~42 GB

La révolution de la quantification

La quantification est la technique qui rend possible l'exécution de grands modèles sur du matériel grand public. En réduisant la précision des poids du modèle de 16 bits (FP16) à 4 bits (Q4), vous exécutez des modèles qui exigeraient autrement du matériel d'entreprise.

Le bon compromis : la quantification Q4_K_M offre 75 % d'économie de mémoire pour seulement ~5 % de perte de qualité — ce qui en fait la référence absolue pour un déploiement grand public en 2026.

Partie 2 : le paysage des GPU en 2026

NVIDIA RTX série 50 — le nouveau standard

L'architecture Blackwell de NVIDIA apporte des améliorations majeures pour les charges de travail IA :

RTX 5090 — le monstre amiral

Ce que 32GB de VRAM vous permettent :

• Qwen3-32B @ Q4_K_M — confortablement
• DeepSeek R1 32B @ Q4_K_M — avec de la marge pour le contexte
• Llama 4 8B @ FP16 — en pleine précision
• Modèles 70B @ Q4_K_M — avec un contexte fortement limité

Le gain de bande passante de 78 % de la RTX 5090 par rapport à la 4090 se traduit par une génération de tokens plus rapide, un point particulièrement critique sur les grands modèles où la bande passante mémoire devient le goulot d'étranglement.

RTX 5080 — le choix pragmatique

Ce que 16GB de VRAM vous permettent :

• Qwen3-14B @ Q4_K_M — excellentes performances
• DeepSeek R1 14B @ Q4_K_M — excellent pour le code
• Llama 4 8B @ Q8_0 — haute qualité
• Modèles 32B @ quantification agressive — possible mais juste

RTX 5070 Ti — la bête de somme de l'IA à petit prix

La RTX 5070 Ti offre les mêmes 16GB de VRAM que la 5080 pour 25 % de moins — ce qui en fait sans doute le meilleur rapport qualité-prix pour un usage IA dédié lorsque la vitesse brute de génération n'est pas critique.

RTX 5070 — le ticket d'entrée

Le problème des 12GB : Le prix de la RTX 5070 a beau être attractif, ses 12GB de VRAM imposent de vraies limites. Vous buterez vite sur les modèles de 14B et plus et sur les fenêtres de contexte longues. Considérez les 4GB supplémentaires de la 5070 Ti comme une assurance indispensable.

La génération précédente reste pertinente

RTX 4090 — toujours dans la course

Avec ses 24GB de VRAM, la RTX 4090 reste excellente pour l'IA. Si vous en trouvez une à bon prix, elle encaisse :

• les modèles 14B en quantification élevée
• les modèles 32B en Q4_K_M (juste)
• plusieurs modèles 8B en simultané

RTX 3090 / 3090 Ti — les rois du budget

Avec 24GB de VRAM (comme la 4090), ces cartes plus anciennes offrent un rapport qualité-prix imbattable pour l'IA :

• bande passante plus lente (936 GB/s)
• cœurs Tensor plus anciens (3e gén.)
• mais la même capacité de 24GB

Si la VRAM brute compte davantage que la vitesse (par exemple pour du traitement par lots ou du développement), une 3090 d'occasion à $700-900 devance une 5070 neuve à $549 pour les charges de travail IA.

Partie 3 : comprendre les limites du PCIe

La réalité de la bande passante PCIe

Le PCIe (Peripheral Component Interconnect Express) est l'autoroute entre votre GPU et le reste du système. Voici ce qu'il faut savoir :

Quand le PCIe compte (et quand il ne compte pas)

Le PCIe compte pour :

• le chargement initial du modèle (des minutes gagnées sur les gros modèles)
• la communication multi-GPU (critique pour le parallélisme tensoriel)
• l'inférence mixte CPU/GPU (quand le modèle déborde en RAM)

Le PCIe compte peu pour :

• l'inférence mono-GPU une fois le modèle chargé
• l'inférence sur les petits modèles
• les sessions longues où le temps de chargement est négligeable

Conseils pratiques :

• GPU unique : le PCIe 4.0 x8 suffit généralement
• Double GPU : PCIe 4.0 x16/x16 ou x8/x8 recommandé
• Quatre GPU : PCIe 5.0 ou plateformes d'entreprise recommandés

Lignes PCIe du CPU selon la plateforme

Le goulot d'étranglement des plateformes grand public : La plupart des CPU grand public (Intel Core, AMD Ryzen) ne proposent que 16 à 24 lignes PCIe depuis le processeur. Concrètement :

• le premier GPU obtient un x16 complet
• ajouter un second GPU force souvent les deux en x8/x8
• les troisième et quatrième GPU peuvent tomber en x4

Pour un travail IA multi-GPU sérieux, tournez-vous vers une plateforme Threadripper PRO ou HEDT.

Partie 4 : configurations multi-GPU — mutualiser la VRAM

Le rêve face à la réalité

Le rêve : combiner 4× RTX 5090 pour 128GB de VRAM unifiée et faire tourner les plus grands modèles comme sur une H100.

La réalité : c'est compliqué, mais de plus en plus accessible.

Comment le multi-GPU fonctionne pour les LLM

Il existe deux grandes approches :

Parallélisme tensoriel (TP)

Répartit les opérations individuelles (comme les multiplications matricielles) sur plusieurs GPU. Exige une communication à haut débit entre les GPU.

Idéal pour : l'inférence à haut débit, les applications sensibles à la latence Prérequis : NVLink de préférence, au minimum PCIe 4.0 x8 par GPU Pris en charge par : vLLM, TensorRT-LLM, DeepSpeed

Parallélisme en pipeline (PP)

Découpe le modèle en étapes séquentielles, chaque GPU prenant en charge des couches différentes.

Idéal pour : faire tenir de grands modèles, le traitement par lots Prérequis : bande passante inter-GPU modérée Pris en charge par : llama.cpp, Ollama, la plupart des frameworks

NVLink contre PCIe — la dure vérité

NVLink assure une communication directe entre GPU à ~900 GB/s (pour NVLink 4.0). Il permet une véritable mutualisation de la mémoire, chaque GPU accédant directement à la VRAM des autres.

Le problème : les cartes RTX grand public ne prennent plus en charge NVLink. Les derniers GPU grand public compatibles NVLink étaient les RTX 3090/3090 Ti (NVLink 3.0 @ 112.5 GB/s en bidirectionnel).

Sans NVLink, la communication multi-GPU passe par le PCIe :

• bien plus lente (~32-64 GB/s contre 900 GB/s)
• latence plus élevée
• impossible de mutualiser directement la VRAM

Impact concret :

Faire fonctionner le multi-GPU sans NVLink

Malgré ces limites, les configurations multi-GPU sur matériel grand public deviennent de plus en plus viables :

Logiciels recommandés :

• llama.cpp : excellente prise en charge multi-GPU, répartit les couches entre les cartes
• Ollama : installation simple, répartition automatique des couches
• vLLM : service haute performance, prise en charge du parallélisme tensoriel
• exllama2 : optimisé pour l'inférence multi-GPU

Conseils de configuration :

1. Vérifiez que les deux GPU se trouvent sur le même nœud NUMA (à contrôler avec nvidia-smi topo -m)
2. Utilisez au minimum du PCIe x8/x8 pour un double GPU
3. Définissez CUDA_VISIBLE_DEVICES correctement
4. Utilisez des GPU identiques quand c'est possible (mélanger les générations fonctionne, mais peut s'avérer inefficace)

Exemples de configurations multi-GPU

Deux RTX 5090 (64GB au total)

Modèles pris en charge :
- Qwen3-70B @ Q4_K_M (nécessite ~42GB) ✓
- DeepSeek R1 70B @ Q4_K_M ✓
- Llama 4 70B @ Q4_K_M ✓
- Tout modèle 32B @ FP16 ✓

Performance : ~40-50 tokens/sec sur les modèles 70B
Coût : ~$4,000 (GPU uniquement)
Puissance : 1,150W en pointe (GPU uniquement)

Quatre RTX 5090 (128GB au total)

Modèles pris en charge :
- Qwen3-235B-A22B (MoE, ~22B actifs) ✓
- Tout modèle 70B @ Q8_0 ✓
- Modèles denses 120B+ @ Q4_K_M ✓

Performance : variable, dépend fortement de la topologie PCIe
Coût : ~$8,000 (GPU uniquement)
Puissance : 2,300W en pointe (GPU uniquement)
Nécessite : plateforme HEDT/serveur (Threadripper, Xeon)

Config économique : deux RTX 3090 d'occasion (48GB au total)

Modèles pris en charge :
- Qwen3-32B @ Q4_K_M ✓
- DeepSeek R1 32B @ Q4_K_M ✓
- Modèles 70B @ quantification Q3 agressive (limite)

Performance : ~20-30 tokens/sec sur les modèles 32B
Coût : ~$1,400-1,800 (GPU d'occasion)
Avantage : prise en charge NVLink !

Partie 5 : plongée dans les performances en virgule flottante

Les formats de précision expliqués

L'IA moderne s'appuie sur différents formats de précision numérique :

L'avantage FP4 et FP8 de Blackwell

La série RTX 50 introduit une prise en charge native du FP4 dans les cœurs Tensor :

Ce que cela implique :

• l'inférence FP8 et FP4 est nettement plus rapide sur la série RTX 50
• les modèles optimisés pour le FP8 gagnent énormément en vitesse
• la génération des cœurs Tensor compte autant que les cœurs CUDA

La bande passante mémoire — l'autre goulot d'étranglement

Sur les grands modèles, la bande passante mémoire pèse souvent plus lourd que la puissance de calcul :

Le nombre de tokens par seconde est limité par :

Tokens/s max = bande passante mémoire (GB/s) / octets par paramètre

RTX 5090 avec un modèle 70B Q4_K_M :
1,792 GB/s / 35 GB = ~51 tokens/s en maximum théorique

RTX 4090 avec le même modèle :
1,008 GB/s / 35 GB = ~29 tokens/s en maximum théorique

Les 78 % de bande passante supplémentaires de la RTX 5090 se traduisent directement par une génération plus rapide sur les grands modèles.

Partie 6 : le paysage des modèles open source — que faire tourner

Niveau 1 : modèles haut de gamme (32GB+ de VRAM recommandés)

Qwen3-235B-A22B (MoE)

• Paramètres actifs : 22B (235B au total)
• VRAM @ Q4 : ~28GB
• Contexte : 32K en natif, 131K avec YaRN
• Points forts : Maths, code, multilingue (119 langues)
• Idéal pour : Usage général, code, recherche

DeepSeek R1 70B

• Paramètres : 70B
• VRAM @ Q4 : ~42GB
• Contexte : 128K
• Points forts : Raisonnement, chaîne de pensée, code
• Idéal pour : Résolution de problèmes complexes, recherche

Llama 4 70B

• Paramètres : 70B
• VRAM @ Q4 : ~42GB
• Contexte : 128K
• Points forts : Capacités générales, suivi des instructions
• Idéal pour : Applications polyvalentes

Niveau 2 : modèles professionnels (16-24GB de VRAM)

Qwen3-32B

• Paramètres : 32B
• VRAM @ Q4 : ~19GB
• Contexte : 128K
• Points forts : Code (au niveau de GPT-4o), raisonnement
• Idéal pour : RTX 5090/4090 unique, développement

DeepSeek R1 Distill 32B

• Paramètres : 32B
• VRAM @ Q4 : ~19GB
• Points forts : Raisonnement distillé depuis un modèle plus grand
• Idéal pour : Raisonnement à moindre coût

Gemma 3 27B

• Paramètres : 27B
• VRAM @ Q4 : ~16GB
• Contexte : 128K
• Points forts : Efficace, qualité Google, multimodal
• Idéal pour : Configurations RTX 5080/5070 Ti

Niveau 3 : modèles grand public (8-16GB de VRAM)

Qwen3-14B

• Paramètres : 14B
• VRAM @ Q4 : ~8.4GB
• Contexte : 128K
• Points forts : Excellent équilibre entre taille et capacités
• Idéal pour : RTX 5070 Ti, 4070 Ti, usage général

Qwen3-8B

• Paramètres : 8B
• VRAM @ Q4 : ~4.8GB
• Contexte : 32K en natif, 131K en étendu
• Points forts : Rapide, performant, tient partout
• Idéal pour : Configurations d'entrée de gamme, applications temps réel

DeepSeek R1 Distill 14B (base Qwen)

• Paramètres : 14B
• VRAM @ Q4 : ~8.4GB
• Points forts : Raisonnement solide issu de la distillation
• Idéal pour : Assistants de code, résolution de problèmes

Llama 4 8B

• Paramètres : 8B
• VRAM @ Q4 : ~4.8GB
• Points forts : Rapide, polyvalent
• Idéal pour : Tâches quotidiennes, applications de chat

Niveau 4 : edge et embarqué (4-8GB de VRAM)

Qwen3-4B

• Paramètres : 4B
• VRAM @ Q4 : ~2.4GB
• Points forts : Rivalise avec les performances de Qwen2.5-7B
• Idéal pour : Ordinateurs portables, graphismes intégrés, équipements edge

Phi-4 (Microsoft)

• Paramètres : 14B
• VRAM @ Q4 : ~8.4GB
• Points forts : Exceptionnel pour sa taille, orienté STEM
• Idéal pour : Applications éducatives et techniques

Qwen3-0.6B

• Paramètres : 0.6B
• VRAM @ Q4 : <1GB
• Points forts : Fonctionne partout
• Idéal pour : IoT, mobile, environnements à ressources ultra-limitées

Arbre de décision pour choisir un modèle

Quelle est votre capacité de VRAM principale ?

├─ 32GB+ (RTX 5090, deux 3090)
│   └─ Qwen3-235B-A22B ou DeepSeek R1 70B @ Q4
│
├─ 24GB (RTX 4090, 3090)
│   └─ Qwen3-32B @ Q4 ou DeepSeek R1 32B @ Q4
│
├─ 16GB (RTX 5080, 5070 Ti, 4080)
│   └─ Qwen3-14B @ Q4 ou Gemma 3 27B @ Q4
│
├─ 12GB (RTX 5070, 4070 Ti)
│   └─ Qwen3-8B @ Q4 ou Llama 4 8B @ Q4
│
└─ 8GB (RTX 4070, 3070)
    └─ Qwen3-4B @ Q4 ou Phi-4 @ quantification agressive

Partie 7 : configurations complètes recommandées

Config 1 : le ticket d'entrée ($1,200-1,500)

Cas d'usage : assistant IA personnel, aide au code, expérimentation

Peut exécuter :

• Qwen3-14B @ Q4 (~8.4GB) — excellent
• DeepSeek R1 14B @ Q4 — excellent
• Qwen3-32B @ Q3 (agressif) — possible mais juste
• Plusieurs modèles 8B en simultané

Performances estimées : 35-50 tokens/sec avec les modèles 14B

Config 2 : le juste milieu prosumer ($3,500-4,500)

Cas d'usage : développement professionnel, recherche, création de contenu

Peut exécuter :

• Qwen3-32B @ Q4 — confortable, avec 13GB de marge
• DeepSeek R1 32B @ Q6 — qualité supérieure
• Qwen3-235B-A22B @ Q4 — juste, mais fonctionnel
• Tout modèle inférieur à 32B en haute qualité

Performances estimées : 50-80 tokens/sec avec les modèles 32B

Config 3 : le serveur IA local ($7,000-10,000)

Cas d'usage : serveur d'inférence d'équipe, expérimentation de modèles, charges de travail de production

Peut exécuter :

• DeepSeek R1 70B @ Q4 — pleines performances
• Qwen3-235B-A22B @ Q4 — excellent
• Tout modèle de moins de 120B de paramètres
• Plusieurs modèles 32B pour des tests A/B

Performances estimées : 40-50 tokens/sec avec les modèles 70B

Config 4 : le labo économique ($2,000-2,500 en occasion)

Cas d'usage : apprentissage, développement, passionné attentif au budget

L'avantage NVLink : c'est la seule configuration grand public compatible NVLink : elle offre une véritable mutualisation de la VRAM à 112.5 GB/s, contre ~32 GB/s en PCIe.

Peut exécuter :

• Qwen3-32B @ Q8 (qualité supérieure) — confortable
• DeepSeek R1 32B @ FP16 — avec une gestion rigoureuse du contexte
• Modèles 70B @ Q3 agressif — possible

Performances estimées : 25-35 tokens/sec avec les modèles 32B (plus rapide que prévu grâce à NVLink)

Config 5 : la puissance nomade (ordinateur portable)

Cas d'usage : développement IA en mobilité, inférence en déplacement

Modèles notables :

• ASUS ROG Strix SCAR 18 (2026)
• Razer Blade 18 (2026)
• MSI Titan GT78 (2026)

Peut exécuter :

• Qwen3-14B @ Q4 — excellent
• DeepSeek R1 14B @ Q4 — excellent
• Qwen3-32B @ Q4 — juste, mais fonctionnel

Remarque : la RTX 5090 Mobile dispose de 24GB (et non 32GB) et d'un TDP plus faible. Comptez environ 70 % des performances de la version desktop.

Partie 8 : la pile logicielle recommandée

Les outils essentiels

Ollama — la solution la plus simple

# Installation
curl -fsSL https://ollama.ai/install.sh | sh

# Lancer Qwen3 8B
ollama run qwen3:8b

# Lancer avec une quantification spécifique
ollama run qwen3:14b-q4_K_M

# Multi-GPU (automatique)
CUDA_VISIBLE_DEVICES=0,1 ollama run qwen3:32b

Idéal pour : débuter, déploiements simples, exposition d'une API

LM Studio — l'expérience graphique

• Navigateur de modèles visuel
• Téléchargements en un clic
• Interface de chat intégrée
• Choix de la quantification

Idéal pour : utilisateurs non techniques, exploration des modèles

llama.cpp — le contrôle total

# Compilation avec CUDA
cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release

# Lancer en multi-GPU
./llama-server -m qwen3-32b-q4_k_m.gguf \
  -ngl 99 \
  --tensor-split 0.5,0.5 \
  -c 8192

Idéal pour : utilisateurs avancés, déploiements sur mesure, performances maximales

vLLM — le service en production

# Installation
pip install vllm

# Servir avec parallélisme tensoriel
python -m vllm.entrypoints.openai.api_server \
  --model Qwen/Qwen3-32B \
  --tensor-parallel-size 2 \
  --dtype auto

Idéal pour : service à haut débit, points d'accès API, production

Où trouver les modèles

Partie 9 : conseils d'optimisation

Optimiser la VRAM

1. Utilisez la quantification Q4_K_M — le meilleur équilibre entre taille et qualité
2. Limitez la longueur du contexte — 8K au lieu de 32K économise ~40 % de VRAM
3. Désactivez le cache KV pour les requêtes ponctuelles
4. Utilisez Flash Attention 2 — réduit la mémoire nécessaire aux contextes longs
5. Activez l'inférence économe en mémoire dans vLLM

Optimiser la vitesse

1. Maximisez la bande passante mémoire du GPU — une RAM plus rapide = des tokens plus rapides
2. Utilisez le FP8 quand il est disponible — 2-3x plus rapide sur la série RTX 50
3. Activez le décodage spéculatif — un petit modèle accélère le grand
4. Regroupez les requêtes — un meilleur débit en production
5. Utilisez le batching continu (vLLM) — gestion dynamique des requêtes

Optimiser le multi-GPU

1. Utilisez des GPU identiques — évitez de mélanger les générations
2. Vérifiez la topologie NUMA — même nœud = latence plus faible
3. Utilisez au minimum des lignes x8 — le x4 crée des goulots d'étranglement
4. Surveillez avec nvidia-smi — guettez les déséquilibres d'utilisation
5. Testez différentes configurations TP/PP — l'optimum varie selon le modèle

Partie 10 : résoudre les problèmes courants

« CUDA out of memory »

Causes :

• modèle trop volumineux pour la VRAM
• fenêtre de contexte trop longue
• croissance du cache KV

Solutions :

1. Passez à une quantification plus agressive (Q4 → Q3)
2. Réduisez la longueur du contexte
3. Réduisez la taille des lots
4. Activez flash attention
5. Répartissez la charge sur plusieurs GPU

Génération de tokens trop lente

Causes :

• limitation par la bande passante mémoire
• déport de calcul sur le CPU actif
• throttling thermique

Solutions :

1. Vérifiez que le modèle tient entièrement en VRAM
2. Contrôlez la température du GPU (objectif <85°C)
3. Utilisez un modèle plus petit
4. Activez le mode performance du GPU
5. Améliorez le flux d'air du boîtier

Le multi-GPU ne monte pas en charge

Causes :

• goulot d'étranglement de la bande passante PCIe
• répartition des couches mal réglée
• problèmes de distance NUMA

Solutions :

1. Vérifiez nvidia-smi topo -m pour connaître la topologie
2. Ajustez les ratios de répartition tensorielle
3. Assurez-vous d'avoir du PCIe x8 ou mieux par GPU
4. Envisagez NVLink (RTX 3090)
5. Utilisez le parallélisme en pipeline plutôt que tensoriel

Conclusion : faire le bon choix

Construire un système IA local en 2026 n'a jamais été aussi accessible. En résumé :

Recommandations express :

Les règles d'or :

1. VRAM > tout le reste — plus de mémoire = plus de modèles possibles
2. La quantification est votre alliée — Q4_K_M est le bon compromis
3. Le multi-GPU a des rendements décroissants — sans NVLink, comptez ~1.6x avec 2 GPU
4. La bande passante mémoire compte — surtout sur les grands modèles
5. Commencez petit, montez en puissance — testez vos charges de travail avant d'investir

L'écosystème de l'IA open source avance à toute vitesse. Des modèles qui exigeaient $100K de matériel il y a deux ans tournent aujourd'hui sur des systèmes à $2K. Quelle que soit la machine que vous assemblez aujourd'hui, elle ne fera que gagner en capacités à mesure que les modèles gagneront en efficacité.

Bienvenue dans l'ère de l'IA personnelle.

Pour nos recommandations matérielles et la disponibilité des produits, rendez-vous sur Kentino.com

Annexe : tableaux de référence rapide

VRAM requise par modèle (Q4_K_M)

Comparatif des GPU pour l'IA

Dernière mise à jour : janvier 2026 Article préparé par l'équipe technique Kentino