Le matériel pour faire tourner l'IA soi-même
GPU, RAM, SSD NVMe vs SATA : comment dimensionner sa machine pour l'inférence et le fine-tuning.
~ 16 min de lecture
Faire tourner un LLM en local, c'est avant tout une question de mémoire (VRAM et RAM) et de bande passante de stockage. La puissance de calcul brute (TFLOPS) vient loin derrière. Beaucoup de débutants achètent une carte graphique « puissante » mais avec trop peu de VRAM, et se retrouvent incapables de charger le modèle qu'ils voulaient. Ce guide détaille chaque composant et comment le dimensionner selon votre objectif.
1. Le GPU — le composant clé
C'est la VRAM (mémoire vidéo) qui détermine la taille du modèle que vous pouvez charger, pas le nombre de cœurs CUDA. Pour l'IA, NVIDIA reste la référence grâce à CUDA, cuBLAS, Flash Attention et tout l'écosystème logiciel (PyTorch, vLLM, TensorRT). AMD progresse (ROCm, support dans llama.cpp) mais reste plus capricieux et moins bien supporté par les frameworks. Intel (Arc, Gaudi) est encore marginal pour l'IA locale.
Combien de VRAM pour quel modèle ?
- 8-12 Go : modèles 7B-13B quantifiés (Q4). RTX 3060 12 Go, RTX 4060.
- 16-24 Go : modèles 13B-34B confortablement, ou 70B lourdement quantifié (Q2-Q3). RTX 3090/ RTX 4090 24 Go.
- 32 Go : 70B en Q4 confort, multi-modèles. RTX 5090 32 Go, RTX 4060 Ti 32 Go (lent mais VRAM immense pour le prix).
- 48 Go+ : 70B en FP16, multi-GPU. RTX 6000 Ada, A6000, L40S.
- 80 Go : 120B+, fine-tuning sérieux. A100, H100 (hors de prix pour un particulier).
Le piège du bus mémoire
Une RTX 4060 Ti 32 Go a beaucoup de VRAM, mais un bus 128-bit : la bande passante est faible, donc l'inférence est lente malgré la capacité. Pour la même VRAM, une RTX 3090 (bus 384-bit) est nettement plus rapide. La bande passante mémoire (en Go/s) est le second critère, surtout pour la génération token-à-token.
| Carte | VRAM | Bus | Bande passante | Rapport IA |
|---|---|---|---|---|
| RTX 4060 Ti 32 Go | 32 Go | 128-bit | ~288 Go/s | VRAM oui, mais lent |
| RTX 3090 (occasion) | 24 Go | 384-bit | ~936 Go/s | Excellent rapport qualité/prix |
| RTX 4090 | 24 Go | 384-bit | ~1 008 Go/s | Le standard haut de gamme |
| RTX 5090 | 32 Go | 512-bit | ~1 792 Go/s | Le plus puissant grand public |
| RTX 6000 Ada | 48 Go | 384-bit | ~960 Go/s | Pro, gros modèles |
2. La RAM système
La RAM sert de « débordement » : si le modèle dépasse la VRAM, les couches excédentaires vont en RAM CPU puis sur CPU (beaucoup plus lent). Prévoyez au minimum 2× la VRAM en RAM système pour être tranquille, surtout si vous comptez faire de l'offload.
- 32 Go : minimum viable pour 7B-13B sans offload.
- 64 Go : confort pour 34B et fine-tuning léger (LoRA).
- 128 Go : 70B en CPU offload, fine-tuning sérieux, RAG sur gros corpus.
- 256 Go+ : stations de travail multi-GPU, préparation de datasets massifs.
Privilégiez la DDR5 (bande passante supérieure à la DDR4), et pour les stations pro, la DDR5 ECC qui corrige les erreurs — critique sur les entraînements longs où une erreur mémoire peut corrompre un checkpoint. Vous trouverez des kits sur Amazon.
3. Le stockage : NVMe vs SATA
Charger un modèle de 40 Go depuis un disque lent, c'est des minutes d'attente à chaque lancement. Le stockage compte énormément, et pas seulement pour le chargement initial : le swap (offload RAM↔VRAM) et le cache de contextes longs en dépendent aussi.
| Type | Vitesse lecture | IOPS | Bon pour |
|---|---|---|---|
| SSD NVMe Gen5 | ~14 000 Mo/s | ~1 000k | Chargement instantané, fine-tuning |
| SSD NVMe Gen4 | ~7 000 Mo/s | ~750k | Chargement rapide des modèles (recommandé) |
| SSD NVMe Gen3 | ~3 500 Mo/s | ~500k | Bon compromis économique |
| SSD SATA | ~560 Mo/s | ~100k | Archives, stockage de masse |
| HDD | ~150 Mo/s | ~0,1k | Backups uniquement (à éviter pour l'IA) |
Un modèle GGUF de 40 Go se charge en ~6 s sur NVMe Gen4, contre ~70 s sur SSD SATA et ~4 min sur HDD. La différence est flagrante à l'usage quotidien, surtout quand on change souvent de modèle.
Conseil : un NVMe Gen4 de 2-4 To pour les modèles et le système, plus un SSD SATA ou HDD de 8 To+ pour les archives et les datasets bruts. La durée de vie (TBW) du NVMe compte aussi si vous écrivez beaucoup de checkpoints. Voir les NVMe Gen4 4 To sur Amazon.
4. Le CPU
Le CPU compte moins pour l'inférence GPU (le GPU fait le travail), mais beaucoup pour la préparation des données, le tokenization, le fine-tuning CPU, et l'offload quand la VRAM déborde. Visez 8 cœurs minimum, 16 pour le confort, 32+ pour les stations pro.
- Entrée : Ryzen 5 / Core i5 (6-8 cœurs) — suffisant pour l'inférence 7B.
- Intermédiaire : Ryzen 9 / Core i7 (12-16 cœurs) — fine-tuning léger, offload.
- Haut de gamme : Ryzen 9 9950X, Threadripper (16-96 cœurs) — fine-tuning sérieux, préparation de datasets.
Le support PCIe 5.0 est un plus pour les futures cartes et les NVMe Gen5, mais pas indispensable aujourd'hui. Le socket et le chipset doivent surtout supporter le nombre de lignes PCIe dont vous aurez besoin (important si vous visez le multi-GPU).
5. L'alimentation (PSU)
Souvent négligée, l'alimentation est critique : une RTX 5090 peut tirer 575 W en pointe, une 4090 450 W. Ajoutez le CPU, la RAM, les ventilateurs, et il faut une alim solide et stable. Une alim sous-dimensionnée ou de mauvaise qualité provoque des crashes aléatoires sous charge — le pire cauchemar pour diagnostiquer.
- 1 GPU grand public : 850-1000 W, 80+ Gold.
- RTX 5090 / 4090 : 1000-1200 W, 80+ Platinum, ATX 3.0 (câble 12VHPWR).
- 2 GPU : 1200-1600 W, 80+ Platinum.
- 4 GPU (station pro) : 1600-2000 W, parfois deux alims ou une alim redondante.
Privilégiez les 80+ Gold ou Platinum (rendement, stabilité, chaleur) et le format ATX 3.0 avec le connecteur 12VHPWR natif pour les cartes récentes.
6. Refroidissement et boîtier
Une machine qui infère des heures chauffe. Un bon boîtier avec un flux d'air dégagé (grille avant + extraction arrière/haut) est essentiel. Les cartes « blower » (extraction arrière) sont préférables en multi-GPU ; les cartes grand public à ventilateurs axiaux se réchauffent mutuellement quand elles sont empilées. En fine-tuning long, envisagez un refroidissement par eau (AIO ou boucle custom) pour le CPU, et laissez les GPU en air sauf configuration extrême.
7. Configuration type selon le budget
| Budget | GPU | RAM | Stockage | CPU | Modèles visés |
|---|---|---|---|---|---|
| Entrée (~1 500 €) | RTX 4060 Ti 32 Go | 32 Go DDR5 | 2 To NVMe Gen4 | Ryzen 5 | 13B-30B (lent) |
| Intermédiaire (~3 000 €) | RTX 4090 24 Go | 64 Go DDR5 | 4 To NVMe Gen4 | Ryzen 9 | 34B, 70B Q3-Q4 |
| Haut de gamme (~6 000 €) | RTX 5090 32 Go | 128 Go DDR5 | 4 To NVMe + 8 To SATA | Ryzen 9 9950X | 70B confort, multi-modèles |
| Occasion malin (~1 800 €) | RTX 3090 24 Go (SLI possible) | 64 Go DDR4 | 2 To NVMe Gen4 | Ryzen 7 | 34B, 70B Q4 |
Mac vs PC : la question mémoire unifiée
Les puces Apple Silicon (M2/M3/M4) ont une mémoire unifiée partagée entre CPU et GPU. Un Mac Studio avec 192 Go de RAM unifiée peut charger un modèle de 100+ Go de poids directement, sans offload. La bande passante (800 Go/s sur M2 Ultra) est bien supérieure à la DDR5 desktop. Inconvénient majeur : aucune évolutivité (tout est soudé) et un écosystème logiciel centré sur llama.cpp/MLX (moins complet que CUDA). Pour un usage d'inférence pure sur de très gros modèles, le Mac est étonnamment compétitif ; pour le fine-tuning et la flexibilité, le PC NVIDIA reste roi.
Checklist d'achat
- VRAM d'abord : 24 Go minimum pour un usage sérieux (3090/4090).
- RAM système = 2× la VRAM.
- NVMe Gen4 de 2 To minimum pour les modèles.
- Alim 80+ Gold/Platinum, 200 W de marge sur la consommation max.
- Boîtier bien ventilé, surtout en multi-GPU.
- CPU 8 cœurs minimum, 16 pour le confort.
- Vérifiez les lignes PCIe du chipset si vous visez 2+ GPU.
Vous trouverez tous ces composants avec liens d'achat affiliés sur notre page matériel. Pour les configurations ultimes (multi-GPU, Threadripper, Mac Studio), consultez le guide sur les stations de travail.