Bloc VIII · L'IA sur votre propre machine · Leçon 43
Quel matériel il vous faut : minimum, recommandé et haut de gamme
D'une carte graphique de 16 Go à un Mac avec M5 Max ou M5 Ultra, DGX Spark, Strix Halo ou RTX PRO 6000 : prix actuels et taille de modèle que chaque machine fait tourner sans peine.
- 10 min
- 9 diapositives animées
- Quiz de 4 questions
- Narrée en 6 langues
Ce que vous verrez dans cette leçon
- Deux chiffres comptent : combien de mémoire et à quelle vitesse
La mémoire décide quel modèle tient ; sa bande passante, combien de tokens par seconde il écrit. Le processeur compte bien moins.
- Minimum : une carte graphique de 8 ou 12 Go
Avec 8 Go, vous faites tourner des modèles d'environ 4 à 8 milliards de paramètres en 4 bits ; avec 12 Go, ceux d'environ 12 milliards.
- Conseillé pour débuter : 16 Go pour environ 500 €
La RTX 5060 Ti de 16 Go est l'achat le plus raisonnable pour l'IA locale : plus de mémoire que la 5070 et nettement moins chère.
- 24 et 32 Go : RTX 3090 d'occasion ou RTX 5090
Avec 24–32 Go, Qwen3.8-27B tient en 4 bits avec un long contexte : le meilleur niveau de qualité possible à la maison.
- Le maximum dans un PC : RTX PRO 6000 avec 96 Go
La carte professionnelle de NVIDIA a 96 Go et la bande passante d'une 5090 : des modèles de 120 milliards entiers sur la carte.
- 128 Go partagés : DGX Spark et Strix Halo
Des mini PC avec 128 Go de mémoire unifiée : des MoE de plus de 100 milliards y tiennent, mais ils lisent à environ 256–273 Go/s.
- Mac Studio avec M5 Max ou M5 Ultra : mémoire rapide
Les puces M5 Max et M5 Ultra lisent à 614 et 1 228 Go/s : l'Ultra approche une RTX 5090, mais avec bien plus de mémoire possible.
- Quoi acheter selon le modèle à faire tourner
Partez du modèle dont vous avez besoin et choisissez la mémoire ; le reste de la machine se décide presque tout seul.
- Résumé
Choisissez d'abord le modèle, calculez sa mémoire et achetez la machine qui l'a, avec la bande passante dont vous avez besoin.
Outils et notions
- RTX 5060 Ti
- RTX 3090/5090
- Mac Studio M5
- DGX Spark
- Strix Halo
Connectez-vous avec votre compte Google pour accéder à cette leçon et à tout le cours.
Autres leçons du bloc
- Les modèles ouverts qui valent le coup aujourd'hui
- Quantification : comment faire tenir un grand modèle dans votre carte graphique
- Ollama, LM Studio, llama.cpp ou vLLM : quel moteur utiliser
- Outils locaux gratuits : chat, voix, transcription et image
- Les dernières nouveautés en local : Strata et TensorFold
- Modèles non censurés : ce qu'ils sont et quels risques ils comportent