Bloc VIII · L'IA sur votre propre machine · Leçon 43

Quel matériel il vous faut : minimum, recommandé et haut de gamme

D'une carte graphique de 16 Go à un Mac avec M5 Max ou M5 Ultra, DGX Spark, Strix Halo ou RTX PRO 6000 : prix actuels et taille de modèle que chaque machine fait tourner sans peine.

Accéder au cours

Ce que vous verrez dans cette leçon

  1. Deux chiffres comptent : combien de mémoire et à quelle vitesse

    La mémoire décide quel modèle tient ; sa bande passante, combien de tokens par seconde il écrit. Le processeur compte bien moins.

  2. Minimum : une carte graphique de 8 ou 12 Go

    Avec 8 Go, vous faites tourner des modèles d'environ 4 à 8 milliards de paramètres en 4 bits ; avec 12 Go, ceux d'environ 12 milliards.

  3. Conseillé pour débuter : 16 Go pour environ 500 €

    La RTX 5060 Ti de 16 Go est l'achat le plus raisonnable pour l'IA locale : plus de mémoire que la 5070 et nettement moins chère.

  4. 24 et 32 Go : RTX 3090 d'occasion ou RTX 5090

    Avec 24–32 Go, Qwen3.8-27B tient en 4 bits avec un long contexte : le meilleur niveau de qualité possible à la maison.

  5. Le maximum dans un PC : RTX PRO 6000 avec 96 Go

    La carte professionnelle de NVIDIA a 96 Go et la bande passante d'une 5090 : des modèles de 120 milliards entiers sur la carte.

  6. 128 Go partagés : DGX Spark et Strix Halo

    Des mini PC avec 128 Go de mémoire unifiée : des MoE de plus de 100 milliards y tiennent, mais ils lisent à environ 256–273 Go/s.

  7. Mac Studio avec M5 Max ou M5 Ultra : mémoire rapide

    Les puces M5 Max et M5 Ultra lisent à 614 et 1 228 Go/s : l'Ultra approche une RTX 5090, mais avec bien plus de mémoire possible.

  8. Quoi acheter selon le modèle à faire tourner

    Partez du modèle dont vous avez besoin et choisissez la mémoire ; le reste de la machine se décide presque tout seul.

  9. Résumé

    Choisissez d'abord le modèle, calculez sa mémoire et achetez la machine qui l'a, avec la bande passante dont vous avez besoin.

Outils et notions

Connectez-vous avec votre compte Google pour accéder à cette leçon et à tout le cours.

Accéder au coursVoir le programme complet

Autres leçons du bloc