Che macchina ti serve: minimo, consigliato e massimo

Cosa vedrai in questa lezione

1. Contano due numeri: quanta memoria e quanto è veloce

   La memoria decide quale modello ci sta; la sua larghezza di banda, quanti token al secondo scrive. Il processore conta molto meno.

2. Minimo: una scheda video da 8 o 12 GB

   Con 8 GB fai girare modelli da circa 4.000 a 8.000 milioni di parametri a 4 bit; con 12 GB ci stanno già quelli da circa 12.000 milioni.

3. Consigliata per iniziare: 16 GB per circa 500 €

   La RTX 5060 Ti da 16 GB è l'acquisto più sensato per l'IA locale: più memoria della 5070 e molto più economica.

4. 24 e 32 GB: RTX 3090 usata o RTX 5090

   Con 24–32 GB entra Qwen3.8-27B a 4 bit con contesto lungo: il punto ideale di qualità che ci sta in casa.

5. Il massimo in un PC: RTX PRO 6000 con 96 GB

   La scheda professionale di NVIDIA ha 96 GB e la larghezza di banda di una 5090: modelli da 120.000 milioni interi nella scheda.

6. 128 GB condivisi: DGX Spark e Strix Halo

   Mini PC con 128 GB di memoria unificata: ci stanno MoE da oltre 100 miliardi, ma leggono a circa 256–273 GB/s.

7. Mac Studio con M5 Max o M5 Ultra: memoria veloce

   I chip M5 Max e M5 Ultra leggono a 614 e 1.228 GB/s: l'Ultra si avvicina a una RTX 5090, ma con molta più memoria possibile.

8. Cosa comprare in base al modello che vuoi usare

   Parti dal modello che ti serve e scegli la memoria; il resto della macchina si decide quasi da solo.

9. Riepilogo

   Scegli prima il modello, calcola la sua memoria e compra la macchina che ce l'ha, con la larghezza di banda che ti serve.