De que equipamento precisa: mínimo, recomendado e topo

O que vais ver nesta lição

1. Dois números mandam: quanta memória e quão rápida

   A memória decide que modelo cabe; a sua largura de banda, quantos tokens por segundo escreve. O processador importa muito menos.

2. Mínimo: uma placa gráfica de 8 ou 12 GB

   Com 8 GB corre modelos de cerca de 4.000 a 8.000 milhões de parâmetros a 4 bits; com 12 GB já cabem os de cerca de 12.000 milhões.

3. Recomendado para começar: 16 GB por cerca de 500 €

   A RTX 5060 Ti de 16 GB é a compra mais sensata para IA local: mais memória do que a 5070 e bastante mais barata.

4. 24 e 32 GB: RTX 3090 usada ou RTX 5090

   Com 24–32 GB cabe o Qwen3.8-27B a 4 bits com contexto longo: o ponto ideal de qualidade que cabe em casa.

5. O topo num PC: RTX PRO 6000 com 96 GB

   A placa profissional da NVIDIA tem 96 GB e a largura de banda de uma 5090: modelos de 120.000 milhões inteiros na placa gráfica.

6. 128 GB partilhados: DGX Spark e Strix Halo

   Mini PC com 128 GB de memória unificada: cabem MoE de mais de 100.000 milhões, mas leem a cerca de 256–273 GB/s.

7. Mac Studio com M5 Max ou M5 Ultra: memória rápida

   Os chips M5 Max e M5 Ultra leem a 614 e 1.228 GB/s: o Ultra aproxima-se de uma RTX 5090, mas com muito mais memória possível.

8. O que comprar segundo o modelo que quer correr

   Comece pelo modelo de que precisa e escolha a memória; o resto do equipamento decide-se quase sozinho.

9. Resumo

   Escolha primeiro o modelo, calcule a sua memória e compre o equipamento que a tenha com a largura de banda de que precisa.