RAG: uma IA que conhece os documentos da sua empresa

O que vais ver nesta lição

1. RAG: que a IA pesquise antes de responder

   O RAG (geração aumentada por recuperação) procura nos seus documentos os fragmentos úteis e dá-os à IA junto com a pergunta.

2. Primeiro: cabe tudo no contexto?

   Se os seus documentos somarem menos de uns 200.000 tokens, umas 500 páginas, muitas vezes é melhor metê-los inteiros com cache.

3. A via rápida: a pesquisa de ficheiros da API

   A OpenAI e a Google oferecem um RAG já montado: carrega os ficheiros e o modelo pesquisa neles por conta própria e cita a fonte.

4. Passo 1: fragmentar os documentos

   Se montar o seu próprio RAG, primeiro divide os documentos em fragmentos de umas centenas de tokens: pesquisa-se e entrega-se fragmento a fragmento.

5. Passo 2: embeddings e base vetorial

   Um embedding transforma cada fragmento numa lista de números que resume o seu significado: os textos parecidos ficam perto.

6. Pesquisa híbrida: palavras mais significado

   Combina a pesquisa por palavras exatas (BM25, a dos motores de busca clássicos) com a de significado e funde as duas listas.

7. Reordenação: um segundo filtro mais inteligente

   Um reranker relê a pergunta junto com cada candidato e ordena-os pela relevância real antes de os passar à IA.

8. Recuperação contextual: cada fragmento com o seu contexto

   Antes de indexar, a IA acrescenta a cada fragmento uma ou duas frases que explicam de que documento e secção vem.

9. Resumo

   Comece pelo mais simples que funcione e acrescente técnicas só quando os seus testes demonstrarem que são precisas.