RAG: un'IA che conosce i documenti della tua azienda

Cosa vedrai in questa lezione

1. RAG: che l'IA cerchi prima di rispondere

   Il RAG (generazione aumentata dal recupero) cerca nei tuoi documenti i pezzi utili e li dà all'IA insieme alla domanda.

2. Prima: ci sta tutto nel contesto?

   Se i tuoi documenti sommano meno di circa 200.000 token, circa 500 pagine, spesso è meglio inserirli interi con la cache.

3. La via rapida: la ricerca nei file dell'API

   OpenAI e Google offrono un RAG già pronto: carichi i file e il modello li consulta da solo e cita la fonte.

4. Passo 1: dividere i documenti in pezzi

   Se costruisci un tuo RAG, prima dividi i documenti in pezzi da qualche centinaio di token: si cerca e si consegna pezzo per pezzo.

5. Passo 2: embedding e database vettoriale

   Un embedding trasforma ogni pezzo in una lista di numeri che ne riassume il significato: i testi simili restano vicini.

6. Ricerca ibrida: parole più significato

   Combina la ricerca per parole esatte (BM25, quella dei motori di ricerca classici) con quella per significato e fonde le due liste.

7. Riordinamento: un secondo filtro più furbo

   Un reranker rilegge la domanda insieme a ogni candidato e li ordina per rilevanza reale prima di passarli all'IA.

8. Recupero contestuale: ogni pezzo con il suo contesto

   Prima di indicizzare, l'IA aggiunge a ogni pezzo una o due frasi che spiegano da quale documento e sezione proviene.

9. Riepilogo

   Parti dalla cosa più semplice che funziona e aggiungi tecniche solo quando i tuoi test dimostrano che servono.