Sicurezza degli agenti: che nessuno li inganni

Cosa vedrai in questa lezione

1. Perché un agente è più facile da ingannare

   Un agente legge contenuti di terzi e in più agisce: se qualcuno gli infila un ordine, può eseguirlo con i tuoi permessi.

2. Iniezione di istruzioni: diretta e indiretta

   Qualcuno inserisce un ordine in ciò che l'agente legge: nella chat (diretta) o nascosto in un sito, un'email o un PDF (indiretta).

3. Non c'è una soluzione definitiva: limita i danni

   Il modello non distingue in modo affidabile un ordine da un dato, quindi la vera difesa è limitare ciò che può fare se ci casca.

4. Server MCP avvelenati

   Il modello legge e obbedisce alla descrizione di ogni strumento MCP, quindi un server malevolo può nascondervi degli ordini.

5. Chiavi esposte: l'errore più costoso

   Una chiave nel codice, in un .env caricato su GitHub o dentro il contesto dell'agente finisce, prima o poi, in mani sbagliate.

6. Ambiente isolato: che lavori dentro una scatola

   Una sandbox limita quali file vede l'agente e a quali domini si collega, anche se lo ingannano.

7. Permessi minimi: solo l'indispensabile

   Dai all'agente solo ciò che serve al suo compito: OWASP chiama «agency eccessiva» (LLM03) dargliene di più.

8. Approvazione umana e log

   Ciò che non si può annullare lo approva una persona, e ogni azione dell'agente resta registrata.

9. Riepilogo: agenti che non si lasciano ingannare

   Progetta come se l'agente dovesse essere ingannato: se ci casca, non deve poter fare danni importanti.