Sécurité des agents : que personne ne les trompe

Ce que vous verrez dans cette leçon

1. Pourquoi un agent est plus facile à tromper

   Un agent lit du contenu de tiers et, en plus, il agit : si quelqu'un lui glisse un ordre, il peut l'exécuter avec vos permissions.

2. Injection d'instructions : directe et indirecte

   Quelqu'un glisse un ordre dans ce que l'agent lit : dans le chat (directe) ou caché dans une page web, un e-mail ou un PDF (indirecte).

3. Pas de correctif définitif : limitez les dégâts

   Le modèle ne distingue pas de façon fiable un ordre d'une donnée, donc la vraie défense est de limiter ce qu'il peut faire s'il tombe dans le piège.

4. Serveurs MCP empoisonnés

   Le modèle lit et suit la description de chaque outil MCP, donc un serveur malveillant peut y cacher des ordres.

5. Clés exposées : l'erreur la plus chère

   Une clé dans le code, dans un .env envoyé sur GitHub ou dans le contexte de l'agent finit, tôt ou tard, entre de mauvaises mains.

6. Environnement isolé : qu'il travaille dans une boîte

   Un sandbox limite les fichiers que voit l'agent et les domaines auxquels il se connecte, même si on le trompe.

7. Permissions minimales : seulement l'indispensable

   Donnez à l'agent juste ce dont sa tâche a besoin : l'OWASP appelle « agentivité excessive » (LLM03) le fait de lui en donner trop.

8. Validation humaine et journaux

   Ce qui est irréversible est validé par une personne, et chaque action de l'agent est enregistrée.

9. Résumé : des agents qui ne se laissent pas tromper

   Concevez comme si l'agent allait être trompé : s'il tombe dans le piège, il ne doit pas pouvoir causer de gros dégâts.