Segurança de agentes: que ninguém os engane

O que vais ver nesta lição

1. Porque é que um agente é mais fácil de enganar

   Um agente lê conteúdo de terceiros e além disso age: se alguém lhe infiltrar uma ordem, pode executá-la com as suas permissões.

2. Injeção de instruções: direta e indireta

   Alguém mete uma ordem no que o agente lê: no chat (direta) ou escondida num site, num e-mail ou num PDF (indireta).

3. Não há correção definitiva: limite os danos

   O modelo não distingue com fiabilidade uma ordem de um dado, por isso a defesa real é limitar o que pode fazer se cair.

4. Servidores MCP envenenados

   O modelo lê e obedece à descrição de cada ferramenta MCP, por isso um servidor malicioso pode esconder ordens aí.

5. Chaves expostas: o erro mais caro

   Uma chave no código, num .env enviado para o GitHub ou dentro do contexto do agente acaba, mais cedo ou mais tarde, em más mãos.

6. Ambiente isolado: que trabalhe dentro de uma caixa

   Um sandbox limita que ficheiros o agente vê e a que domínios se liga, mesmo que o enganem.

7. Permissões mínimas: só o imprescindível

   Dê ao agente apenas o que a sua tarefa precisa: a OWASP chama «agência excessiva» (LLM03) a dar-lhe mais.

8. Aprovação humana e registos

   O que não tem volta atrás é aprovado por uma pessoa, e cada ação do agente fica registada.

9. Resumo: agentes que não se deixam enganar

   Conceba como se o agente fosse ser enganado: que, se cair, não possa causar dano importante.