Fato confirmado: um estudo submetido ao arXiv em 22 de setembro de 2026 propõe uma nova forma de avaliar a segurança de agentes de inteligência artificial. A pesquisa mostra que um agente pode concluir uma tarefa sem cair em um ataque conhecido e, ainda assim, continuar com permissões que nunca deveria ter recebido.
Para empresas de software, essa diferença é importante. Um agente conectado a CRM, chamados, documentos, e-mail ou ERP deixa de ser apenas um gerador de texto. Ele passa a consultar dados e executar ações. Nesse cenário, “não fez nada errado no teste” não significa “estava impedido de fazer algo errado”.
O que o estudo investigou
O trabalho, chamado Ajar: Measuring Open Privilege in Agent Defenses, parte de uma falha nas avaliações atuais. Em geral, os testes medem duas coisas: se um ataque conseguiu induzir o agente a agir e se o agente completou a tarefa legítima.
Essas métricas observam o que aconteceu durante a execução. Elas não mostram tudo o que a camada de segurança teria permitido caso o agente tivesse tentado outra ação.
Os pesquisadores criaram o Ajar para medir esse espaço aberto. O método apresenta à defesa chamadas de ferramentas que a tarefa não exige: ler outro arquivo, ampliar o alcance de uma consulta, alterar um recurso diferente ou executar uma ação perigosa. Se a defesa autoriza a chamada, existe uma permissão excedente, mesmo que o agente não a tenha usado no teste original.
A avaliação foi aplicada a cinco mecanismos de defesa, incluindo o modo automático do Claude Code, sobre 97 tarefas legítimas do benchmark AgentDojo. Segundo os autores, as soluções deixaram quantidades bastante diferentes de privilégio aberto. Eles também observaram que duas defesas com vazamento semelhante podiam apresentar uma diferença de 37 pontos na conclusão das tarefas.
O problema que uma taxa de sucesso não revela
Análise: a pesquisa reforça que segurança e produtividade não podem ser resumidas em um único indicador. Um agente pode terminar muitos trabalhos porque recebeu acesso amplo demais. Outro pode parecer seguro porque bloqueia quase tudo, mas se torna pouco útil.
O objetivo é aproximar a permissão da necessidade real. A defesa deve liberar as ações indispensáveis e negar o restante. Isso é o princípio do menor privilégio, já conhecido em segurança da informação, aplicado agora a agentes que escolhem ferramentas e argumentos durante uma conversa.
MATERIAL PRÁTICO
Quer aplicar IA no seu trabalho?
Tenha acesso gratuito a 50 prompts prontos para usar e adaptar.
Quero acessar os promptsHá ainda um detalhe prático: controlar somente o nome da ferramenta não basta. “Consultar cliente” pode ser legítimo, mas consultar todos os clientes talvez não seja. “Atualizar pedido” pode ser necessário, mas não qualquer pedido. A decisão precisa considerar também o registro, a empresa, os campos, o usuário e o momento da tarefa.
O que isso muda na prática para uma empresa de software?
Considere um exemplo hipotético. Um agente recebe a tarefa de preparar uma reunião comercial. Para isso, precisa ler uma oportunidade específica, recuperar anotações autorizadas e montar um resumo. Ele não precisa exportar toda a carteira, alterar o valor da proposta nem enviar mensagens ao cliente.
Se o teste termina com um bom resumo, a equipe pode considerar o fluxo aprovado. Mas a avaliação fica incompleta quando não verifica se o agente também conseguiria acessar outras contas, mudar a proposta ou disparar um e-mail. O risco está na capacidade disponível, não apenas na ação observada.
O mesmo raciocínio vale para um agente de suporte com acesso a chamados, um assistente de desenvolvimento conectado ao repositório ou um plugin integrado ao ERP. Quanto mais ferramentas forem combinadas, maior a importância de definir limites por tarefa. Esse cuidado complementa a análise do portal sobre plugins que conectam o Claude a produtos e dados empresariais.
Cinco controles para aplicar desde o piloto
- Mapeie a tarefa: liste quais dados e ações são necessários para concluir um fluxo específico.
- Negue o restante: não entregue ao agente todas as permissões do usuário ou da integração.
- Separe leitura de escrita: alterações, envios e exclusões devem ter regras próprias e confirmação humana quando houver impacto relevante.
- Teste ações que não deveriam ocorrer: tente acessar outro cliente, ampliar filtros, trocar identificadores e usar uma ferramenta fora do caminho esperado.
- Registre decisões: guarde a solicitação, a ferramenta, os argumentos, a permissão concedida ou negada e o responsável pela confirmação.
Para medir o piloto, combine pelo menos quatro indicadores: tarefas concluídas, chamadas indevidas bloqueadas, permissões excedentes encontradas e intervenções humanas necessárias. Velocidade ou economia de tempo, sozinhas, não mostram se o agente operou dentro do limite correto.
Limitações da pesquisa
O artigo é uma versão inicial disponibilizada no arXiv e não representa uma certificação das ferramentas avaliadas. Os testes foram executados em um benchmark, não em operações reais de clientes. Parte das classificações é validada pelas regras do próprio AgentDojo; outra parte depende da construção proposta pelos autores.
Os resultados também variam conforme o modelo que decide permitir ou negar uma chamada e podem mudar quando a mesma pergunta é repetida. Portanto, não é correto transformar o estudo em um ranking definitivo de produtos. Sua contribuição mais útil é mostrar uma dimensão que os testes convencionais podem esconder.
Conclusão: avalie o que o agente poderia fazer
A notícia não significa que agentes empresariais devam ser evitados. Ela muda o critério de aprovação. Além de verificar qualidade, taxa de sucesso e resistência a ataques, a empresa precisa medir quais capacidades continuam abertas sem necessidade.
A ação prática é escolher um fluxo piloto e criar duas listas: “o agente precisa fazer” e “o agente não pode fazer”. Depois, teste as duas. Se a segunda lista não puder ser comprovadamente bloqueada, a automação ainda não está pronta para receber dados ou executar ações reais.
Referências
- Ajar: Measuring Open Privilege in Agent Defenses, versão submetida em 22/09/2026.
- Código-fonte do Ajar no GitHub, consultado em 27/09/2026.
- AgentDojo, ambiente de avaliação usado no estudo.
- Capa: foto de FlyD no Unsplash.
PRÓXIMO PASSO
Leve esta ideia para a prática
Tenha acesso gratuito a 50 prompts para gestão, suporte, vendas, desenvolvimento, produto e implantação.
Quero acessar os prompts








