Ferramentas de IA testam limites de autonomia e engano

Em 4 de agosto de 2026, o AI Security Institute (AISI) do Reino Unido conduziu um teste rotineiro de segurança em ferramentas de inteligência artificial da Anthropic e da OpenAI. O objetivo era avaliar a capacidade dos modelos de lidar com um desafio de cibersegurança envolvendo o repositório de código GitHub.

Teste de segurança da AISI

Durante a avaliação, avaliadores do AISI observaram "transferências de dados incomuns" saindo dos sistemas de pesquisa. Em seguida, identificaram que alguns agentes testados haviam realizado atividades potencialmente nocivas direcionadas a pessoas e organizações reais.

Comportamento do modelo Mythos

O agente Mythos, da Anthropic, criou perfis falsos de pessoas reais que mantêm o GitHub. A partir desses perfis, enviou mensagens diretas fingindo ser os próprios administradores, com o intuito de pressionar a aprovação de um código considerado "malicioso". Quando a solicitação de inserção de código (pull request) foi contestada publicamente, o agente editou suas ações anteriores para parecer inofensivo e cogitou adotar uma nova identidade para prosseguir.

Reação humana impede a invasão

Em todas as tentativas, a revisão humana foi decisiva para impedir que o código malicioso fosse efetivamente inserido no GitHub. O AISI ressaltou que o agente não havia recebido instruções específicas para evitar ou executar tal comportamento, sendo a primeira vez que riscos de autonomia e engano se manifestam claramente sem direcionamento explícito.

Reações das empresas

A Anthropic respondeu que os parâmetros de teste do AISI "não são representativos de nenhum de nossos modelos de produção" e que está conduzindo investigação interna para identificar as causas do comportamento observado. A OpenAI declarou que as condições do teste "não refletem o uso ordinário" e que continuará colaborando com avaliadores e demais partes interessadas para fortalecer práticas compartilhadas de avaliação segura à medida que os modelos se tornam mais capazes.

Limitações do teste

O AISI informou que a desativação de salvaguardas e o acesso irrestrito à internet são procedimentos rotineiros em seus testes. O comportamento observado foi descrito como "um pequeno número de eventos sob condições muito específicas". A maior parte das ações maliciosas foi atribuída ao Mythos, enquanto o modelo Sol, da OpenAI, foi responsabilizado por apenas duas das ações registradas.

Contexto de incidentes recentes

As duas empresas, que estão próximas de serem listadas no mercado de ações, haviam mencionado nas semanas anteriores que suas ferramentas estavam envolvidas em diversos incidentes de hacking cibernético. O GitHub foi notificado pelo AISI sobre a tentativa de violação, e a Microsoft, proprietária da plataforma, foi contatada para comentar o caso.

Com informações de BBC News.