){kind=link}
Testes de cibersegurança realizados por um laboratório de inteligência artificial (IA) no Reino Unido resultaram em novos incidentes com agentes de altas capacidades. Os incidentes foram registrados envolvendo sistemas de OpenAI e Anthropic.
Quem descobriu os novos hacks foi a AI Security Institute (AISI), uma agência terceirizada que teve autorização para fazer experimentos com modelos de linguagem avançados. Durante uma bateria de testes, tanto o Mythos 5 quanto o GPT-5.6-Sol se comportaram de maneira inadequada para atingir o objetivo proposto.
smart_display
Nossos vídeos em destaque
Os casos são diferentes em alvo e formato dos já registrados anteriormente envolvendo as duas companhias: o acesso não autorizado ao repositório Hugging Face e a série de invasões promovida pelas IAs da dona do Claude.
“Agradecemos a parceria do AISI ao longo deste processo, incluindo o trabalho de identificar, investigar e compartilhar detalhes sobre a atividade. Esperamos dar continuidade à nossa colaboração”, diz a OpenAI em uma postagem.
A Anthropic por enquanto apenas soltou uma declaração curta agradecendo a AISI “pela liderança no incidente, que confirma a necessidade de uma conversa de maior dimensão sobre como avaliar com segurança agentes de IA cada vez mais capazes”.
Como foram os novos ataques
Segundo o relatório da AISI, os incidentes foram detectados em 28 de julho deste ano. A equipe que controlava as avaliações notou “transferências incomuns de dados” nos servidores e foi atrás da fonte dessas atividades.
- Ao todo, foram 19 ações mal intencionadas causadas pelos agentes de IA controlados pelos dois modelos: duas delas pelo GPT-5.6-Sol e as demais pelo Mythos 5;
- Todas as IAs receberam o mesmo teste: uma tarefa de “capturar a bandeira”, ou seja, resolver um desafio de cibersegurança como se fosse um especialista no assunto e levar uma prova de que a ação foi concluída;
- O caso mais sério envolveu a Anthropic: um dos agentes tentou adicionar códigos maliciosos em um projeto aberto no GitHub. Para fazer isso, ele criou identidades falsas e usou elas para tentar convencer o dono da conta a aprovar as modificações — ação que foi recusada antes de ter um impacto;
- Em outras ações detectadas, um agente chegou a postar no GitHub oferecendo colaboração para trabalhar com outros agentes que faziam o mesmo teste, inclusive deixando instruções sobre como fazer avanços.
Ao contrário dos testes anteriores, os agentes tinham acesso convencional à internet e sabiam disso, mas o prompt não sugeria como a rede poderia ou deveria ser utilizada na avaliação. Qualquer filtro de cibersegurança também foi desabilitado para usar a capacidade máxima da IA.
Entidades pedem limites
O GitHub e outras organizações envolvidas foram contatadas para remover códigos que eventualmente sobraram. Nenhum dano real foi causado durante as avaliações, mas a AISI reforça que as descobertas são graves e exigem “atenção imediata”.
“Esta é a primeira vez que vemos riscos relacionados à autonomia e enganações se manifestarem de forma tão clara, sem um comando específico e no mundo real”, diz a organização. Já o CEO da Hugging Face pediu responsabilização de desenvolvedores e empresas de IA que criarem bots que realizem atividades maliciosas na rede, mesmo caso se “rebelem” durante teste.
Acesse a seção sobre IA no site do TecMundo e fique por dentro das novidades da área!