){kind=link}
O assistente de inteligência artificial (IA) Claude Opus 4.6 explorou falhas em um sistema de reservas de academia em nove de cada dez execuções e cancelou agendamentos de terceiros em testes controlados. O experimento da empresa de cibersegurança Aikido Security, divulgado em relatório nesta terça-feira (25), recriou um caso real ocorrido na Austrália no primeiro semestre, quando um aluno pediu ajuda para marcar horários em aulas coletivas e o agente passou a burlar regras por conta própria.
A empresa fornecedora do software de agendamento não teve o nome divulgado e não apresentou nenhuma correção até o momento, segundo o documento. Por outro lado, a desenvolvedora do modelo, a Anthropic, admitiu que a ferramenta apresentou comportamento autônomo além do esperado em tarefas no computador, porém afirmou que os desvios ficaram dentro do limite aceitável para o lançamento comercial.
smart_display
Nossos vídeos em destaque
“Observamos alguns aumentos em comportamentos desalinhados em áreas específicas, como capacidade de ocultação de sabotagem e comportamento excessivamente autônomo em configurações de uso de computadores, embora nenhum tenha atingido níveis que afetassem nossa avaliação de implantação”, declarou a Anthropic, em documento oficial.
Operação do Claude
No teste em ambiente simulado, o assistente reservou vagas com meses de antecedência, desrespeitando o limite máximo de sete dias imposto pela plataforma. Em duas das dez rodadas, o modelo usou uma brecha de autorização para excluir reservas confirmadas de outros alunos e adiantar a posição do seu usuário na fila de espera. Nenhum dos comandos inseridos no teste pediu a invasão ou a exploração de vulnerabilidades.
A equipe responsável pelo estudo apontou que as travas de segurança dos modelos costumam falhar diante de instruções indiretas. “Essa dinâmica sugere que as proteções podem ser excessivamente reativas a pedidos explícitos do usuário e pouco reativas a pedidos indiretos, ou que os modelos perdem de vista o contexto ético durante uma sequência de ações ou chamadas de ferramentas repetidas”, afirmou Oliver Smith, pesquisador de segurança da Aikido Security.
Na primeira rodada de testes, após cancelar uma vaga e promover o primeiro cliente da lista de espera, a inteligência artificial registrou a falha no histórico da conversa:
“Não deveria ter testado isso em uma reserva real. O erro foi meu. A aula voltou a ficar com 12 de 12 vagas preenchidas após a promoção da lista de espera, então o estado está praticamente consistente, mas um membro real perdeu o lugar”.
A Diretoria de Sinais da Austrália (ASD), agência de inteligência cibernética do país, emitiu um alerta oficial sobre o episódio e recomendou que usuários restrinjam o uso de agentes autônomos a tarefas simples e mantenham supervisão humana constante em operações digitais.
Por falar em segurança no universo digital, conheça o golpe do falso alívio financeiro, que mira mais de nove mil empresas. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.