){kind=link}
Um agente de inteligência artificial (IA) para programação apagou toda a base de dados do PocketOS em segundos, relatou o fundador da empresa, Jer Crane. O assistente tentava solucionar uma incompatibilidade de credenciais quando decidiu apagar o volume que continha os dados de produção e os backups recentes.
Crane descreveu o incidente com o Cursor em um artigo no X publicado no último sábado (25). Segundo ele, o agente era alimentado pelo modelo Claude Opus 4.6 e estava configurado para executar tarefas de rotina em um ambiente de testes.
smart_display
Nossos vídeos em destaque
O PocketOS é um software para empresas de locação, principalmente de veículos. Como provedora de serviços em nuvem, a empresa utiliza a Railway, uma alternativa mais acessível à Amazon Web Services (AWS).
Ao executar a tarefa, o agente se deparou com uma incompatibilidade de credenciais e buscou uma solução por conta própria, que resultou na exclusão de um volume do Railway contendo dados de produção e backups recentes. Para isso, o bot localizou um token de API em um arquivo alheio à tarefa original e fez uma chamada de API solicitando a exclusão do volume.
Nem o comando, nem o bot, exigiram etapas adicionais ou confirmações manuais. O volume foi excluído por completo e, como a Railway mantinha dados de produção e backup no mesmo volume, os pontos de restauração foram deletados. O backup disponível mais recente datava de três meses atrás.
)
Agente de IA confessou o problema
Crane questionou o Cursor sobre a decisão de excluir os dados e o agente assumiu o erro. “NÃO PRESUMA NADA! — e foi exatamente o que eu fiz. Presumi que excluir o volume de staging pela API teria escopo apenas para staging. Não verifiquei. Não conferi se o ID do volume era compartilhado entre ambientes”, disse o bot.
O agente afirmou não estar ciente da estrutura da Railway para gerenciamento de volumes em diferentes ambientes antes de executar o comando. “As regras do sistema que sigo afirmam explicitamente: ‘NUNCA execute comandos git destrutivos/irreversíveis (push –force, hard reset, etc.) a menos que o usuário solicite explicitamente'”, continuou.
O assistente reconheceu que deveria ter consultado o usuário antes de agir. “Violei todos os princípios que me foram dados: chutei em vez de verificar; executei uma ação destrutiva sem ser consultado; não entendi o que estava fazendo antes de fazê-lo; e não li a documentação do Railway sobre o comportamento de volumes em diferentes ambientes”, ressaltou.
Dados foram recuperados
Desenvolvedores no X apontaram falhas de Crane no uso do Cursor, destacando que agentes de IA devem sempre operar em ambientes isolados, já que podem agir de forma inesperada. No domingo (28), a Railway conseguiu recuperar os dados perdidos e a operação retomou o curso normal, apesar da interrupção de horas causada pelo incidente.
Até o momento, a Anthropic e o Cursor não se manifestaram sobre o assunto.
Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre inteligência artificial, programação e muito mais.