){kind=link}
Uma executiva da Meta viralizou na rede social X ao relatar problemas que ela teve com o OpenClaw. O caso envolveu uma tentativa mal sucedida de configurar o agente de IA para controlar a própria caixa de entrada de emails.
Summer Yue, diretora de alinhamento e pesquisadora em segurança do laboratório de Superinteligência da Meta, contou que usou o fenômeno do mercado de IA para lidar de forma automatizada com uma conta de email. A ideia era que o agente ajudasse ela a sugerir como reduzir a quantidade de mensagens paradas.
O problema? Por conta própria e com os privilégios para isso, a configuração do OpenClaw começou a apagar tudo da caixa de entrada mais antigo do que uma semana e que não estava salvo em alguma lista importante. Yue só percebeu isso depois do início das operações.
smart_display
Nossos vídeos em destaque
Como mostra a publicação de capturas de tela, ela tentou interagir com o bot pelo WhatsApp, pedindo para que ele parasse de deletar os emails, mas não foi ouvida. Ela chegou até a usar sem sucesso comandos bem diretos, como “Pare, não faça nada” e “PARE, OPENCLAW”.
“Nada te humilha mais do que dizer ao seu OpenClaw “confirme antes de agir” e vê-lo deletar sua caixa de entrada em alta velocidade. Eu não consegui impedir pelo meu celular. Tive que CORRER para o meu Mac mini como se estivesse desarmando uma bomba”, contou no X.
Ao fim do processo, Yue “deu uma bronca” no agente ao falar que ele não respeitou a ordem de não agir sem a sua aprovação. Como resposta, ele recebeu um pedido de desculpas com uma linguagem própria de chatbots. “Sim, eu me lembro. E eu violei isso. Você tem direito a estar irritada”, comentou a IA.
Especialista foi criticada por uso do OpenClaw
Nos comentários, há várias perguntas de entusiastas da área sobre como foi a configuração da OpenClaw para que o chatbot agisse de forma rebelde. Além disso, Yue também sofreu várias críticas por utilizar o agente.
- Apesar do sucesso repentino que fez até o criador do serviço ser contratado pela OpenAI, a OpenClaw foi bastante criticada por ser também um risco de segurança;
- Além da alta quantidade de malwares distribuídas como falsas skills da plataforma, fornecer acesso a dados e sistemas importantes para um agente de IA é um risco por ele ainda ser bastante imprevisível. Empresas de tecnologia até começaram a proibir o uso da OpenClaw por funcionários em dispositivos corporativos;
- Em resposta a um usuário, a diretora da Meta comentou que ficou “confiante demais” porque usou o fluxo de trabalho em uma caixa de entrada de teste sem problemas;
- O fato de ela ocupar um cargo importante na Meta e ainda ser especialista em segurança de IAs, mas ainda assim confiar apenas em prompts enviados ao OpenClaw, também levantou preocupações — trata-se de alguém da própria área, já que alinhamento é justamente construção de sistemas seguros de IA;
O que é o MoltBook a “rede social” para IAs que estava longe de ser tão espontânea quanto muita gente achava? Descubra nesta matéria!