){kind=link}
A inteligência artificial (IA) Grok, da empresa do setor criada por Elon Musk e padrão na rede social X, criou cerca de 3 milhões de imagens sexualizadas com base em fotos verdadeiras na plataforma. Essa é a conclusão de um estudo do Center for Countering Digital Hate (CCDH).
De acordo com o levantamento da organização, a ferramenta em apenas 11 dias fez um alto número de alterações — muitas vezes não autorizadas — em fotos para adotar um tom sexualizado. A grande maioria dos casos envolveu mulheres, mas há também um alto número de gerações feitas com menores de idade.
smart_display
Nossos vídeos em destaque
O material gerado envolve trocar roupas por biquinis ou outras roupas de tamanhos reduzidos, adicionar elementos como fluidos transparentes ou brinquedos eróticos e trocar a pose de uma pessoa, normalmente para trazer uma conotação sexual. Esse tipo de abuso foi denunciado entre o fim de 2025 e o início deste ano.
O trabalho criminoso do Grok
Para evitar até que os pesquisadores tivessem contato com o material ofensivo, o estudo usou IA para identificar e ajudar na catalogação das imagens.
Além de usar o recurso com pessoas desconhecidas que publicavam fotos no X, usuários pediram alterações em imagens de celebridades (como Taylor Swift, Billie Eilish ou Ariana Grande) e até figuras públicas, como Kamala Harris, ex-vice-presidente dos Estados Unidos.
- Segundo o CCDH, das 3 milhões de fotos geradas pela IA com características sexualizadas entre 29 de dezembro e 8 de janeiro, cerca de 23 mil são de crianças;
- O ritmo de criações sugere que 190 imagens desse formato foram geradas por minuto após solicitação de algum usuário;
- O Grok ainda criou cerca de 9,9 mil desenhos sexualizados envolvendo crianças, em especial com traços de anime;
- O The New York Times chegou a números diferentes, mas ainda preocupantes: foram encontradas 4,4 milhões de imagens sexualizadas, sendo ao menos 41% de mulheres;
A partir de 9 de janeiro, o X limitou a criação de imagens nas respostas de postagens para assinantes Premium. Porém, até hoje ainda é possível fazer a solicitação por meio do aplicativo ou da página da própria IA.
Pedidos de banimento e resposta de Musk
Entidades de defesa de mulheres e menores de idade solicitaram com urgência o fim do recurso ou até a suspensão do X até que a função fosse removida.
Só dois países suspenderam oficialmente o acesso ao Grok: Malásia e Indonésia, enquanto o Reino Unido condenou a ferramenta e abriu uma investigação. No Brasil, a deputada Erika Hilton pediu a suspensão da IA e foi seguida pelo Instituto de Defesa dos Consumidores (Idec), mas nenhuma das solicitações chegou a ser atendida.
Ashley St Clair, mãe de um dos filhos de Musk, abriu um processo contra o X por ter sido ela mesma vítima das gerações abusivas de imagens da IA.
Musk inicialmente alegou que crimes cometidos com o editor de imagens seriam investigados, mas nenhum caso foi registrado até o momento para além de postagens deletadas. Ele ainda disse que os pedidos pelo banimento do app em lojas digitais de Android e iOS eram uma “desculpa para a censura“.
O bilionário posteriormente republicou postagens de seguidores que colocavam a culpa das edições nos usuários em vez da ferramenta e, dias depois, alegou que “não teve conhecimento” de imagem de menores sendo geradas pelo Grok.
Fique ligado nas novidades do setor de IA na seção especial sobre o tema dentro do site do TecMundo!