){kind=link}
Um homem é acusado de ter solicitado a geração de mais de 7 mil imagens sexualmente explícitas da enteada de 14 anos por meio do Grok a partir de uma única foto. O caso aconteceu em março deste ano, mas só se tornou público recentemente em um processo que culpabiliza a SpaceXAI (antiga xAI), responsável pelo Grok, e a Stability AI. O homem cometeu suicidio.
- Aviso de conteúdo sensível: o texto a seguir contém tópicos que podem servir de gatilho emocional para algumas pessoas, abordando relatos detalhados de exploração e abuso sexual infantil, violência digital e suicídio. Recomenda-se cautela ao prosseguir com a leitura.
Um processo movido por diversas vítimas acusa a xAI e Stability AI de terem permitido, deliberadamente, a criação de inúmeras imagens sexuais de menores de idade. Em um dos casos mais chocantes, uma jovem que não teve seu nome identificado teve mais de 7 mil dessas imagens geradas pela IA do Grok.
smart_display
Nossos vídeos em destaque
A geração do conteúdo foi realizada pelo seu padrasto, que utilizou uma fotografia comum da menina, quando tinha 11 anos. Na ocasião, a fotografia original mostrava apenas a vítima deitada no sofá de casa, vestindo uma longa blusa com uma estampa de panda na parte da frente.
Os conteúdos foram gerados por diversos dias e os autos do processo descrevem poses sexuais e até cenas de sexo entre o padrasto e a vítima menor de idade. Em alguns dos comandos solicitados pelo homem, há blocos de textos que mencionam estupros. O acusado só começou a ser investigado ao pedir imagens relacionados com “estupro coletivo”, que finalmente ativou o mecanismo de segurança do Grok.
Após ser localizado pelas autoridades, preso e solto sob fiança, o padrasto da vítima se suicidou com um tiro dias depois.
xAI teria obstruído investigação policial
Ao todo, o processo menciona pelo menos cinco vítimas que tiveram imagens sexuais geradas pelo Grok. No caso do padrasto e da menina de 14 anos, os autos indicam que após os mecanismos de segurança serem acionados e dispararem o alerta para as autoridades, a companhia se recusou a colaborar com a investigação.
É reportado que a xAI enviou às autoridades apenas a foto original da criança, omitindo todo o material gerado pela IA. A companhia também teria se negado múltiplas vezes a cooperar e fornecer o endereço de IP do usuário, que facilitaria na localização do suspeito, atrasando a investigação por semanas. Elon Musk, CEO da empresa, nega as acusações de que a IA tenha sido usada para gerar tais imagens.
)
A documentação expõe dados do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). Segundo o processo, 90% das denúncias de segurança enviadas pela xAI eram “inúteis” para a polícia, pois a empresa se recusava a incluir informações de rastreamento de usuários.
A Stability AI, famosa pelo gerador de imagens Stable Diffusion, também foi incluída no processo sob a acusação de ser o motor por trás do abuso. A ação alega que a empresa fornece a tecnologia base de código aberto que alimenta grande parte dos aplicativos focados em “desnudar” pessoas.
Por falar em inteligências artificiais, o governo dos Estados Unidos estaria utilizando a IA Mythos para mapear vulnerabilidades críticas e realizar auditorias. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.