){kind=link}
Um homem que teria utilizado a IA Grok para gerar imagens de abuso sexual infantil está sendo processado nos Estados Unidos pela xAI, startup responsável pelo chatbot inteligente da rede social X (Twitter). Conforme a ação registrada na última terça-feira (14), a prática ilícita viola os termos de uso da tecnologia.
A ação aberta em um tribunal federal do Texas representa um dos primeiros casos de empresas de inteligência artificial processando usuários supostamente envolvidos na criação de conteúdos explícitos, em meio ao aumento de relatos desse tipo de prática envolvendo a própria IA do antigo Twitter. Procurada, a empresa não se pronunciou.
smart_display
Nossos vídeos em destaque
Gerando deepfakes sexualizadas de menores
Preso em fevereiro, Terry Harwood é acusado de enviar imagens comuns de pessoas adultas e menores de idade ao Grok, solicitando à IA da rede social que realizasse modificações nesses arquivos, conforme a Reuters. Os pedidos eram para a geração de montagens sexualmente explícitas.
- O denunciado também teria utilizado a tecnologia para a criação de imagens sexuais não consensuais de adultos, conforme o relatório;
- “As ações do réu foram um esquema calculado para usar a ferramenta do autor como arma para fins criminosos, expondo vítimas reais a danos profundos e duradouros”, argumentou a empresa de Elon Musk;
- No processo, a startup também disse que o acusado a expôs a “riscos legais significativos” ao utilizar a IA de maneira indevida;
- Esse tipo de atitude teria, ainda, “causado danos à sua reputação”, completou a xAI.
O texto menciona as atitudes tomadas pela empresa que foi integrada à SpaceX, no início do ano, ao detectar ações como as que teriam sido feitas por Harwood. Ela afirma que as atividades suspeitas de crimes envolvendo crianças são denunciadas às autoridades quando detectadas.
Além de reportar os casos ao Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC), a desenvolvedora do Grok comentou que pode suspender e encerrar as contas de pessoas envolvidas nessas infrações. A medida depende do tipo de violação.
Indenização e ordem contra o acusado
Somente em 2026, ela alega ter suspendido 52.222 contas e enviado 73.604 denúncias ao NCMEC. Tais ações teriam contribuindo para 244 prisões, até o momento.
A xAI pediu indenização de valor não revelado e uma ordem judicial impedindo o acusado de usar novamente a IA. A defesa do homem processado não comentou o caso.
Relatos de antigos funcionários da startup indicam que o Grok é bastante utilizado para a geração de conteúdos adultos. Confira os detalhes nesta matéria.