LONDRES — Reguladores da União Europeia anunciaram nesta segunda-feira uma investigação sobre a plataforma de mídia social X, de Elon Musk, após autoridades afirmarem que a empresa falhou em impedir a disseminação de imagens sexualizadas geradas por inteligência artificial.
A investigação deve intensificar o confronto entre a Europa e os Estados Unidos sobre a regulação de conteúdo online. Musk e seus aliados no governo Trump têm criticado duramente as normas da União Europeia para a internet, dizendo que elas representam um ataque à liberdade de expressão e às empresas americanas.
Influenciadores pró-Trump espalham versões falsas sobre morte em Minneapolis
Vídeos verificados e relatos contradizem publicações nas redes sociais, inundadas com conteúdo fabricado
Eu lidero a IBM Consulting; veja como empresas devem mudar para crescer com a IA
Companhias que já capturam o valor da IA estão redesenhando como o trabalho é executado
As autoridades europeias disseram que a X está sendo investigada por possível violação da Lei de Serviços Digitais (Digital Services Act), alegando que a empresa não lidou adequadamente com os “riscos sistêmicos” de integrar o chatbot de IA Grok ao seu serviço. A partir do fim de dezembro, imagens sexualmente explícitas geradas pelo Grok, inclusive de crianças, inundaram a plataforma, atraindo críticas em todo o mundo de vítimas e reguladores.
Musk já enfrentava crescente escrutínio na Europa mesmo antes da mais recente controvérsia envolvendo o Grok. No mês passado, a X foi multada em 120 milhões de euros (cerca de 140 milhões de dólares) por violar regras da Lei de Serviços Digitais relacionadas a design enganoso, transparência em publicidade e compartilhamento de dados com pesquisadores externos.
As autoridades europeias conduzem ainda outra investigação sobre o algoritmo de recomendação da X e suas políticas para impedir a disseminação de conteúdo ilícito.
“Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável pela aplicação da Lei de Serviços Digitais, em comunicado. “Determinaremos se a X cumpriu suas obrigações legais sob a DSA ou se tratou os direitos dos cidadãos europeus — incluindo os de mulheres e crianças — como dano colateral de seu serviço.”
A Comissão Europeia, o órgão executivo dos 27 países da União Europeia, não forneceu um prazo para a investigação, mas afirmou que tem autoridade para ordenar que a X faça mudanças durante o processo, na “ausência de ajustes significativos” no serviço.
Um porta-voz da X remeteu a um comunicado anterior da empresa sobre o Grok. “Continuamos comprometidos em fazer da X uma plataforma segura para todos e mantemos tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”, dizia a nota.
A nova investigação ilustra um fosso crescente entre a União Europeia e os Estados Unidos em relação à liberdade de expressão e à regulação da internet. Autoridades europeias argumentam que a falta de salvaguardas em plataformas como a X permitiu que discurso de ódio, misoginia e conteúdo violento florescessem online. Musk e o governo Trump afirmam que esforços para exigir que as empresas fiscalizem os serviços de forma mais proativa equivalem à censura.
A Lei de Serviços Digitais, aprovada em 2022, exige que as empresas enfrentem de maneira significativa a disseminação de conteúdo ilegal, cuja definição varia de país para país na União Europeia. Isso pode incluir material que tenha como alvo indivíduos com base em raça, etnia, gênero, sexualidade ou religião.
Os reguladores europeus disseram que a integração do Grok à X expôs “cidadãos na UE a danos graves”. Autoridades britânicas também estão investigando o caso.
Os problemas começaram no mês passado. Em resposta a comandos simples de usuários na X, o chatbot automaticamente criava e publicava fotos manipuladas de pessoas reais, inclusive crianças, removendo suas roupas, colocando-as em trajes mínimos ou retratando-as em situações sexualizadas.
À medida que as críticas aumentaram, a X restringiu a criação de imagens por IA do Grok a usuários que pagam por recursos premium, o que reduziu o número de imagens. Posteriormente, a X ampliou essas barreiras, afirmando que não permitiria mais que ninguém pedisse ao perfil do Grok na X “imagens de pessoas reais em roupas reveladoras, como biquínis”.
Os reguladores da União Europeia disseram que levariam em conta as mudanças de política da X durante a investigação.
c.2026 The New York Times Company
The post X, de Elon Musk, é alvo de investigação na UE por imagens sexualizadas feitas com IA appeared first on InfoMoney.