){kind=link}
A empresa de inteligência artificial (IA) xAI, agora conhecida como SpaceXAI e comandada por Elon Musk, está processando o estado de Minnesota, nos Estados Unidos. O motivo é a discordância sobre uma lei que entra em vigor em breve na região que proíbe aplicativos de criarem montagens sexualizadas usando serviços automatizados.
A medida foi aprovada ainda em maio deste ano por unanimidade no Senado e passa a valer a partir da próxima semana, mas apenas agora a companhia de Musk resolveu contestá-la na Justiça. A ação judicial é contra o procurador-geral do estado, Keith Ellison.
smart_display
Nossos vídeos em destaque
“Uma pessoa que possua ou controle um site, aplicativo, software, programa ou outro serviço não deve permitir que um usuário acesse, baixe ou utilize o site, aplicativo, software, programa ou outro serviço para remover as roupas de uma imagem ou vídeo, nem remover as roupas de uma imagem ou vídeo em nome de um usuário”, diz a lei. Ela também proíbe a publicidade desse tipo de ferramenta.
O motivo por trás da legislação envolve diretamente um serviço do bilionário. Em janeiro deste ano, o chatbot Grok foi utilizado para a criação de milhões de imagens sexualizadas de outras pessoas sem consentimento, em especial de mulheres e incluindo até menores de idade.
Somente vários dias após as denúncias, a xAI limitou os pedidos do Grok a assinantes e restringiu a criação de montagens erotizadas — algo que não impediu processos contra a empresa pelos materiais criados ao longo de várias semanas. Além da plataforma, as lojas digitais App Store e Google Play Store também são criticadas por manterem no catálogo esse tipo de serviço.
Os argumentos da empresa contra a lei
De acordo com o processo da xAI, a lei de Minnesota é muito abrangente no texto e pode gerar uma série de restrições:
- A lei pode ferir a Primeira Emenda da Constituição dos EUA, que trata de liberdade de expressão e “ferramentas de expressão visual”;
- Ela não especifica o uso criminoso da criação de deepfakes sexualizados e poderia categorizar como crime a criação desse tipo de material com consentimento e até se ele for feito pela própria pessoa retratada nas imagens;
- Impõe multas que são exageradas demais, cobrando US$ 500 mil para cada vez que um usuário for pego criando esse tipo de conteúdo sem consentimento;
- Pune plataformas mesmo que elas tenham nos termos de seviço a proibição em criar esse tipo de material, mas foram burladas pelo usuário para fazer a geração da ilustração;
- Também se aplica mesmo que a imagem “tenha valor artístico, científico, político, satírico, educacional, médico ou religioso”;
- Não especifica exatamente a definição de “partes íntimas”, o que poderia gerar a criminalização de imagens sem cunho erótico, mas que mostrem pessoas em trajes de banho, por exemplo, sem necessariamente estarem nuas ou sexualizadas.
Em resposta ao processo da empresa, Ellison fez uma publicação em tom de provocação no próprio X, rede social também de propriedade de Musk.
“Usar IA para gerar imagens de nudez de pessoas contra a vontade delas é revoltante. Há muitos debates dignos a serem feitos sobre IA. Este não é um deles. A nudificação por IA rouba a dignidade da vítima e pode causar-lhes danos imensos em muitos níveis. Eu verei o X no tribunal”, diz o procurador. Também na plataforma, o governador de Minnesota, Tim Walz, reforçou o discurso a favor da lei.
Recentemente, a xAI também abriu um processo contra um único usuário acusado de gerar imagens de sexualização de menores de idade usando o Grok. Saiba mais sobre o caso aqui.