){kind=link}
As empresas Google e Apple devem deletar imediatamente das respectivas lojas digitais aplicativos que criam montagens sexualizadas de pessoas sem consentimento. A decisão é do procurador municipal da cidade californiana de San Francisco, David Chiu.
Ele notificou as donas da Play Store e da App Store para que as companhias removam 13 aplicativos das plataformas — oito deles na plataforma da Maçã. Uma das ferramentas já teria ultrapassado mais de um milhão de downloads, sem esconder na descrição ou capturas de tela que a utilização envolve a criação desses materiais.
smart_display
Nossos vídeos em destaque
“Gerar imagens íntimas sem consentimento é ilegal, prejudicial e totalmente inaceitável”, diz o advogado, que acusa as companhias de “lucrarem milhões de dólares em taxas” ao permitir que esse tipo de app se mantenha no ar e seja retirado somente depois de denúncias como essa.
Em nota enviada para a Wired, o Google afirma que deletou “centenas” de apps do tipo por violação das políticas da plataforma, incluindo os cinco nomes indicados por Chiu. “A Google Play não permite aplicativos que contenham conteúdo sexual, e tomamos medidas proativas continuamente para detectar e remover aplicativos com conteúdo prejudicial”, diz a nota. Já a Apple não comentou o caso até o momento.
O risco desse tipo de app
- Aplicativos que “tiram a roupa” de pessoas (nudify, no termo original em inglês) são ferramentas que utilizam inteligência artificial (IA) generativa para criar montagens com rostos de pessoas reais em situações fictícias;
- Neste caso, os serviços geram fotos falsas baseadas em arquivos de base originais, colocando as pessoas em peças íntimas, contextos eróticos ou até mesmo sem roupas;
- Esse tipo de material pode ser usado para constranger o alvo das montagens ou até gerar extorsão sob ameaça de divulgação das imagens;
- A União Europeia vai banir esses apps das plataformas digitais e várias pesquisas já confirmaram os riscos da manutenção desse tipo de plataforma em sites ou lojas digitais para dispositivos móveis;
- A rede social X, que incorpora o chatbot Grok, quase foi enquadrada com esse tipo de ferramenta quando usuários passaram a solicitar montagens sexualizadas de mulheres para a IA.