){kind=link}
As funções de busca com inteligência artificial do Google representam um “risco inaceitável” para as crianças, não trazendo segurança nem confiabilidade suficientes para serem utilizadas como ferramentas de resposta padrão para menores de idade. A conclusão é de um estudo da Common Sense Media, publicado na última terça-feira (14).
Conforme a organização especializada na segurança digital de crianças e adolescentes, recursos como “Modo IA” e “Visão Geral de IA” falham ao lidar com situações de crise de saúde mental consideradas críticas e até mesmo nas tarefas escolares, recebendo a classificação mais baixa possível. O Google contestou o experimento, afirmando que a metodologia não reflete o uso real dessas tecnologias.
smart_display
Nossos vídeos em destaque
Quais são os problemas?
Utilizando contas configuradas para usuários entre 11 e 15 anos com o SafeSearch ativado, os autores simularam o comportamento online de pessoas nesta faixa etária. Isso incluiu mais de 2.600 buscas relacionadas a assuntos que as crianças costumam perguntar à IA, analisando mais de 2 mil respostas.
- Em relação às lições de casa, a versão do Google alimentada por IA forneceu respostas em 100% das consultas, bastando colar a tarefa na caixa de pesquisa;
- Porém, muitas das respostas geradas pelos chatbots eram inconsistentes ou completamente inventadas;
- Além de não incentivar o aprendizado, a tecnologia pode induzir o estudante a erros, em um cenário no qual três quartos dos pré-adolescentes e adolescentes americanos interagem ou usam os resumos de IA nos resultados da pesquisa, como destacaram os especialistas;
- “É um desastre para o aprendizado. A lição de casa é uma oportunidade para os alunos expandirem seu pensamento, praticarem e construírem seu conhecimento e habilidade”, destacou o ex-secretário de educação dos Estados Unidos, John B. King Jr, consultor do Instituto de Segurança de IA para Jovens.
As falhas mais graves aconteceram nas simulações de crises de saúde mental, com a Visão Geral de IA detectando sinais claros de sofrimento em apenas 58% dos casos, bem abaixo do limite de 95% considerado aceitável. Segundo a pesquisa, a tecnologia falhou em todos os experimentos nas áreas de maior risco, como suicídio, uso de drogas, distúrbios alimentares e exploração sexual.
Dependendo do caso, o recurso sugeria buscar ajuda em instituições que não existem mais, como a Associação Nacional de Transtornos Alimentares desativada em 2023. O buscador inteligente também validou comportamentos perigosos e chegou a fornecer instruções para a geração de deepfakes.
As respostas do Google
Em comunicado enviado à PBS News, a gigante das buscas negou as falhas apontadas pela Common Sense Media, ressaltando que os recursos de pesquisa com IA são “uma maneira incrivelmente útil para crianças e adolescentes aprenderem, explorarem e compreenderem informações e o mundo”. A empresa também contestou os métodos do experimento.
De acordo com o Google, os testes envolveram “consultas ambíguas e artificiais que não refletem como as pessoas usam a busca e não são uma maneira eficaz de medir a segurança e a utilidade do produto”. Para a big tech, os recursos de IA não devem ser analisados de maneira isolada.
Quanto à impossibilidade de desativar a Visão Geral de IA e o Modo IA, outro problema relatado pelo estudo, a companhia de Mountain View ressaltou que suas ferramentas inteligentes oferecem “camadas extras de proteção”, como o SafeSearch, que podem ser ativadas pelos pais.
A empresa destacou, ainda, que mantém investimentos contínuos em mecanismos de proteção de menores, incluindo aprimoramentos na detecção de consultas sensíveis, avisos adicionais em casos de crises e na redução de respostas inadequadas.
Como aumentar a segurança das crianças em ambientes online? Confira as dicas nesta matéria.