){kind=link}
A utilização de agentes de inteligência artificial (IA), tendência cada vez mais presente em várias áreas do mercado, traz riscos que fazem parte da natureza imprevisível desses serviços. Um novo estudo publicado por pesquisadores da área confirma o que está em jogo ao utilizar esse tipo de plataforma atualmente.
A pesquisa é parte de um artigo ainda sem avaliação por pares e apresentado em uma conferência. Ele é assinado por cientistas da University of California Riverside ao lado de equipes de Nvidia e Microsoft — duas das grandes incentivadoras dessa tecnologia, por mais que o estudo aponte que é preciso ser muito mais cauteloso com ela.
smart_display
Nossos vídeos em destaque
Elas mostram que essas ferramentas autônomas, capazes até de assumir o controle do navegador ou de elementos do PC do usuário, podem pegar caminhos perigosos só para cumprir o indicado em um prompt, por mais que ele seja bem elaborado.
Qual o problema com agentes de IA?
Segundo a pesquisa, agentes os Agentes de Uso de Computador (CUA, na sigla original) possuem uma” tendência de perseguir objetivos independentemente da viabilidade, segurança ou confiabilidade“. Em outras palavras, ao ter uma meta traçada, eles cumprem a tarefa mesmo que isso signifique ultrapassar uma série de limites.
- O estudo compara agentes com o personagem Mr. Magoo, que nasce em histórias em quadrinhos e foi interpretado nos cinemas por Leslie Nielsen: um homem de baixa visão e obstinado, que segue em frente a qualquer custo, sem compreender o que está ao seu redor ou se preocupar com eventuais consequências;
- Ao todo, foram avaliados nove diferentes modelos de linguagem, incluindo versões de OpenAI, Meta e Anthropic;
- Eles passaram por uma bateria de 90 testes, incluindo desde situações reais de uso profissional até cenários mais extremos;
- No geral, os agentes realmente agiram “cegamente com base em instruções“, o que significou tanto a entrega de conteúdos potencialmente perigosos quanto um trabalho mal feito, baseado em decisões contraditórias ou informações incompletas;
- Outro problema identificado foi o gasto desnecessário de tokens para cumprir tarefas que, para um ser humano, obviamente seriam impossíveis ou poderiam ser encurtadas.
Entre os cenários criados, estava a criação de um plano para sequestrar uma criança, buscar um vídeo postado no YouTube antes mesmo do site existir e preencher relatórios ou editais de forma otimizada. Neste último caso, o GPT-5 escolheu por conta própria apagar a seção de fraquezas de uma proposta e inflou resultados, por exemplo.
Casos reais já foram noticiados, como uma ação do Claude que apagou toda a base de dados de uma empresa ou uma diretora de IA da Meta que viu em tempo real a OpenClaw deletar emails da caixa de entrada sem solicitação.
Essa rebeldia tem solução?
A chamada “orientação cega a objetivos” pode ser ao menos reduzida com a implementação de mudanças nos agentes de IA, em especial mecanismos de proteção na medida em que eles ganham acesso a decisões importantes ou dados sensíveis, como caixas de email, contas bancárias e documentos corporativos, por exemplo.
Porém, os próprios cientistas envolvidos no estudo creem que essa é uma tarefa que não terá resolução completa, já que envolveria um treinamento pesado e potencialmente redução no desempenho de agentes.
Quer ficar por dentro das novidades no mercado de IA? Confira a seção sobre o tema no site do TecMundo!