){kind=link}
O Secretário-Geral da ONU, António Guterres, pediu “menos empolgação e menos medo” em relação à inteligência artificial. Segundo ele, as Nações Unidas admitem que é preciso responsabilizar alguém ou uma empresa caso essas tecnologias falhem no futuro e por isso a entidade planeja consolidar um Painel Científico Internacional sobre IA.
Guterres explicou que sua mensagem é simples e além de menos medo, o ideal é que tenhamos cada vez mais fatos e evidências sobre o assunto. A Assembleia Geral da ONU confirmou 40 membros propostos para esse grupo de trabalho sobre IAs, que deve funcionar de maneira similar ao IPCC (Painel Intergovernamental sobre Mudanças Climáticas).
smart_display
Nossos vídeos em destaque
As falas foram realizadas na Cúpula de Impacto da IA, realizada na cidade de Nova Delhi, na Índia. O painel sobre IAs já havia sido inaugurado em agosto do ano passado, mas só agora parece ganhar corpo e deve ter o primeiro relatório publicado em julho. Dentre os nomes propostos está Maria Ressa, que é jornalista ganhadora do Prêmio Nobel da Paz, e Yoshua Bengio, pioneiro de inteligência artificial.
O secretário-geral das Nações Unidas pontua que a velocidade de expansão da inteligência artificial avança na “velocidade da luz” e esse ritmo supera a capacidade humana de compreendê-la e governá-la.
“Nosso objetivo é tornar o controle humano uma realidade técnica, não apenas um slogan […] Isso exige supervisão humana significativa em todas as decisões de alto risco e exige clara responsabilização, para que a responsabilidade nunca seja terceirizada ao algoritmo”, explica Guterres.
ONU se preocupa com desigualdade das IAs
A ideia central de Guterres e do painel da ONU é delimitar quem seria responsável por eventuais erros e desvios por parte das IAs. O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirma que é necessária uma estrutura para a criação de uso seguro desta estrutura.
- Türk salienta que esse tipo de tecnologia é usado para exercer poder, seja para o bem ou para o mal;
- Um dos grandes riscos das IAs atualmente é o problema da desigualdade na utilização e desenvolvimento do recurso;
- A falta de distribuição da tecnologia fará com que os algoritmos sejam infectados com vieses de grupos específicos;
- O comissário explica que é preciso exigir que as empresas façam avaliações de impacto sobre os direitos humanos antes de lançar os modelos.
Para o futuro, Volker Türk entende que o ideal seria uma descentralização do poder das mãos de algumas poucas companhias dos Estados Unidos.
“Se não apresentarmos uma visão de um mundo melhor, podemos acabar ainda mais polarizados, com guerras que não serão mais controladas por humanos. E isso é muito perigoso”, finaliza o Alto Comissário da ONU.
Nas últimas horas, a Anthropic lançou o Claude Sonnet 4.6, que traz melhorias em programação e janelas de contexto maiores. Siga o TecMundo no X, Instagram, Facebook e YouTube e assine a nossa newsletter para receber as principais notícias e análises diretamente no seu e-mail.