){kind=link}
O CEO e cofundador do Google DeepMind, Demis Hassabis, defendeu a criação de um órgão internacional para supervisionar os modelos mais avançados de inteligência artificial (IA), com apoio do governo dos EUA. Em manifesto divulgado nesta terça-feira, 14, o executivo afirma que o avanço acelerado da tecnologia exige uma estrutura permanente de fiscalização, capaz de avaliar riscos e coordenar respostas caso sistemas de IA passem a representar ameaças significativas.
Vencedor do Prêmio Nobel e um dos principais nomes da pesquisa em IA, Hassabis apresentou a proposta no documento “Uma Estrutura para IA de Fronteira e o Alvorecer de uma Nova Era”. Em entrevista ao site Axios, ele afirmou que chegou o momento de adotar uma abordagem mais “sistemática” para regular a tecnologia, com um órgão financiado pela própria indústria, formado por especialistas técnicos e supervisionado pelo governo americano.
smart_display
Nossos vídeos em destaque
Segundo Hassabis, os riscos atuais ligados ao uso da IA em ataques cibernéticos já representam um alerta. Ele afirmou que, em cerca de 18 meses, modelos avançados poderão desenvolver capacidades relacionadas também a ameaças biológicas e nucleares, inclusive em sistemas de código aberto que escapem ao controle de governos. Apesar disso, ressaltou que os maiores riscos também estarão nos futuros modelos proprietários desenvolvidos pelos grandes laboratórios de IA.
Proposta prevê testes antes do lançamento
A estrutura sugerida por Hassabis seria inspirada na Autoridade Reguladora da Indústria Financeira (FINRA), entidade privada que supervisiona o mercado financeiro dos EUA. Pela proposta, empresas que desenvolvem modelos de fronteira compartilhariam voluntariamente seus sistemas com o novo órgão até 30 dias antes do lançamento comercial para a realização de testes de segurança voltados à identificação de capacidades consideradas perigosas, como ataques cibernéticos, manipulação, riscos biológicos e comportamentos enganosos.
Caso esse processo de avaliação se mostre eficaz, Hassabis defende que ele se torne obrigatório. Nesse cenário, modelos classificados como de fronteira precisariam receber aprovação antes de serem disponibilizados no mercado americano. O conselho da entidade seria formado majoritariamente por especialistas independentes, incluindo vencedores do Prêmio Turing, além de representantes do governo, da indústria e da comunidade de código aberto.
O executivo afirmou ainda que passou os últimos meses discutindo a proposta com integrantes do governo Donald Trump, autoridades europeias e líderes de outros laboratórios de IA. “Os sinais que tenho ouvido são muito positivos”, disse ao Axios. Segundo ele, há um entendimento crescente entre as empresas do setor de que algum tipo de regulação será necessário. “É para este caminho que a indústria precisa seguir”, afirmou.
No manifesto, Hassabis também argumenta que a IA geral (AGI), capaz de desempenhar tarefas cognitivas no mesmo nível de um ser humano, pode estar “provavelmente a apenas alguns anos de distância”. Para ele, as decisões tomadas neste momento serão decisivas para o futuro da tecnologia. “O que fizermos coletivamente agora determinará como se desenrolará a próxima fase da civilização”, escreveu. Em outro trecho do documento, acrescenta: “Basicamente, descobrimos uma maneira de fazer a areia pensar. É milagroso”.