){kind=link}
O fundador e CEO da Anthropic, Dario Amodei, afirmou nesta segunda-feira, 27, que a empresa nunca defendeu a proibição de modelos de inteligência artificial (IA) de pesos abertos, em resposta a rumores de que estaria apoiando iniciativas do governo dos EUA para restringir tecnologias desse tipo, especialmente quando desenvolvidas por laboratórios chineses. Segundo o executivo, o debate sobre segurança da IA deve ser separado da discussão sobre modelos abertos.
Modelos de pesos abertos são sistemas de IA cujos parâmetros treinados (“pesos”) são disponibilizados para download, permitindo que desenvolvedores executem e adaptem a tecnologia em seus próprios computadores, sem depender dos servidores da empresa que a criou.
smart_display
Nossos vídeos em destaque
“Quem já leu meus textos anteriores deve saber que não considero essas proibições uma medida útil, mas deixe-me deixar claro para que não haja dúvidas: a Anthropic nunca defendeu a proibição de modelos de peso livre”, escreveu Amodei em publicação no blog da empresa.
A manifestação ocorreu poucos dias depois de o CEO da Nvidia, Jensen Huang, publicar no X (ex-Twitter) uma carta aberta assinada por empresas como Meta, Microsoft, Hugging Face, Mistral e a própria Nvidia. No documento, as companhias pedem que legisladores evitem impor “restrições prematuras” aos modelos de IA de pesos abertos.
Embora a carta não cite diretamente a China, o tema ganhou força em meio às preocupações de empresas americanas com o avanço dos laboratórios chineses e denúncias de suposto uso de técnicas como a destilação para reproduzir o comportamento de modelos concorrentes.
Segurança e disputa tecnológica
Na publicação, Amodei diferenciou os modelos de pesos abertos dos riscos que, segundo ele, representam governos autoritários. “Modelos de pesos abertos que não possuem capacidades perigosas são um bem público: não custam nada além do poder computacional necessário para executá-los e agregam valor a empresas, desenvolvedores e pesquisadores”, afirmou. Ele acrescentou que não vê empresas que utilizam modelos de código aberto, inclusive chinesas, como sua principal preocupação.
O executivo afirmou que seu receio é que países autoritários desenvolvam sistemas de IA superiores aos dos Estados Unidos para obter “superioridade militar permanente” ou ampliar mecanismos de repressão interna. Segundo Amodei, embora outros governos também despertem preocupação, o Partido Comunista Chinês (PCC) seria, em sua avaliação, o mais capaz de alcançar esse objetivo.
Amodei também voltou a alertar para riscos associados ao uso da IA em ataques biológicos e cibernéticos. Na avaliação do executivo, modelos de pesos abertos podem representar desafios maiores nesses casos, por dificultarem a aplicação de salvaguardas e o monitoramento de seu uso.
Ele ainda citou um relatório do Instituto de Segurança de IA do Reino Unido para defender que, uma vez disponibilizados, os pesos desses modelos não podem mais ser retirados de circulação, posição que contrasta com o argumento de defensores do código aberto de que modelos abertos fortalecem a capacidade de defesa da comunidade de pesquisa.
Como alternativas, Amodei defendeu medidas para limitar o acesso da China a chips de alto desempenho, ampliar o combate à destilação de modelos e criar uma estrutura internacional para testes de segurança em sistemas avançados de IA. “Acho que essa ideia está, na verdade, próxima de um consenso”, escreveu. Para ele, um sistema global de avaliações só seria eficaz com a participação de todos os países, incluindo a China. “Acho que isso pode ser possível… uma cooperação limitada em torno da prevenção de armas biológicas com IA pode ser possível porque também é do interesse da China”, afirmou.