){kind=link}
O governo dos Estados Unidos terá acesso antecipado a novos modelos de inteligência artificial generativa avançados desenvolvidos por Google, Microsoft e xAI. A novidade foi revelada pelo Centro de Padrões e Inovação em IA (CAISI), nesta terça-feira (5).
Conforme o órgão vinculado ao Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio americano, os acordos com as big techs permitirá checar possíveis riscos à segurança nacional, nesses sistemas, antes do lançamento público. As parcerias cumprem promessa feita pela Casa Branca.
smart_display
Nossos vídeos em destaque
Investigando comportamentos inesperados
As verificações antecipadas realizadas pelas autoridades ganham força à medida que as capacidades de ponta da IA Mythos, da Anthropic, ligaram o alerta no governo Trump, como relata a Reuters. Por isso, elas querem analisar novos sistemas em busca de potenciais perigos.
- Com o trabalho, a ideia é conferir se os modelos de ponta em desenvolvimento representam ameaças como aprimoramento de ciberataques e uso militar indevido;
- O CAISI ficará responsável pelo contato direto com as gigantes da tecnologia, representando o governo na iniciativa;
- A entidade participará de testes, pesquisas colaborativas e o desenvolvimento de novas práticas associadas a sistemas comerciais de IA;
- “A ciência de medição independente e rigorosa é essencial para a compreensão da IA de ponta e suas implicações para a segurança nacional, afirmou o diretor da agência, Chris Fall, em comunicado.
Especialistas da Microsoft vão trabalhar diretamente com representantes do governo nas avaliações, à procura de “comportamentos inesperados”, como destacou a empresa em nota. Ela possui acordo semelhante firmado com o Instituto de Segurança de IA do Reino Unido.
O Google se recusou a comentar a iniciativa, enquanto a empresa de IA de Elon Musk ainda não se manifestou sobre a parceria, que pode permitir a participação de outros avaliadores governamentais.
Expandindo testes
Mais de 40 avaliações de modelos de IA, incluindo sistemas de ponta ainda não disponíveis para o público em geral, já foram realizadas pelo órgão. Vale destacar que o governo de Joe Biden possuía acordos semelhantes, assinados em 2024.
“Essas colaborações ampliadas com a indústria nos ajudam a expandir nosso trabalho em prol do interesse público em um momento crítico”, complementou Fall. Os testes são feitos usando versões de modelos com salvaguardas de segurança reduzidas ou removidas, possibilitando identificar potenciais riscos.
Curtiu o conteúdo? Siga no TecMundo e descubra os motivos que levaram especialistas e o governo a classificar a IA Mythos como perigosa para a humanidade.