){kind=link}
A decisão do governo dos Estados Unidos de restringir o acesso aos modelos Mythos 5 e Fable 5 da Anthropic teria sido motivada por temores de que um grupo ligado à China utilizou as IAs avançadas sem autorização, segundo o site Semafor. Com isso, as tecnologias foram desativadas temporariamente na última sexta-feira (12).
O episódio começou com um alerta do CEO da Amazon, Andy Jassy, informando a altos funcionários da Casa Branca sobre uma possível vulnerabilidade no Fable 5 negada pela startup. Pesquisadores da big tech identificaram uma maneira de contornar as proteções do sistema, possibilitando usar recursos avançados da ferramenta, brecha que já teria sido explorada.
smart_display
Nossos vídeos em destaque
Possível ameaça à segurança nacional
Embora não esteja claro como o governo americano chegou à suspeita de acesso indevido ao Mythos por um grupo chinês, a administração Trump interpretou o episódio como risco ao país. O receio é de que a exploração permitisse aproveitar todas as capacidades da IA considerada “perigosa para a humanidade”.
- Isso significa usar o modelo para acelerar a detecção de vulnerabilidades em softwares e sistemas críticos, ampliando riscos cibernéticos;
- Além disso, há a possibilidade de realizar engenharia reversa do modelo pela técnica de destilação, ameaçando a segurança nacional, na visão da Casa Branca;
- Em postagem no X, o conselheiro presidencial para IA, David Sacks, falou sobre o problema sem mencionar a China e pediu à Anthropic que corrigisse o bug ou retirasse o modelo do mercado;
- Já a desenvolvedora afirma não existir a falha crítica alegada pelo governo e que não foram apresentadas evidências para a medida extrema sugerida.
Diante do impasse, o Departamento de Comércio dos EUA emitiu uma ordem de controle de exportação proibindo que cidadãos estrangeiros utilizem as IAs avançadas, mesmo que em solo americano. Pela dificuldade de executar a restrição, a startup desativou o acesso para todos, temporariamente.
Por enquanto, os modelos Fable 5 e Mythos 5 seguem indisponíveis até que a empresa e o governo estabeleçam um acordo. Segundo a Anthropic, as poderosas IAs possuem medidas de segurança eficazes para impedir usos ilícitos.
Vale lembrar que este não é o primeiro impasse entre a dona do bot Claude o governo americano. Nos últimos meses, ela foi colocada em uma lista de risco para a cadeia de suprimentos após negar a flexibilização de regras para usos militares da IA pelo Pentágono.