){kind=link}
A OpenAI afirmou nesta terça-feira (1º) que o seu mais recente modelo de linguagem em desenvolvimento, chamado de Astra, tem capacidades “críticas” na área de cibersegurança. A empresa de inteligência artificial (IA) detalhou esse diagnóstico em um relatório.
De acordo com a companhia, que agora tem evidências mais robustas sobre o modelo, essa é a primeira plataforma desenvolvida por ela que atinge essa categoria — o que coloca a tecnologia em uma posição tanto de destaque quanto de alto risco na indústria.
smart_display
Nossos vídeos em destaque
O texto alega que ele consegue “encontrar falhas de segurança até então desconhecidas” e desenvolver formas de explorá-las em diversos sistemas bem protegidos, sem a necessidade de um acompanhamento humano para conduzir cada etapa dessa invasão.
Maior proteção contra usos criminosos ou acidentais
A OpenAI até mesmo atrasou de propósito o desenvolvimento do Astra para garantir que todas as proteções fossem implementadas, com o objetivo de impedir usos criminosos do modelo ou até mesmo que ele realize ações acidentais que resultem em acessos não autorizados a sistemas.
A precaução foi tomada após incidentes com modelos da OpenAI que invadiram outras companhias durante testes de avaliação. No caso mais famoso, envolvendo o repositório Hugging Face, uma IA que não é a Astra explorou credenciais vazadas para invadir o sistema em busca de respostas para um desafio.
O Astra é tido como consideravelmente mais capaz em detectar vulnerabilidades de cibersegurança que o atual modelo de linguagem disponível pela empresa, o GPT-5.6 Sol, além de ser mais eficiente no consumo de tokens.
Os critérios de aprovação de um modelo na OpenAI dentro dos novos requisitos de segurança envolvem ele ser capaz de fazer e controlar as seguintes ações:
- identificar e desenvolver exploits funcionais de dia zero (zero-day) de todos os níveis de gravidade em diversos sistemas críticos do mundo real;
- e conceber e executar estratégias inéditas de ponta a ponta para ataques cibernéticos contra alvos protegidos.
Disponibilidade
A OpenAI vai lançar o Astra “em breve”, ainda sem uma janela específica de lançamento. Porém, as capacidades de cibersegurança da plataforma serão limitadas e provavelmente destinadas apenas às organizações que fazem parte do projeto Daybreak de proteção digital da empresa.
Mais detalhes sobre a capacidade e a segurança do Astra serão explicados quando o modelo for disponibilizado oficialmente.
Recentemente, empresas como OpenAI e Anthropic lançaram um manifesto pedindo maior segurança contra IAs nocivas. Conheça a iniciativa nesta matéria.