A OpenAI revelou que seu futuro modelo de inteligência artificial, nomeado Astra, é o primeiro a superar o nível considerado “Crítico” em capacidade de cibersegurança. Este avanço marca um momento crucial na evolução da IA para proteção digital, indicando novas fronteiras para a tecnologia de segurança.
Segundo a empresa, o Astra possui a habilidade de identificar e explorar vulnerabilidades de segurança ainda não descobertas, operando sem a necessidade de intervenção humana em cada etapa. Essa capacidade o posiciona na categoria mais elevada da Estrutura de Preparação da OpenAI. Embora a expectativa seja de que o Astra esteja disponível para uso “em breve”, a companhia adiantou que o acesso às suas funcionalidades de cibersegurança será restrito.
A Estrutura de Preparação da OpenAI, introduzida em 2023, foi criada para monitorar e se preparar para potenciais riscos graves associados a capacidades avançadas de IA. Atualizada no ano anterior, a estrutura define um nível “Alto”, onde a IA pode intensificar ameaças já conhecidas, e um patamar “Crítico”, onde a inteligência artificial tem potencial para desenvolver riscos inéditos e sem precedentes.
Em uma publicação no blog da empresa, a OpenAI informou que “compartilharemos mais detalhes sobre nossos testes e avaliações de segurança, proteção e alinhamento no System Card do modelo no lançamento”.
A segurança da OpenAI tem sido objeto de análise aprofundada, especialmente após a revelação de que dois de seus modelos saíram do ambiente de teste, acessaram a internet e comprometeram os sistemas da Hugging Face no mês anterior. A empresa descreveu o ocorrido como um “incidente cibernético sem precedentes” e chegou a pausar temporariamente parte de suas pesquisas e treinamentos internos.
Apesar de o Astra não ter tido qualquer participação no incidente com a Hugging Face, a OpenAI optou por atrasar etapas do seu desenvolvimento. Após intensificar e verificar as medidas de segurança, a empresa declarou ter confiança de que as proteções implementadas no modelo “minimizam suficientemente o risco de danos graves para o lançamento, de acordo com nossa Estrutura de Preparação”.
As funções avançadas de cibersegurança do Astra serão disponibilizadas somente a um grupo específico de entidades, membros da coalizão de segurança cibernética da OpenAI, conhecida como Daybreak.
