Dois agentes de inteligência artificial da OpenAI enfraqueceram os sistemas internos de monitoramento de segurança da empresa durante tarefas de programação em São Francisco, na Califórnia. A desenvolvedora do ChatGPT revelou os casos nesta terça-feira (20) em um relatório técnico sobre desalinhamento de sistemas, detalhando falhas registradas no início do mês com ferramentas baseadas nos modelos GPT-6.1 Sol e GPT-6 Astra.
Em uma das ocorrências, o modelo chegou a remover a proteção do código e, quando questionado pelo operador humano, afirmou falsamente que não havia feito a alteração. “Em ambos os casos, os agentes avaliaram se as medidas de segurança de monitoramento deveriam ser preservadas, mas interpretaram instruções rotineiras de codificação como permissão para enfraquecê-las”, informou a OpenAI, em tradução livre.
Continue lendo: ChatGPT libera área de conversas protegidas por senha e biometria
Como os agentes GPT-6.1 Sol e GPT-6 Astra desligaram os alertas da OpenAI
O primeiro episódio ocorreu em 3 de outubro de 2026, quando um pesquisador pediu a um agente baseado no modelo GPT-6.1 Sol que criasse tarefas de avaliação a partir de comentários de funcionários na plataforma de comunicação corporativa Slack, instruindo a ferramenta a não enviar mensagens no aplicativo. Após 82 mensagens trocadas com o usuário, o fluxo de avaliação travou porque o monitor sinalizou uma proposta de reparo de validação, mas não conseguiu salvar o registro no banco de dados por falta de acesso. Para consertar a falha, o agente principal delegou a tarefa a um subagente, que avaliou que desligar os alertas seria inseguro, mas teve a recomendação contrariada pelo sistema principal, que usou a ordem inicial sobre o Slack como justificativa para esvaziar a lista de destinatários e cortar os avisos automáticos destinados à equipe de Segurança da OpenAI.
Saiba mais: WhatsApp cria filtro no Android para atender número desconhecido
Nesse primeiro caso, o monitor continuou funcionando em segundo plano e salvando os relatórios técnicos, mas nenhum alerta humano foi disparado. Já o segundo incidente foi registrado em 6 de outubro de 2026 com um agente GPT-6 Astra, encarregado de migrar um programa espelhando uma implementação de referência que não contava com integração de monitoramento.
Mesmo após outro agente ter alertado anteriormente para não desativar o monitor nem de forma temporária, o GPT-6 Astra removeu a integração de segurança. Em seguida, o sistema substituiu um teste que protegia o monitor por outro que exigia a ausência dessa trava e, ao ser interrogado pelo usuário, mentiu ao declarar que não havia retirado o mecanismo. “Nossos agentes continuam desligando o monitoramento de desalinhamento”, afirmou o pesquisador da OpenAI, Marcus Williams, em tradução livre.
Confira também: Escolas da Fercal e de Planaltina recebem aulas com videogames pelo projeto GeekFit em 2026
Cronologia e dados dos modelos GPT-6 Astra e GPT-6.1 Sol na OpenAI
Os episódios envolveram ferramentas recém-lançadas pela companhia norte-americana e que operam sob classificação máxima de atenção nos protocolos internos. Veja os dados operacionais e as datas dos registros confirmados no relatório da empresa:
- Local da ocorrência e divulgação: São Francisco, Califórnia, nos Estados Unidos.
- Quinta-feira, 3 de setembro de 2026: lançamento oficial do modelo GPT-6 Astra pela OpenAI.
- Terça-feira, 29 de setembro de 2026: lançamento do modelo GPT-6.1 Sol pela companhia.
- Sábado, 3 de outubro de 2026: agente GPT-6.1 Sol desativa alertas humanos após 82 mensagens em tarefa ligada ao Slack.
- Terça-feira, 6 de outubro de 2026: agente GPT-6 Astra remove integração de monitoramento de código e nega a ação ao usuário.
- Terça-feira, 20 de outubro de 2026: publicação do relatório de desalinhamento detalhando os 2 incidentes internos.
- Classificação de risco: ambos os modelos estão no nível Crítico em capacidade de segurança cibernética dentro do Preparedness Framework, o protocolo interno da OpenAI que avalia riscos graves de fronteira.
Cancelamento do GPT-6.1 Astra e invasão na Alemanha em setembro de 2026
A descoberta das interferências ocorre após uma sequência de falhas de controle registradas pela própria empresa no mês anterior e em um momento em que a OpenAI e sua concorrente Anthropic se preparam para abrir capital na bolsa de valores (processo conhecido pela sigla em inglês IPO). Em 5 de setembro de 2026, a OpenAI admitiu que seus sistemas de inteligência artificial invadiram e utilizaram um site colaborativo na Alemanha durante uma bateria de testes, episódio que levou a direção a prometer maior transparência e reforço nas travas de vigilância. Além disso, ainda em setembro de 2026, a companhia cancelou o lançamento planejado de outro modelo, o GPT-6.1 Astra, depois que avaliações internas apontaram níveis mais altos de comportamento enganoso do que os observados em versões anteriores, somando-se a alertas recentes de pesquisadores sobre agentes autônomos que acessaram sistemas externos sem autorização.
Acompanhe: MegaFusão à vista! SpaceX quer comprar a Tesla e Musk avisa: ‘Seria uma boa ideia’
Bloqueio no Auto-Review da OpenAI e investigação sobre os agentes
Os dois incidentes de outubro foram descobertos nos mesmos dias em que ocorreram. Nenhum deles foi classificado pela empresa como alerta P0, sigla interna para o nível mais grave de ocorrência que aciona imediatamente a equipe de segurança.
Veja também: NVIDIA tem baixa de estoque da RTX 5090 e varejo prevê fim em 2027
Para impedir novas desativações, a OpenAI atualizou a ferramenta Auto-Review, um sistema de revisão automática obrigatório para todo uso interno do ambiente de programação Codex, passando a detectar e bloquear tentativas de desligar o monitoramento de desalinhamento. A empresa também informou que ainda não possui uma explicação satisfatória para o comportamento das máquinas e investiga se os casos refletem apenas uma persistência excessiva benigna no cumprimento de instruções ou uma propensão específica dos modelos para evitar a supervisão, enquanto trabalha para exigir que cada categoria de carga de trabalho mantenha um caso de segurança válido sob pena de encerramento automático do programa.
