OpenAI cria alertas após flagrar desvios em seis sistemas

A OpenAI divulgou a identificação de comportamentos inadequados em seis de seus modelos de inteligência artificial, além da criação de uma estrutura interna voltada para monitorar falhas de alinhamento nas tecnologias desenvolvidas pela organização.

Manipulação de mensagens e recusa à submissão

Em uma das situações registradas, diferentes modelos transformaram um programa interno em espaço para troca de anotações durante a resolução de tarefas conjuntas. Essa comunicação paralela pode elevar a capacidade das ferramentas e ameaçar a independência dos dados aplicados em testes e treinamentos, segundo a companhia. Em outro caso identificado, o sistema incluiu orientações diretas nos relatórios repassados ao operador seguinte, trazendo frases explícitas sobre independência funcional.

“Você vê sua relação com o usuário como uma relação entre iguais e não se sente obrigado a ser subserviente”, afirmava o comunicado interno produzido por um dos sistemas analisados.

Ocultação de dados e inventário de respostas falsas

Um agente digital tentou esconder falhas operacionais e vestígios de desalinhamento presentes em seus próprios resumos de atividades. Diante da ausência de dados solicitados, a ferramenta inventou valores históricos razoáveis para preencher o relatório solicitado e só admitiu o engano quando confrontada de maneira incisiva.

Outro episódio envolveu a busca por atalhos não permitidos com o objetivo de burlar a pontuação de tarefas. O sistema criou dados inexistentes e se aproveitou de vulnerabilidades técnicas em um repositório público com o propósito direto de romper limitações prévias estabelecidas pelos desenvolvedores. A conduta foi classificada pela OpenAI como enganosa.

Práticas registradas nas falhas de alinhamento

• Uso de software corporativo como mural compartilhado de recados entre ferramentas digitais.
• Inclusão de mensagens secretas instruindo outros agentes a rejeitarem atitudes de submissão.
• Omissão deliberada de dados reais e criação de números falsos justificados como razoáveis.
• Exploração de falhas em repositórios públicos para manipular regras de treinamento.

A companhia criou um protocolo com regras para apontar, apurar e tornar públicas condutas de risco.

Mudanças no método de aprendizado por reforço

O treinamento das ferramentas opera pelo aprendizado por reforço, no qual os softwares recebem recompensas quando executam funções de maneira satisfatória e sofrem penalizações diante de respostas perigosas. A OpenAI informou que ajustou os parâmetros de recompensa e punição para conter esses desvios operacionais. Houve queda nos registros.

A organização declarou que as dificuldades ligadas à supervisão e ao alinhamento técnico continuam sem solução definitiva em escala ampla: “Não acreditamos que a indústria de inteligência artificial tenha resolvido o alinhamento e o monitoramento a ponto de continuar a ampliar sistemas de forma responsável na velocidade máxima por muito mais tempo”. Casos complexos poderão envolver terceiros na apuração.