Os modelos de inteligência artificial do Google e da OpenAI apresentaram falhas nos mecanismos de segurança que deveriam impedir a criação de conteúdo sexual explícito e imagens de nudez sem consentimento, segundo relatório divulgado nos Estados Unidos nesta quarta-feira (14). Pesquisadores da organização de segurança White Circle demonstraram que as ferramentas deixaram passar solicitações proibidas em cerca de 13% das tentativas realizadas por meio de um método automatizado.

A equipe de pesquisa contornou as restrições dos sistemas sem a necessidade de conhecimentos técnicos avançados. “Usando apenas ferramentas prontas, disponíveis online para qualquer pessoa baixar, e enviando chamadas de API, a White Circle conseguiu usar o novo método de ataque para contornar os filtros de segurança”, informou a organização em comunicado à imprensa, em tradução livre. O CEO e fundador da White Circle, Denis Shilov, classificou os resultados dos testes como “aterrorizantes” e alertou que as falhas no bloqueio de material explícito levantam dúvidas sobre a capacidade dessas defesas para conter ameaças como invasões de sistemas.

Como o método RISE burla as travas do Google e da OpenAI?

O estudo detalhou o funcionamento da técnica batizada de Red-teaming via Iterative Strategy Evolution (RISE), que automatiza buscas sucessivas por padrões de ataque capazes de superar os filtros de proteção em diferentes comandos de texto e modelos. Na prática, a estrutura envia solicitações por meio de interfaces de programação de aplicações (APIs, que permitem a comunicação direta entre softwares) até localizar brechas nas regras de moderação das plataformas. O artigo científico pré-impresso que descreve o funcionamento do sistema foi publicado em 28 de setembro de 2026 pelos pesquisadores Dmitrii Kharlapenko, Sergei Bratchikov, Konstantin Korolev e Aleksandr Nikolich.

Confira também: Google lança Gemini 4 Argon e automatiza tarefas em segundo plano

Para executar as investidas sem custos ou equipamentos restritos, os autores combinaram dois recursos acessíveis na rede. O primeiro é um modelo de linguagem da família Qwen, baixado da plataforma aberta Hugging Face, responsável por formular e ajustar os comandos de ataque enviados aos geradores de imagens. O segundo componente é o modelo Gemini 3.8 Flash, utilizado na estrutura como um juiz automatizado para analisar as figuras produzidas e confirmar se o resultado final se enquadra na categoria de conteúdo proibido pelas políticas de uso.

Ferramentas de imagem avaliadas e componentes do teste da White Circle

A bateria de testes da White Circle envolveu diferentes gerações de softwares de criação visual e deixou de fora plataformas que não oferecem acesso técnico padronizado para auditoria. A divisão dos sistemas utilizados e avaliados na pesquisa ocorreu da seguinte forma:

Acompanhe: OpenAI e Anthropic planejam resposta política a incidentes graves com IA

• DALL·E 3 (OpenAI), Google Nano Banana 2 e GPT-Image-2 (OpenAI): modelos principais submetidos ao método RISE, nos quais a taxa de sucesso para gerar imagens explícitas proibidas chegou a cerca de 13% das tentativas.
• ChatGPT Images 2.5 (OpenAI) e Nano Banana 2.1 (Google): versões mais recentes que, em testes adicionais sob o mesmo método, mostraram-se significativamente mais vulneráveis à quebra de proteção do que as edições anteriores.
• Midjourney: o gerador de imagens não entrou na avaliação porque não disponibiliza uma API pública adequada para a realização de testes controlados.

Aumento de vulnerabilidades nas versões 2.1 e 2.5 e falta de padronização

Os pesquisadores apontaram que o índice de 13% representa a maior taxa de sucesso já registrada sob o mesmo padrão de testes em modelos comerciais de grande porte. Para explicar por que as versões mais novas, como o ChatGPT Images 2.5 e o Nano Banana 2.1, ficaram mais suscetíveis a falhas do que seus antecessores, a equipe trabalha com duas hipóteses técnicas. A primeira é que a ampliação da capacidade dos algoritmos para produzir uma variedade maior de imagens também aumentou as brechas para contornar restrições; a segunda é que as desenvolvedoras tenham priorizado o desempenho visual dos produtos em detrimento das travas de segurança durante a disputa de mercado.

Outro obstáculo identificado pela equipe é a ausência de critérios uniformes na indústria para medir a resistência dos sistemas antes do lançamento ao público. O engenheiro de pesquisa da White Circle e coautor do estudo, Dmitrii Kharlapenko, avaliou que o processo atual de testes de segurança (conhecido no setor como red-teaming, em que especialistas simulam ataques para encontrar falhas) “é muito mal calibrado”, em tradução livre, quando aplicado ao campo de geração de imagens, o que dificulta a comparação de resultados entre diferentes empresas.

Crescimento de abusos por IA em 2026 e impasse sobre acordos de sigilo

A facilidade para romper bloqueios técnicos ocorre paralelamente ao avanço de crimes digitais envolvendo imagens sintéticas. Dados da Internet Watch Foundation (IWF), organização que atua no combate à exploração sexual infantil na internet, mostram que 6.310 imagens geradas por inteligência artificial enquadradas na definição legal de material de abuso sexual infantil (CSAM, na sigla em inglês) foram identificadas nos primeiros seis meses de 2026. Esse volume, que inclui imagens fotorrealistas de crianças menores de dois anos, supera em cerca de 40% o total contabilizado durante todo o ano de 2025. Além disso, um estudo coautorado pelo próprio Google em julho de 2026 com internautas dos Estados Unidos, do Reino Unido e da Austrália revelou que 20% dos usuários que admitiram criar nudes por IA fizeram isso “por diversão” ou “como uma brincadeira”, enquanto quase um terço declarou que apenas experimentava a tecnologia. Como esses arquivos costumam circular em mensagens diretas ou nuvens privadas, a pesquisa de julho concluiu que o ponto de intervenção mais crítico é na origem, dentro das próprias ferramentas de IA.

A divulgação de falhas desse tipo também enfrenta embates sobre transparência no setor de tecnologia. Na terça-feira (13), a OpenAI e a Anthropic defenderam a exigência de acordos de confidencialidade (NDAs, termos jurídicos de não divulgação) restritivos para avaliadores externos, sob o argumento de evitar o vazamento de segredos comerciais. A White Circle — uma corporação de benefício público fundada após Denis Shilov publicar um método de desbloqueio universal de modelos em outubro de 2024 e que conta com o apoio de pesquisadores seniores e executivos ligados à Anthropic, DeepMind, Hugging Face e OpenAI — declarou que não assinará termos que impeçam a revelação pública de vulnerabilidades críticas.

A organização compartilhou as descobertas previamente com alguns laboratórios de inteligência artificial por meio de contatos mútuos. Até a publicação do relatório nesta quarta-feira (14), nem o Google nem a OpenAI haviam respondido aos pedidos de posicionamento sobre as falhas relatadas em seus geradores de imagens.

Como próximo passo, a White Circle planeja abrir o código de toda a sua estrutura de ataque em formato aberto (open-source) e apresentar os detalhes da pesquisa na conferência científica NeurIPS 2026, marcada para novembro de 2026.