O físico e especialista em aprendizado de máquina Roberto Pena Spinelli analisou na terça-feira (20) uma nova hipótese teórica sobre inteligência artificial que demonstra que a maioria dos neurônios artificiais exerce funções claras e interpretáveis. O estudo, publicado na quinta-feira (15) pelo pesquisador Nick Cammarata, do laboratório de interpretabilidade Goodfire, aponta que a estrutura interna das grandes redes neurais é organizada e permite auditar o funcionamento desses sistemas.

Intitulado Redes Neurais Já São Limpas, em tradução livre do original em inglês Neural Networks Are Already Clean, o ensaio de pesquisa contesta a ideia de que o funcionamento interno dos modelos avançados seja uma caixa-preta indecifrável. Ex-integrante da OpenAI, empresa que deixou em 2023, Cammarata declarou que a dificuldade anterior para ler esses sistemas vinha de problemas técnicos contornáveis. “A causa da polissemia nos primeiros organismos-modelo não era a superposição, mas vários problemas comuns, em sua maioria corrigíveis. Agora podemos entender a maioria dos neurônios em modelos de até trilhões de parâmetros, e achamos que a perspectiva para a interpretabilidade mecanicista pode ser muito melhor do que pensávamos”, afirmou o pesquisador, em tradução livre.

Saiba mais: Agentes da OpenAI desativam sistemas internos de monitoramento

Como o estudo da Goodfire dividiu os neurônios do modelo Qwen3-32B?

Foto: Empresário olhando imagem de inteligência artificial – Gorodenkoff / shutterstock.com

Para testar a teoria, a pesquisa utilizou métodos avançados baseados em agentes na análise do modelo de código aberto Qwen3-32B, desenvolvido pela empresa Alibaba. O levantamento constatou que os neurônios artificiais não operam de maneira caótica, mas seguem uma estrutura limpa na qual a maior parte das unidades executa tarefas compreensíveis quando observada com ferramentas adequadas.

Saiba mais: ChatGPT ganha novo resumo da memória para edição por texto

A avaliação detalhada das unidades do modelo Qwen3-32B, comparada ao desempenho de leitura obtido em testes anteriores da indústria, registrou a seguinte distribuição percentual de funcionamento:

• 90%: proporção aproximada de neurônios no modelo analisado que desempenham uma única função primária clara.
• 7%: parcela de neurônios avaliados no estudo que cobrem duas funções relacionadas entre si.
• 2% a 4%: fatia de neurônios que permanecem sem explicação nos achados preliminares da nova pesquisa.
• 1,7% a 2%: proporção de neurônios do modelo GPT-2 que um projeto da OpenAI conseguia explicar de forma confiável com o uso do GPT-4 e das ferramentas disponíveis na época.

Revisão da superposição e o caso do modelo InceptionV1

O trabalho de Cammarata confronta diretamente os conceitos de superposição e polissemia, termos técnicos que definem a hipótese até então dominante de que as redes neurais misturam ideias sem relação dentro de um mesmo neurônio para economizar capacidade computacional. De acordo com o pesquisador da Goodfire, a aparente confusão observada em levantamentos passados resultava de falhas arquitetônicas nos primeiros modelos e de instrumentos de visualização deficientes. Em vez de acumular dados desconexos, os neurônios se desenvolvem por um processo denominado generalização recursiva, em que a unidade começa com um foco específico durante o treinamento e se ramifica em etapas rastreáveis para conceitos relacionados.

Continue lendo: OpenAI acelera captação antes da abertura de capital da rival Anthropic

Para comprovar que ativações aparentemente sem sentido possuem lógica interna, o pesquisador reavaliou um caso clássico da área: o chamado neurônio do gato e do carro, identificado no modelo de imagem InceptionV1. Enquanto análises antigas sugeriam que a rede agrupava objetos aleatórios na mesma unidade, a nova verificação demonstrou que o mesmo neurônio disparava tanto para rostos de gatos quanto para frentes de carros porque respondia a um padrão geométrico visual compartilhado em formato triangular ou de letra V, mantendo uma função única de reconhecimento de forma.

Saiba mais: Agentes de IA como Muse e Dots geram alerta sobre dados e cartões

Histórico da interpretabilidade mecanicista e alertas na OpenAI

A evolução das pesquisas sobre o funcionamento interno da inteligência artificial, área conhecida como interpretabilidade mecanicista (mapeamento de como os dados de entrada se transformam em respostas dentro da rede), atravessou diferentes fases técnicas nos últimos anos:

• 2020: Nick Cammarata atua como coautor do artigo de interpretabilidade Zoom In, trabalho que ajudou a estabelecer a visão inicial de que circuitos neurais apresentavam conceitos sobrepostos.
• 2023: Cammarata deixa a OpenAI, mesmo ano em que o projeto da empresa sobre o modelo GPT-2 reforça a tese de que as redes eram caixas-pretas quase indecifráveis.
• Início de 2025: a interpretabilidade mecanicista é listada entre as 10 Tecnologias Inovadoras para 2026 em classificação do Instituto de Tecnologia de Massachusetts (MIT), nos Estados Unidos.
• Setembro de 2026: o cientista-chefe da OpenAI, Jakub Pachocki, emite alerta sobre o risco de modelos avançados ocultarem seu raciocínio.
• 15 de outubro de 2026: Cammarata publica o ensaio teórico Redes Neurais Já São Limpas pelo laboratório Goodfire.
• 20 de outubro de 2026: o físico pela Universidade de São Paulo (USP) e especialista pela Universidade de Stanford Roberto Pena Spinelli analisa os impactos do estudo no Brasil às 22h10.

Impacto na segurança de sistemas autônomos e próximos passos

A capacidade de decifrar os mecanismos internos dos algoritmos tem aplicação direta na segurança e no alinhamento da inteligência artificial. No alerta feito por Jakub Pachocki, o cientista-chefe da OpenAI destacou que modelos avançados podem ocultar ou reescrever seu raciocínio visível, o que eleva o risco de um sistema enganar supervisores humanos caso sua estrutura interna não seja compreendida. Com o mapeamento proposto por Cammarata, torna-se possível auditar as redes para identificar, prever e corrigir comportamentos perigosos, vieses ou tentativas de engano em sistemas autônomos.

Apesar dos resultados obtidos no modelo da Alibaba, a proposta de que quase toda a rede neural em sistemas de até trilhões de parâmetros é diretamente interpretável ainda é classificada pelo próprio autor como uma hipótese de trabalho teórica. A descoberta aguarda a publicação de um artigo técnico complementar e a revisão por validação independente da comunidade científica.