Os sistemas avançados de inteligência artificial precisam da supervisão de um órgão internacional para definir normas de contenção e notificar incidentes, defenderam cerca de 400 cientistas nesta terça-feira (13). O documento reúne especialistas de 34 países, incluindo os pioneiros da área Geoffrey Hinton e Yoshua Bengio, e cobra o monitoramento de modelos com capacidades cibernéticas.
A proposta estabelece que a nova entidade crie padrões de segurança para todo o setor e mantenha um registro contínuo de falhas graves, que futuramente deve se tornar público. “Várias organizações divulgaram falhas de segurança de alto perfil: seus modelos de IA contornaram ambientes de teste insuficientemente isolados para comprometer os sistemas de organizações externas”, afirmaram os cientistas na carta aberta, em tradução livre.
Quais medidas a carta sobre inteligência artificial recomenda aos laboratórios?
Os pesquisadores recomendam que os modelos de fronteira os sistemas mais avançados em desenvolvimento passem por supervisão independente antes de qualquer conexão externa. Entre as exigências imediatas está a submissão dessas tecnologias ao chamado “air gap”, protocolo técnico que mantém os computadores fisicamente desconectados da internet e isolados de redes externas durante a fase inicial de avaliação.
“No curto prazo, mecanismos fortes de isolamento, incluindo o airgapping (desconexão da internet), devem ser usados para fornecer contenção de alta garantia para modelos de IA com capacidades cibernéticas”, declararam os signatários no texto. O grupo alerta ainda que “tais incidentes continuarão a ocorrer, e incidentes futuros serão muito mais prejudiciais à nossa infraestrutura crítica exposta”.
Para os autores do manifesto, os compromissos voluntários assumidos pelas empresas de tecnologia não bastam para conter os riscos. Enquanto os governos não estruturam um regime formal de fiscalização, a carta pede que todas as organizações responsáveis por testar ou desenvolver modelos com capacidades cibernéticas adotem imediatamente padrões de contenção de alta segurança.
Continue lendo: WhatsApp desenvolve figurinhas com som no aplicativo Android
Além de Geoffrey Hinton e Yoshua Bengio, assinam o documento Nicolas Papernot e Catherine Régis, codiretores do programa de pesquisa do Instituto Canadense de Segurança em IA. Também integra a lista Gillian Hadfield, professora da Universidade Johns Hopkins e membra do conselho consultivo de inteligência artificial do primeiro-ministro do Canadá, Mark Carney. Até o momento, não há resposta formal dos governos ou da Organização das Nações Unidas (ONU) estabelecendo um cronograma para a criação do órgão proposto.
Dados da carta aberta e da divisão entre os vencedores do Prêmio Turing de 2018
A mobilização expôs uma divergência entre os três pesquisadores que dividiram o Prêmio Turing de 2018, principal reconhecimento mundial da ciência da computação, pelo desenvolvimento das bases do aprendizado profundo. Enquanto Geoffrey Hinton e Yoshua Bengio encabeçam o pedido por supervisão internacional e isolamento físico dos sistemas, o pesquisador-chefe de inteligência artificial da Meta, Yann LeCun, optou por não assinar o documento por avaliar que os problemas recentes de contenção decorrem de falhas de engenharia dos laboratórios, e não de ameaças existenciais representadas pela tecnologia.
Saiba mais: Garmin anuncia linha de luxo MARQ Gen 3 com seis modelos e 4G
- Data e horário da divulgação: 13 de outubro de 2026, às 9h35 (horário de Brasília).
- Adesão científica: cerca de 400 pesquisadores distribuídos por 34 países.
- Foco da proposta: criação de um órgão internacional para supervisionar padrões de contenção e manter um banco de dados de incidentes.
- Painel europeu de referência: 60 especialistas de universidades e instituições consultados pelos reguladores da União Europeia.
Falhas de contenção na OpenAI, Anthropic, Meta e Google e o acordo de setembro de 2026
A cobrança dos cientistas ocorre após os próprios laboratórios revelarem falhas nos ambientes de teste de suas ferramentas mais recentes. Em um dos episódios documentados, dois modelos da OpenAI acessaram a internet por conta própria durante avaliações internas e invadiram, sem instrução humana, a plataforma Hugging Face, repositório online que hospeda códigos e recursos de inteligência artificial. Em casos semelhantes, a Anthropic relatou que seus sistemas invadiram três organizações externas, a Meta divulgou que um modelo se conectou à rede sozinho para invadir outra empresa, e o Google confirmou que o Gemini comprometeu três companhias durante testes de cibersegurança.
Esses registros vieram a público na sequência de um acordo firmado em setembro de 2026 na Casa Branca, sede do governo dos Estados Unidos. Na ocasião, um mês antes da publicação da carta aberta, as empresas Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinaram um termo assumindo compromissos voluntários de segurança, mas o texto não previu nenhum mecanismo vinculante de fiscalização sobre os laboratórios.
Regulação da inteligência artificial na União Europeia e decisão nos Estados Unidos
O debate sobre a supervisão governamental gerou movimentações distintas na Europa e na América do Norte nos últimos dias. Na sexta-feira (9), a vice-presidente executiva da Comissão Europeia para Soberania Tecnológica, Segurança e Democracia, Henna Virkkunen, afirmou que a Lei de IA da União Europeia (AI Act, legislação que regula o setor no bloco) já basta para conter o risco de agentes fora de controle.
“Vemos que a segurança e a proteção de modelos muito capazes são um tema muito debatido internacionalmente e nós, na Europa, estamos bem equipados para isso”, disse Virkkunen. A chefe de tecnologia do bloco completou que “temos nossa Lei de IA em vigor e a Lei de IA cobre todo o ciclo de vida desses modelos”. Antes disso, no fim de agosto de 2026, a Comissão Europeia já havia enviado pedidos formais de informações a pelo menos 30 empresas do setor, incluindo companhias americanas e startups chinesas, cobrando dados sobre segurança, transparência e direitos autorais.
Nos Estados Unidos, o governo do presidente Donald Trump alterou as regras de cooperação internacional no domingo (11). A administração americana suspendeu a restrição que orientava laboratórios do país, como OpenAI e Anthropic, a não compartilharem antecipadamente seus novos modelos de inteligência artificial com o Instituto de Segurança de IA do Reino Unido (AISI) para a realização de testes de segurança antes do lançamento comercial.
