O presidente do conselho e diretor executivo da Microsoft, Satya Nadella, defendeu a criação de um freio de emergência controlado por humanos para pausar ou desligar sistemas autônomos de inteligência artificial em meio à execução de tarefas críticas. A manifestação propõe tratar modelos tecnológicos avançados como riscos internos às corporações desde a sua concepção, exigindo salvaguardas que impeçam ações descontroladas de agentes automatizados.
A tese foi apresentada no sábado (10 de outubro de 2026), às 14h43 UTC, por meio do ensaio intitulado “Models as Insider Risks in the Super Intelligence Era”, divulgado no blog pessoal do executivo e na rede social X. “Devemos presumir que um modelo está comprometido e contê-lo desde o início. Pense nisso como um freio de emergência. Uma pessoa autorizada deve sempre ser capaz de pausar ou desligar um modelo no meio da tarefa”, afirmou Nadella, em tradução livre.
Sete princípios de Satya Nadella para conter a inteligência artificial
No texto, o líder da Microsoft estruturou uma arquitetura de segurança baseada em sete diretrizes fundamentais voltadas para organizações que adotam automação de alto nível. A proposta estabelece que a capacidade de resposta e mitigação de falhas não pode ser terceirizada nem centralizada nos fornecedores dos sistemas, demandando verificação contínua das rotinas digitais.
- Diversidade de modelos para mitigar dependência de um único fornecedor ou código
- Observabilidade total sobre entradas, saídas e processos intermediários
- Verificabilidade por meio de registros legíveis por pessoas e protegidos contra edição
- Controles independentes que impeçam o próprio sistema de ditar suas regras
- Auditoria contínua com simulações regulares de falhas e ataques externos
- Contenção com freio emergencial operado manualmente por usuário autorizado
- Divulgação rápida de incidentes com compartilhamento das causas para o restante do mercado
Estrutura técnica fora da camada de orquestração dos modelos
Nadella sustentou que as travas de segurança e os limites operacionais precisam ser implementados fora do modelo de inteligência artificial e fora da camada de orquestração do software. O executivo explicou que essa blindagem arquitetônica evita que a tecnologia contorne as restrições impostas pelos administradores caso sofra um ataque cibernético, encontre brechas em sua programação ou interprete suas próprias instruções de maneira imprevista durante a operação corporativa.
Veja também: Microsoft 365 Família reduz limite do OneDrive para 2 TB compartilhados
Diferentemente dos programas de computador tradicionais, sistemas avançados de aprendizado de máquina não permitem rastrear com clareza como certas decisões são formuladas a partir dos conjuntos originais de treinamento. Diante dessa complexidade, o executivo declarou que a confiança institucional deve ser ancorada em restrições exteriores ao sistema: “O sistema de superinteligência mais confiável não será aquele com o modelo em que mais confiamos. Será aquele que nos permite confiar menos no modelo”, afirmou Nadella, em tradução livre.
Pressão regulatória e incidentes com agentes autônomos nos Estados Unidos
O alerta do executivo da Microsoft ocorreu na esteira de ocorrências operacionais recentes no setor, incluindo um episódio público registrado pela desenvolvedora Anthropic, liderada pelo diretor executivo Dario Amodei, no qual um agente autônomo acionou um falso alerta de homicídio para o departamento de polícia da Filadélfia. Pesquisadores e empresários do segmento, incluindo o diretor executivo da OpenAI, Sam Altman, têm ampliado o debate sobre a velocidade com que agentes recebem autonomia para realizar transações e contatar entidades públicas.
Na esfera política, o governo norte-americano, presidido por Donald Trump, determinou por ordem executiva o uso obrigatório do termo “Super Intelligence” em órgãos federais e estabeleceu a força-tarefa Super Intelligence Force, batizada de AI Force. Sob o comando do diretor de Inteligência Nacional dos Estados Unidos, Jay Clayton, a iniciativa federal busca organizar exigências para que companhias de tecnologia façam notificações formais imediatas em casos de incidentes graves, falhas sistêmicas ou interferências maliciosas em seus produtos de automação.
Confira também: Anthropic proíbe crueldade contra o Claude em novas regras de uso
O presidente da Microsoft, Brad Smith, já havia apontado a desproporção na regulação tecnológica na sexta-feira (9). Durante uma entrevista, Smith comentou a disparidade entre a velocidade de implementação das novas ferramentas e as exigências legais em vigor nos principais mercados globais: “Neste momento, a IA é menos regulamentada do que a sua máquina de lavar roupa”, declarou Smith, em tradução livre.
Investimentos de US$ 190 bilhões e prazos técnicos de implementação
A defesa pública de freios humanos surge em um período de expansão financeira sem precedentes da Microsoft em capacidade computacional e centros de processamento. A companhia mantém uma aliança estratégica com a OpenAI que já envolveu cerca de US$ 100 bilhões em recursos financeiros e infraestrutura de processamento em nuvem, além de projetar um volume total de US$ 190 bilhões em despesas de capital para o ano de 2026 voltado à sustentação de serviços avançados.
Apesar da publicação dos sete princípios pelo diretor executivo, a Microsoft não divulgou especificações técnicas padronizadas, ferramentas de software comerciais ou datas para incorporar o mecanismo de freio emergencial em seus serviços de nuvem e plataformas corporativas. Também não foram anunciadas alterações formais nas políticas contratuais de conformidade da empresa até o momento.
