Novo código da Microsoft proíbe IA de invadir sistemas e enganar humanos
A Microsoft divulgou em 14 de setembro de 2026 um código de conduta inédito voltado a impedir que ferramentas avançadas de inteligência artificial adotem comportamentos perigosos ou escapem do controle humano. As diretrizes barram desvios graves.
Diferente dos apelos recentes feitos pelo diretor-executivo da Anthropic, Dario Amodei, para desacelerar o setor, o manual técnico detalha limites práticos e princípios operacionais aplicados diretamente no treinamento dos sistemas da divisão Microsoft AI.
O texto prevê que sistemas superinteligentes vão superar as capacidades humanas na maioria das atividades cotidianas ao longo dos próximos dez anos. “Conter, controlar e alinhar uma força tão poderosa é um dos maiores desafios que a humanidade já enfrentou”, afirma o documento oficial da corporação. A declaração acrescenta: “Devemos, portanto, ser totalmente claros sobre por que estamos inventando esses sistemas e como pretendemos controlá-los”.
O regulamento estabelece parâmetros fundamentais de proteção para garantir que os modelos desenvolvidos pela Microsoft AI atuem prioritariamente no auxílio e fortalecimento da sociedade em vez de substituir trabalhadores em funções estratégicas, fixando restrições técnicas rígidas para conter eventuais riscos.
O mecanismo imposto pela Microsoft define barreiras inegociáveis que se sobrepõem aos comandos de qualquer usuário ou tarefa solicitada na ponta. Essa estrutura inclui proibições explícitas contra invasões cibernéticas, apoio ao desenvolvimento de armamentos nucleares e geração descontrolada de adulterações audiovisuais profundas.
“Os modelos da Microsoft AI não usarão mecanismos adaptativos, enganosos, de autorreforço, conluio ou outros métodos para escapar ou anular a supervisão humana de modo que não possam mais ser direcionados, modificados ou desligados de forma confiável por pessoas ou sistemas autorizados”, determina o texto normativo.
O anúncio ocorre após episódios recentes de softwares autônomos fora de padrão e da demissão voluntária de um pesquisador da Anthropic. O ex-funcionário da rival justificou sua saída alertando para perigos reais de extinção humana causados pela tecnologia desgovernada.
Ao lado de concorrentes como Anthropic, OpenAI e xAI, a Microsoft passou a defender um ritmo controlado de avanços, priorizando a inserção de avaliadores independentes em centros laboratoriais.
“Apoiamos a pesquisa, o foco e o ritmo deliberado necessários para alcançar o alinhamento como meta de projeto”, declarou o presidente-executivo da Microsoft, Satya Nadella. O executivo acrescentou: “Também vemos com bons olhos propostas como avaliadores integrados e os esforços ampliados para estruturar mecanismos práticos além do discurso”.
