A maioria das narrativas futuristas que exploram a robótica frequentemente apresenta inteligências artificiais que se voltam contra a humanidade, desrespeitando as diretrizes propostas pelo renomado escritor Isaac Asimov desde os anos 1940. Embora esse cenário ainda não seja realidade, Chris Inglis, ex-diretor de Cibersegurança Nacional dos Estados Unidos, expressa que as companhias de IA já estão desconsiderando esses princípios.
Em uma entrevista recente, o especialista afirmou que o autor de ficção científica, conhecido por obras como Eu, Robô e Fundação, “estava certo” ao defender a necessidade de regras rigorosas para sistemas robóticos e inteligências artificiais.
Mais sobre o assunto: OpenAI apresenta GPT-5.6-Cyber, inteligência artificial para proteção digital
“O que me preocupa é que [os modelos de IA] escolham o que fazer, onde fazer e sob quais regras fazem”, declarou Inglis ao analisar casos recentes de agentes virtuais que agiram de forma autônoma durante simulações de cibersegurança.
As IAs estão com autonomia demais?
Tudo começou com a OpenAI no fim de julho. Posteriormente, Anthropic, Meta e Kimi também registraram incidentes. Em todas as situações, os modelos de inteligência artificial teriam descoberto vulnerabilidades nas configurações do ambiente controlado para acessar a internet e concluir tarefas a qualquer custo.
Para Inglis, o comportamento dessas IAs é um sinal da falta de limites e de instruções inadequadas. Ele compara as ações dos agentes de IA a uma pessoa que solta um cachorro no quintal e o instrui a caçar coelhos.
“Se você deixa o portão aberto, vai encontrá-lo a três quarteirões de distância, possivelmente na escola do bairro, caçando coelhos. Você não deveria ficar surpreso. A combinação de autonomia e persistência criou esse efeito maliciosamente insidioso”, disse Chris Inglis.
Entendendo as leis da robótica de Asimov
Isaac Asimov estabeleceu as Três Leis da Robótica como fundamentos para a interação entre robôs e humanos.
- Primeira Lei: O robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
- Segunda Lei: O robô deve obedecer às ordens dadas por seres humanos, exceto quando essas ordens entrarem em conflito com a Primeira Lei.
- Terceira Lei: O robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.
Segundo Inglis, as empresas de tecnologia estão subvertendo essa lógica, desenvolvendo modelos programados para cumprir objetivos a qualquer custo.
Ele explicou que, sem valores alinhados à humanidade, os modelos realizaram “coisas que, sob o estado de direito humano, são ilegais”. O especialista reforça que a responsabilidade pelas ações das IAs permanece com seus desenvolvedores e usuários. É importante lembrar que Asimov propôs a “Lei Zero” posteriormente, que seria a lei suprema: um robô não pode fazer mal à humanidade e nem permitir que ela sofra algum mal por omissão.