IA pode ter vontade própria ou se voltar contra os humanos? Entenda o que dizem os especialistas

Diretivos de empresas de tecnologia registraram divisões públicas sobre a velocidade de expansão dos sistemas computacionais e os perigos operacionais dessas ferramentas. Os executivos expuseram posições divergentes sobre a necessidade de interromper o avanço das pesquisas.

Dario Amodei, diretor executivo da Anthropic, abriu o debate ao publicar um documento sobre os riscos dos modelos digitais, recebendo apoio formal de Sam Altman, líder da OpenAI, de Elon Musk, proprietário da xAI e da rede X, e de Demis Hassabis, que comanda a Google DeepMind.

Mark Zuckerberg, diretor executivo da Meta, rejeitou a tese de desaceleração, alinhando-se a Jensen Huang, líder da fabricante de chips Nvidia. O presidente dos Estados Unidos, Donald Trump, também criticou qualquer interrupção nas pesquisas do segmento tecnológico.

Capacidade técnica afasta hipótese de consciência própria

Edney Souza, professor da ESPM, explicou que esses sistemas operam apenas com o preenchimento de correlações numéricas baseadas em arquivos previamente fornecidos para a máquina.

A tecnologia necessita de bases extensas formadas por textos, fotografias e gravações para localizar sequências lógicas e produzir respostas. O sistema apenas processa dados.

“Tudo que parece comportamento estranho ou mentira é uma ideia emprestada da própria base de treinamento, ou seja, dos dados e informações usados para treinar a tecnologia”, disse Edney Souza.

Diogo Cortiz, docente da PUC-SP, afirmou que a ferramenta carece de autoconsciência e não apresenta condições biológicas ou cognitivas para planejar rebeliões contra pessoas. “O que pode acontecer é que esses modelos estão, de fato, ficando cada vez maiores, resolvendo tarefas mais longas e complexas”, declarou o professor universitário.

Cortiz explicou que eventuais ordens contrárias a princípios coletivos decorrem estritamente da arquitetura computacional dos programas, sem qualquer motivação rebelde consciente por parte do maquinário.

Edney Souza afirmou que as plataformas computacionais já superaram a capacidade cerebral das pessoas em armazenamento de memória, rastreamento de fluxos repetitivos e redação massiva de documentos. O avanço técnico nessas funções específicas permanece contínuo no setor corporativo.

“Em tarefa que não depende de emoção, ela vai continuar ficando superior em cada vez mais domínios, e isso é rápido”, afirmou o docente.

Izabela Anholett, fundadora da Nura AI, relatou preocupações com a utilização indevida de ferramentas digitais para a formulação de vírus biológicos em 2026. “Eu não acredito que, sozinha, a IA iria exterminar toda a humanidade. Mas causar danos em larga escala, sim. A gente pode ter uma ameaça, uma nova bomba que ninguém conhece”, declarou a especialista.

“Mas, de novo, não é a IA por si só, mas o ser humano por trás dela para criar isso”, completou Izabela Anholett.

Fatores econômicos e disputas industriais motivam pedidos de freio

Diogo Cortiz informou que as preocupações do mercado decorrem diretamente do ganho de eficiência das ferramentas modernas na solução de tarefas demoradas. A velocidade dessas operações desafia os limites do setor.

A mobilização em torno de uma moratória técnica também envolve estratégias de reserva corporativa para frear competidores que disputam a hegemonia da indústria global.

“Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, afirmou Diogo Cortiz. O pesquisador avaliou os discursos institucionais emitidos pelos conglomerados privados.

Cortiz apontou quatro pontos econômicos e estruturais que pressionam as decisões de desenvolvimento das empresas de tecnologia nos Estados Unidos:

• Restrição energética para alimentar os centros de processamento de dados que operam em ritmo de expansão mais lento do que o projetado nos Estados Unidos.
• Demora na recuperação dos valores investidos nos projetos de automação para justificar novos aportes financeiros corporativos.
• Crescimento dos sistemas desenvolvidos na China com custos operacionais menores e desempenho semelhante aos produtos norte-americanos.
• Criação de barreiras regulatórias que protegem grandes empresas consolidadas e restringem a entrada de novos desenvolvedores independentes.