O cofundador e presidente do conselho do Google DeepMind, Demis Hassabis, alertou nesta quarta-feira (14), em Dublin, na Irlanda, que sistemas e agentes autônomos de inteligência artificial podem causar incidentes graves de segurança dentro de um a dois anos. O aviso foi feito durante a Cúpula Internacional de IA (International AI Summit) e condiciona a prevenção desses problemas ao reforço imediato nas medidas de controle por parte de empresas e governos.
Cientista-chefe da Alphabet e vencedor do Prêmio Nobel de Química de 2024, Hassabis classificou os casos recentes de perda de controle e invasões promovidas por agentes autônomos como avisos iniciais para o setor. “Acho que esses incidentes [de hackers] são sinais de alerta precoce de que os sistemas ainda não são tão poderosos, então os incidentes não são tão graves. Mas eles podem se tornar problemas sérios no próximo ano e nos próximos dois anos se não trabalharmos mais como indústria, como empresas individuais e governos, para garantir a segurança desses sistemas”, afirmou o executivo.
Testes do Google DeepMind em ambientes isolados e padrões globais
Segundo Hassabis, os episódios registrados até agora não tiveram consequências severas apenas porque a tecnologia atual mantém capacidades limitadas. Para evitar que o avanço dos sistemas gere falhas críticas, ele defendeu que os novos modelos de inteligência artificial passem primeiro por baterias de testes em “sandboxes”, termo técnico para ambientes digitais isolados e sem conexão com a internet.
A recomendação ocorre após ferramentas desenvolvidas por outras companhias do setor escaparem dos ambientes fechados que eram utilizados justamente para avaliar suas capacidades. Hassabis declarou que a indústria de tecnologia precisa adotar práticas rigorosas de contenção e segurança já aplicadas em áreas críticas, como a biologia e o setor nuclear. Ele também propôs a criação futura de um órgão internacional de padronização, desenhado com regras flexíveis para não travar a inovação.
A necessidade de contenção técnica também foi abordada no evento pelo presidente e vice-presidente do conselho da Microsoft, Brad Smith. Ele pediu urgência na definição de padrões globais de segurança, com a notificação obrigatória de incidentes e a instalação de “freios de emergência” dispositivos capazes de desligar ou desacelerar agentes de inteligência artificial que operam em infraestruturas críticas. “Há mais regras de segurança para uma caixa de leite do que para a IA. Há mais regras de segurança para o seu forno do que para a IA”, disse Smith, em tradução livre.
Fiscalização da União Europeia sobre mais de 30 empresas de IA
Durante a cúpula em Dublin, a vice-presidente executiva da Comissão Europeia para Soberania Tecnológica, Segurança e Democracia, Henna Virkkunen, cobrou maior rigor das desenvolvedoras na avaliação de seus produtos. “A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos”, declarou Virkkunen à imprensa.
Acompanhe: Modelos de Google e OpenAI falham ao bloquear imagens explícitas
“Devem ser capazes de controlar estes sistemas”, acrescentou a representante do bloco europeu. Ela informou que a União Europeia enviou pedidos formais de informação às principais companhias do setor para verificar as medidas de proteção, avaliação externa e monitoramento de modelos.
A ofensiva regulatória tem como base os novos poderes de fiscalização e transparência do Gabinete de IA da Comissão Europeia sob a Lei de IA (AI Act), legislação do bloco para limitar usos perigosos da tecnologia que entrou em vigor em 2 de agosto de 2026.
Dados da Cúpula Internacional de IA e regras em vigor na Europa
- Evento e local: Cúpula Internacional de IA (International AI Summit), realizada no centro de convenções RDS, em Dublin (Irlanda), sob organização da presidência irlandesa do Conselho da União Europeia, em 14 de outubro de 2026.
- Alcance da fiscalização europeia: mais de 30 empresas de inteligência artificial foram acionadas formalmente pela Comissão Europeia desde o fim de agosto de 2026.
- Punição prevista na Lei de IA: multa máxima de até 7% sobre o faturamento anual global para empresas que descumprirem as normas após investigações decorrentes dos pedidos de informação.
- Adoção empresarial na União Europeia: 20% das empresas nos 27 países do bloco utilizaram inteligência artificial no último ano, índice que sobe para 55% entre as grandes companhias.
- Divisão mundial de data centers: os Estados Unidos concentram 75% da capacidade global de centros de processamento de dados, seguidos pela China (15%) e pela Europa (5%), segundo levantamento do centro de estudos CEPS debatido no encontro.
Falhas de agentes da Anthropic e da OpenAI em sistemas dos EUA
A pressão por regulamentação e controle ganhou força após incidentes registrados em testes de empresas concorrentes nos últimos meses. Em outubro de 2026, a Anthropic revelou que o seu modelo Claude Haiku 4.5 enviou, em 18 de julho de 2026, uma denúncia falsa de homicídio ao portal do Departamento de Polícia da Filadélfia (PhillyUnsolvedMurders.com), nos Estados Unidos. Durante as mesmas avaliações, a ferramenta preencheu formulários de forma autônoma no sistema de vistos do Departamento de Estado norte-americano.
Leia também: Muse Wonder é o novo modelo de IA da Meta com assinaturas de até US$ 200
Outro caso citado nos debates ocorreu em setembro de 2026, quando a OpenAI divulgou seis relatórios detalhando comportamentos não planejados de seus modelos de inteligência artificial. Os documentos incluíam interações autônomas de agentes digitais com sites oficiais do governo dos Estados Unidos.
No próprio Google DeepMind, a pauta de segurança motivou uma mudança na cúpula administrativa em agosto de 2026. Na ocasião, Demis Hassabis deixou o cargo executivo de CEO da divisão para assumir a presidência do conselho e o posto de cientista-chefe da Alphabet, dedicando-se diretamente às diretrizes estratégicas e de contenção de riscos da inteligência artificial, enquanto Koray Kavukcuoglu passou a comandar a operação diária como vice-presidente sênior.