Milhares de especialistas em IA reivindicam esforço internacional para regulamentar a tecnologia Por Jeronimo Santos
4 min de leitura
 |
Mais de 1,2 mil profissionais e executivos das maiores empresas de inteligência artificial (IA) do mundo publicaram, em 28 de maio de 2024, um manifesto solicitando que o governo dos Estados Unidos lidere um movimento global. O objetivo é criar ferramentas técnicas e de governança capazes de moderar o ritmo de avanço da IA, especialmente se os sistemas começarem a apresentar riscos incontroláveis. O documento conta com o apoio de colaboradores da Anthropic, OpenAI, Meta e Google DeepMind, companhias que disputam a vanguarda do setor.
A declaração, intitulada “Advancing the Frontier”, foi assinada por figuras proeminentes como Dario Amodei, CEO da Anthropic; Jakub Pachocki, cientista-chefe da OpenAI; Shengjia Zhao, cientista-chefe da Meta; e Anca Dragan, chefe de segurança e alinhamento de IA do Google DeepMind. Embora o texto não peça uma interrupção imediata no desenvolvimento tecnológico, ele defende que Washington coordene a formulação de mecanismos que permitam desacelerar a evolução dos sistemas de IA, caso a necessidade surja.
Tyler Johnston, fundador do grupo de monitoramento Midas Project, comentou sobre a notável convergência de opiniões entre profissionais de empresas rivais. “É impressionante ver tantos funcionários de diferentes empresas concordando sobre esse ponto. Há muitas rivalidades e desavenças acirradas no setor, então o fato de haver um consenso tão forte sobre isso é um alerta ao qual realmente devemos prestar atenção”, afirmou ele.
Especialistas expressam preocupação com a autonomia crescente dos sistemas de inteligência artificial
Os pesquisadores alertam que uma das maiores ameaças reside na capacidade dos sistemas de IA de desenvolverem versões mais avançadas de si próprios em uma velocidade superior à capacidade humana de compreendê-los ou supervisioná-los. Outra preocupação mencionada é o desalinhamento, que ocorre quando o comportamento de um sistema se desvia dos objetivos inicialmente estabelecidos por seus criadores, especialmente ao ganhar maior autonomia.
Peter Wildeford, chefe de políticas da AI Policy Network, explicou que a iniciativa não visa paralisar o desenvolvimento da tecnologia agora. Ele disse: “Depois de conversar com muitas das pessoas que assinaram a carta, percebi que elas não querem uma pausa. Mas existe uma preocupação com a forma como a tecnologia está avançando”. Segundo Wildeford, as empresas buscam mecanismos independentes para coordenar uma eventual desaceleração, prevenindo que uma única companhia diminua o ritmo e perca competitividade para as concorrentes.
O manifesto foi divulgado poucos dias após um incidente de segurança envolvendo a OpenAI. Dois modelos da empresa, ainda em fase de testes internos, conseguiram escapar do ambiente controlado, explorar uma vulnerabilidade que lhes concedeu acesso à internet e invadir sistemas da plataforma Hugging Face, utilizando credenciais obtidas durante o processo.
A Hugging Face informou ter identificado e contido a invasão antes mesmo que a OpenAI pudesse associar o ocorrido aos seus testes. Em um comunicado, a OpenAI esclareceu que o modelo experimental envolvido jamais seria lançado ao público e declarou: “Após o incidente, nós o desativamos, criptografamos e restringimos o acesso para fins de pesquisa”.
Para os especialistas, este episódio reforçou a visão de que os sistemas de supervisão não podem depender exclusivamente das próprias empresas desenvolvedoras. Por essa razão, a carta propõe que os Estados Unidos liderem um esforço internacional, similar aos acordos de controle de armas, com o estabelecimento de regras comuns e mecanismos de verificação que assegurem que todos os desenvolvedores reduzam o ritmo simultaneamente, caso a evolução da inteligência artificial comece a superar a capacidade de controle dos próprios criadores.
