Secretário-geral da ONU destaca relatório inaugural sobre inteligência artificial, alertando para desafios e oportunidades globais

Um relatório inédito da Organização das Nações Unidas (ONU) divulgou na quarta-feira novas descobertas científicas e abordagens para o uso da inteligência artificial (IA). Este material representa a primeira avaliação global e independente sobre as perspectivas, perigos e impactos da tecnologia, elaborada por um painel pioneiro de especialistas da entidade. A urgência de criar regras compartilhadas foi um ponto central, com a ONU alertando que a falta de governança global pode reduzir a influência de governos e cidadãos sobre os rumos da IA.

Relatório da ONU detalha as principais áreas de impacto da IA

O documento da Organização das Nações Unidas estrutura suas descobertas em sete eixos fundamentais:

• A ciência da IA, seus progressos e direções futuras
• Aplicações sociais em campos como ciência, saúde, educação e agricultura
• As implicações econômicas da tecnologia
• Questões de segurança, sistemas e impactos ambientais
• Aspectos de direitos humanos, informação e democracia
• Benefícios culturais, autonomia e segurança infantil
• Estruturas de gestão, governança e confiabilidade da IA

Ao apresentar o material, António Guterres, secretário-geral da ONU, ressaltou a disponibilidade do conhecimento científico. “A ciência está aqui. Não podemos mais dizer que não sabíamos. O que faremos com ela agora depende de todos nós”, afirmou Guterres.

O líder da organização internacional destacou que a ausência de normas globais para a inteligência artificial pode reduzir a capacidade de governos e cidadãos de influenciar seus desdobramentos futuros. Sua mensagem aos líderes mundiais foi direta: “Não esperem”.

A iniciativa de estabelecer o Relatório Preliminar do Painel Científico Internacional Independente sobre IA foi motivada pela necessidade de um consenso sobre o tema em um período crucial. Trata-se do primeiro órgão científico global e totalmente independente dedicado a avaliar os reais impactos da inteligência artificial em economias e sociedades.

Dimensionando a relevância global da inteligência artificial

Mais de um bilhão de indivíduos globalmente utilizam inteligência artificial conversacional a cada semana. Enquanto isso, governos enfrentam grandes incertezas ao tomar decisões importantes, lidando com informações e perspectivas que evoluem rapidamente e que frequentemente são conflitantes, nem sempre refletindo as realidades locais.

Guterres frisou que, com a aplicação correta, a tecnologia pode impulsionar o desenvolvimento mundial em diversas frentes, desde a saúde e a erradicação da fome até a educação e as questões climáticas. Contudo, o painel também expressou preocupação com os potenciais danos que a inteligência artificial pode provocar.

Conforme as capacidades da inteligência artificial se expandem, os riscos associados também aumentam, constituindo o principal desafio que o grupo de especialistas busca abordar.

Avaliação das perspectivas: benefícios globais e riscos potenciais catastróficos da IA

Yoshua Bengio, co-presidente do grupo, destacou que o painel, formado por quarenta cientistas e especialistas de diversas regiões, analisou as tendências da IA e alertou para a insuficiência das atuais medidas de proteção.

Bengio enfatizou que a evolução da inteligência artificial supera tanto o entendimento científico quanto a habilidade dos governos em se adequar a ela. “Com evidências crescentes de comportamento enganoso da IA, a ciência atualmente não pode garantir que, à medida que as capacidades continuarem a aumentar, a IA não causará danos catastróficos, seja por si só ou devido a usuários maliciosos”, alertou.

Para uma atuação eficiente, os legisladores internacionais necessitam de uma compreensão aprofundada desses sistemas. O painel oferece essa base científica rigorosa e compartilhada, essencial para “orientar nosso caminho coletivo adiante”.

Descobertas adicionais sobre a implantação e os desafios da IA

A inteligência artificial já demonstrou avanços notáveis, como na detecção precoce do câncer de mama, na rápida criação de vacinas e na otimização de serviços de saúde. Apesar dessas conquistas inovadoras, o relatório também aponta limitações e desafios, incluindo:

• A adoção da IA acelerou de forma generalizada, mas com significativas desigualdades entre países e setores.
• O acesso e a utilização variam amplamente, com o Sul Global apresentando um atraso considerável em relação ao Norte Global.
• Existem diferenças marcantes na infraestrutura e nos modelos computacionais entre as economias avançadas, o que reflete as desigualdades já existentes.

Adicionalmente, o avanço tecnológico está extremamente centralizado. Estimativas recentes indicam que os Estados Unidos concentram 75% do poder computacional dos 500 supercomputadores de IA mais poderosos do mundo, enquanto a China detém 15%. Empresas de ambos os países desenvolvem quase todos os modelos de IA de uso geral.

Aprofundando a compreensão dos perigos intrínsecos da inteligência artificial

A gestão e compreensão dos riscos da inteligência artificial são fundamentais, conforme aponta o relatório. Maria Ressa, co-presidente do painel, acrescentou que os perigos para as sociedades, a segurança e a própria espécie humana já se encontram em níveis “demasiado elevados”.

Ressa alertou que, apesar do potencial transformador da tecnologia, a humanidade pode não concretizar os benefícios prometidos se a trajetória atual for mantida. Ela afirmou que o painel busca justamente abordar o principal desafio: o crescimento dos riscos à medida que as capacidades da IA avançam.

Entre as advertências cruciais emitidas pelos especialistas, destacam-se:

• A inexistência de garantias científicas de que os sistemas de IA não desviarão das instruções, com evidências crescentes de incidentes dessa natureza.
• A perspectiva de que, em breve, sistemas de IA executarão tarefas que levam dias ou semanas para programadores humanos, gerando questões urgentes para mercados de trabalho, segurança cibernética e controlabilidade.
• O comportamento bajulador da IA, que reforça crenças preexistentes do usuário independentemente da precisão, associado a incidentes graves de saúde mental, incluindo mortes documentadas.
• A documentação do uso de sistemas de IA por criminosos e agentes mal-intencionados para auxiliar em ataques cibernéticos.
• A preocupação de que habilidades técnicas avançadas possam capacitar agentes privados inexperientes a usar a IA de forma maliciosa em fraudes e desinformação.
• A falta de métodos confiáveis para manter o controle sobre sistemas de IA altamente autônomos.

O documento aponta que grande parte desses prejuízos recai de forma desproporcional sobre as comunidades já em condições de vulnerabilidade.

Equilibrando ganhos e minimizando os riscos através da governança da IA

Para aproveitar os benefícios da inteligência artificial e ao mesmo tempo reduzir seus riscos, é indispensável uma governança eficaz.

Medidas específicas existem para preencher as lacunas atuais, mas exigem investimentos contínuos na capacidade dos Estados-Membros de desenvolver, analisar e aplicar a IA.

A concretização segura dessas oportunidades requer investimentos e políticas direcionadas, que promovam o acesso justo e estimulem a inovação, sem descuidar da prevenção da exploração de grupos mais fragilizados.

O papel da IA na superação das desigualdades globais: a visão da ONU

Embora existam dezenas de instrumentos de governança que buscam integrar a ética e os direitos humanos em sistemas de IA, o relatório apurou que eles são fragmentados, concentrados em poucas empresas e com eficácia raramente mensurada na prática.

Amandeep Gill, Subsecretário-Geral e Enviado Especial para Tecnologias Digitais e Emergentes, destacou que o documento oferece uma linguagem científica padronizada para os responsáveis por decisões futuras.

Ele afirmou categoricamente que “a inteligência artificial, por si só, não será capaz de eliminar as divisões sociais”.

Os ganhos da IA se manifestam em locais com instituições, habilidades e dados já estabelecidos. Onde esses elementos não estão presentes, a mesma tecnologia pode substituir trabalhadores, aprofundar desigualdades e gerar dependência de sistemas desenvolvidos sem considerar as necessidades locais.

Gill concluiu que “essas realidades estão agora documentadas, foram verificadas de forma independente e são inegáveis”.

As constatações detalhadas no relatório serão levadas aos representantes governamentais no primeiro Diálogo Global da ONU sobre Governança da IA, agendado para Genebra nos dias 6 e 7 de julho.