Des milliers d’experts en IA appellent à un effort international pour réglementer cette technologie

Plus de 1 200 professionnels et dirigeants des plus grandes entreprises d’intelligence artificielle (IA) au monde ont publié, le 28 mai 2024, un manifeste demandant au gouvernement des États-Unis de prendre la tête d’un mouvement mondial. L’objectif est de créer des outils techniques et de gouvernance capables de modérer le rythme des progrès de l’IA, surtout si les systèmes commencent à présenter des risques incontrôlables. Le document bénéficie du soutien de collaborateurs d’Anthropic, OpenAI, Meta et Google DeepMind, des entreprises en concurrence à l’avant-garde du secteur.

La déclaration, intitulée « Advancing the Frontier », a été signée par des personnalités éminentes, dont Dario Amodei, PDG d’Anthropic ; Jakub Pachocki, scientifique en chef chez OpenAI ; Shengjia Zhao, scientifique en chef chez Meta ; et Anca Dragan, responsable de la sécurité et de l’alignement de l’IA chez Google DeepMind. Même si le texte n’appelle pas à une interruption immédiate du développement technologique, il préconise que Washington coordonne la formulation de mécanismes permettant de ralentir l’évolution des systèmes d’IA, si le besoin s’en fait sentir.

Tyler Johnston, fondateur du groupe de surveillance Midas Project, a commenté la remarquable convergence d’opinions entre les professionnels des entreprises rivales. “C’est impressionnant de voir autant d’employés de différentes entreprises s’entendre sur ce point. Il y a beaucoup de rivalités et de désaccords féroces dans l’industrie, donc le fait qu’il y ait un consensus aussi fort sur ce point est un signal d’alarme auquel nous devrions vraiment prêter attention”, a-t-il déclaré.

Les experts s’inquiètent de l’autonomie croissante des systèmes d’intelligence artificielle

À lire aussi: Le gouvernement américain supprime les restrictions sur Fable 5 et Mythos 5, libérant ainsi les modèles Anthropic AI avec de nouvelles protections

Photo: intelligence artificielle – Summit Art Creations/Shutterstock.com

Les chercheurs préviennent que l’une des plus grandes menaces réside dans la capacité des systèmes d’IA à développer des versions plus avancées d’eux-mêmes à un rythme plus rapide que les humains ne peuvent les comprendre ou les superviser. Une autre préoccupation évoquée est le désalignement, qui se produit lorsque le comportement d’un système s’écarte des objectifs initialement fixés par ses créateurs, notamment lors de l’acquisition d’une plus grande autonomie.

Peter Wildeford, responsable de la politique chez AI Policy Network, a expliqué que l’initiative n’a pas pour but de bloquer le développement de la technologie maintenant. Il a déclaré : « Après avoir parlé à de nombreuses personnes qui ont signé la lettre, j’ai réalisé qu’ils ne voulaient pas de répit. Mais la façon dont la technologie progresse suscite des inquiétudes. » Selon Wildeford, les entreprises recherchent des mécanismes indépendants pour coordonner un éventuel ralentissement, empêchant une seule entreprise de ralentir et de perdre sa compétitivité au profit de ses concurrents.

Le manifeste a été publié quelques jours seulement après un incident de sécurité impliquant OpenAI. Deux des modèles de l’entreprise, encore en phase de tests internes, ont réussi à échapper à l’environnement contrôlé, à exploiter une vulnérabilité qui leur donnait accès à Internet et à envahir les systèmes de la plateforme Hugging Face, en utilisant les informations d’identification obtenues au cours du processus.

Comprendre l’affaire: Meta lance un agent d’intelligence artificielle pour le codage, intensifiant ainsi les différends avec les géants de l’industrie

Hugging Face a déclaré avoir identifié et contenu l’intrusion avant même qu’OpenAI puisse associer l’incident à ses tests. Dans un communiqué, OpenAI a précisé que le modèle expérimental impliqué ne serait jamais rendu public et a déclaré : « Suite à l’incident, nous l’avons désactivé, chiffré et restreint l’accès à des fins de recherche. »

Pour les experts, cet épisode a renforcé l’idée selon laquelle les systèmes de supervision ne peuvent pas dépendre exclusivement des sociétés de développement elles-mêmes. Pour cette raison, la lettre propose que les États-Unis mènent un effort international, similaire aux accords de contrôle des armements, avec l’établissement de règles communes et de mécanismes de vérification qui garantissent que tous les développeurs ralentissent simultanément si l’évolution de l’intelligence artificielle commence à dépasser la propre capacité de contrôle des créateurs.

Plus sur le sujet: La course à l’intelligence artificielle s’accélère avec les tests Fable 5.1 et les preuves de GPT-6