Un algorithme innovant d’intelligence artificielle, baptisé Mythos 5 et développé par Anthropic, a été rapidement retiré de la circulation sur ordre direct de la Maison Blanche. La mesure empêche spécifiquement les entités étrangères d’utiliser l’outil, au motif que le modèle, avec sa capacité exceptionnelle à localiser les failles logicielles, représente un risque élevé pour la sécurité nationale des États-Unis. Cette décision souligne l’inquiétude croissante des gouvernements quant au potentiel destructeur des technologies d’IA très avancées.
L’algorithme Mythos 5 pénètre les systèmes sensibles des agences en quelques heures
Des détails inédits et alarmants sur l’incident ont été publiés par le magazine anglais The Economist, ajoutant à la gravité de la situation. Comme l’a révélé le général Joshua Rudd, devenu directeur de la National Security Agency (NSA) en mars, Mythos 5 a réussi à accéder à « pratiquement tous » les systèmes confidentiels de l’agence de sécurité. Le plus surprenant a été la rapidité de l’intrusion, qui n’a duré que quelques heures, contrastant fortement avec les semaines attendues lors des tests de sécurité conventionnels. Cette découverte a été communiquée au sénateur Mark Warner, vice-président de l’influente commission du renseignement du Sénat américain, signalant le sérieux avec lequel l’épisode est traité aux plus hauts niveaux du gouvernement.
L’agilité avec laquelle Mythos 5 a surmonté les barrières de sécurité de la NSA démontre un saut qualitatif dans les capacités d’analyse des vulnérabilités de l’intelligence artificielle. Alors que les équipes rouges humaines passent des semaines, voire des mois, à identifier les faiblesses des systèmes complexes, l’IA a accompli la tâche en une fraction de ce temps. Ce fait soulève des questions urgentes sur l’efficacité des défenses actuelles contre les cybermenaces qui peuvent être pilotées par des algorithmes aussi puissants, soulignant la nécessité de réévaluer les stratégies de cybersécurité et de développer des contre-mesures avec la même sophistication.
Comprendre comment la NSA a utilisé l’IA dans ses exercices de sécurité
Malgré l’intrusion, il est crucial de préciser que l’intelligence artificielle n’a pas fonctionné de manière autonome pour attaquer les systèmes. L’évaluation initiale suggère que la NSA a utilisé le modèle dans le cadre d’un exercice d’« équipe rouge ». Il s’agit d’une méthodologie standard dans laquelle des experts simulent des cyberattaques pour identifier et corriger les vulnérabilités de leurs propres réseaux, en cherchant à améliorer la résilience des défenses. L’intention était de tester les limites de ses barrières de sécurité, en utilisant un outil de pointe pour simuler les tactiques d’adversaires sophistiqués. Bien que contrôlée, l’efficacité de Mythos 5 dans cet environnement simulé a déclenché un avertissement sur ce qui pourrait arriver si la technologie tombait entre de mauvaises mains ou était utilisée de manière malveillante.
L’historique de l’algorithme montre la capacité à trouver des défauts
Lors de précédentes évaluations, le Mythos 5 avait déjà démontré son efficacité impressionnante. Lors d’un test autorisé par la Fondation Mozilla, l’algorithme a identifié 271 failles de sécurité dans le navigateur Firefox, l’un des plus utilisés au monde. Face aux inquiétudes croissantes quant aux dangers inhérents à un outil aussi robuste, Anthropic a décidé de restreindre l’accès à l’algorithme, le rendant accessible uniquement aux chercheurs et aux institutions ayant reçu une approbation spécifique, dans le but de contrôler son utilisation et d’atténuer les risques potentiels. Cette politique d’accès limité met en évidence la responsabilité de l’entreprise dans la gestion de technologies au pouvoir d’impact si important.
Version Fable Libération et suppression rapides
Le 9 juin, Anthropic a publié Fable, une version soi-disant plus contrôlée de Mythos 5, intégrant des protections conçues pour empêcher les actions dangereuses. Cependant, la disponibilité de Fable a été extrêmement brève. Trois jours plus tard, le 12 juin, la Maison Blanche est intervenue à nouveau, en ordonnant que le modèle soit immédiatement supprimé du site Web. Cette action rapide a été déclenchée par des allégations selon lesquelles les ingénieurs d’Amazon auraient découvert des méthodes pour contourner ces protections, ce qui a conduit à des avertissements des autorités compétentes sur la persistance des risques, démontrant la difficulté de créer des barrières efficaces contre les capacités avancées d’IA.
La récurrence de l’interdiction, désormais disponible dans la version Fable, démontre l’urgence et le sérieux avec lesquels le gouvernement américain traite la question du contrôle des puissantes IA. L’intervention directe de la Maison Blanche si peu de temps après la publication d’une version « sûre » reflète la perception selon laquelle, actuellement, les risques d’une mauvaise utilisation l’emportent sur les avantages contrôlés. Cet épisode ajoute un chapitre important au débat sur la gouvernance de l’intelligence artificielle, notamment en ce qui concerne la capacité à prédire et neutraliser les vulnérabilités que la technologie elle-même peut créer.
Anthropic et le débat sur le contrôle éthique de l’intelligence artificielle
Anthropic a l’habitude de mettre en garde publiquement contre les dangers potentiels de ses propres intelligences artificielles avant de les rendre disponibles, une pratique observée avec les versions précédentes basées sur des modèles comme GPT-2 et GPT-3. Cependant, Mythos 5 et Fable représentent une avancée technologique substantielle, présentant des capacités supérieures et un potentiel de dégâts considérablement plus important par rapport à leurs prédécesseurs. Ce saut en complexité et en puissance soulève de profondes discussions sur le contrôle et l’éthique dans le développement de l’intelligence artificielle de haute puissance. Les incidents impliquant ces algorithmes intensifient le débat mondial sur la manière d’équilibrer l’innovation technologique avec la sécurité et la responsabilité, un défi qui nécessite la collaboration des gouvernements, des entreprises et de la communauté scientifique pour établir des normes efficaces et garantir que l’IA profite à l’humanité sans compromettre sa sécurité.