Een innovatief algoritme voor kunstmatige intelligentie, genaamd Mythos 5 en ontwikkeld door Anthropic, werd snel uit de circulatie genomen door een direct bevel van het Witte Huis. De maatregel verhindert specifiek dat buitenlandse entiteiten de tool gebruiken, omdat het model, met zijn uitzonderlijke vermogen om softwarefouten op te sporen, een hoog risico voor de nationale veiligheid van de Verenigde Staten vormt. Het besluit onderstreept de groeiende bezorgdheid onder regeringen over het destructieve potentieel van zeer geavanceerde AI-technologieën.
Het Mythos 5-algoritme dringt binnen enkele uren door in gevoelige bureausystemen
Ongepubliceerde en alarmerende details over het incident werden gepubliceerd door het Engelse tijdschrift The Economist, wat de ernst van de situatie nog groter maakte. Zoals onthuld door generaal Joshua Rudd, die in maart de functie van directeur van de National Security Agency (NSA) overnam, slaagde Mythos 5 erin toegang te krijgen tot “vrijwel alle” vertrouwelijke systemen van de veiligheidsdienst. Het meest verrassend was de snelheid van de inbraak, die slechts een paar uur duurde, wat in schril contrast staat met de weken die bij conventionele beveiligingstests zouden worden verwacht. Deze ontdekking werd meegedeeld aan senator Mark Warner, vice-voorzitter van de invloedrijke Amerikaanse Senaatsinlichtingencommissie, waarmee de ernst werd aangegeven waarmee de episode op de hoogste overheidsniveaus wordt behandeld.
De behendigheid waarmee Mythos 5 de veiligheidsbarrières van de NSA overwon, demonstreert een kwalitatieve sprong in de mogelijkheden voor analyse van de kwetsbaarheid van kunstmatige intelligentie. Terwijl menselijke rode teams weken of zelfs maanden besteden aan het identificeren van zwakke punten in complexe systemen, volbracht AI de taak in een fractie van die tijd. Dit feit roept dringende vragen op over de effectiviteit van de huidige verdediging tegen cyberdreigingen die kunnen worden aangestuurd door zulke krachtige algoritmen, wat de noodzaak benadrukt om cyberbeveiligingsstrategieën opnieuw te evalueren en tegenmaatregelen te ontwikkelen met dezelfde verfijning.
Begrijp hoe de NSA AI gebruikte bij beveiligingsoefeningen
Ondanks de inbreuk is het van cruciaal belang om duidelijk te maken dat kunstmatige intelligentie niet autonoom opereerde om de systemen aan te vallen. Uit een eerste beoordeling blijkt dat de NSA het model heeft toegepast in een ‘rood team’-oefening. Dit is een standaardmethodologie waarbij experts cyberaanvallen simuleren om kwetsbaarheden in hun eigen netwerken te identificeren en te corrigeren, en zo de veerkracht van de verdediging te verbeteren. De bedoeling was om de grenzen van de veiligheidsbarrières te testen, met behulp van een geavanceerd hulpmiddel om de tactieken van geavanceerde tegenstanders te simuleren. Hoewel gecontroleerd, gaf de effectiviteit van Mythos 5 in deze gesimuleerde omgeving een waarschuwing over wat er zou kunnen gebeuren als de technologie in verkeerde handen zou vallen of kwaadwillig zou worden gebruikt.
De geschiedenis van algoritmen laat zien dat we fouten kunnen vinden
In eerdere evaluaties had de Mythos 5 al zijn indrukwekkende effectiviteit aangetoond. In een door de Mozilla Foundation goedgekeurde test identificeerde het algoritme 271 beveiligingsfouten in de Firefox-browser, een van de meest gebruikte wereldwijd. Geconfronteerd met groeiende zorgen over de gevaren die inherent zijn aan zo’n robuust hulpmiddel, besloot Anthropic de toegang tot het algoritme te beperken en het alleen beschikbaar te stellen aan onderzoekers en instellingen die specifieke goedkeuring hadden gekregen, in een poging het gebruik ervan onder controle te houden en potentiële risico’s te beperken. Dit beperkte toegangsbeleid benadrukt de verantwoordelijkheid van het bedrijf bij het omgaan met technologieën die zo’n aanzienlijk impactvermogen hebben.
Fable-versie Snelle release en verwijdering
Op 9 juni bracht Anthropic Fable uit, een zogenaamd meer gecontroleerde versie van Mythos 5, met veiligheidsmaatregelen die zijn ontworpen om gevaarlijke acties te voorkomen. De beschikbaarheid van Fable was echter extreem kort. Slechts drie dagen later, op 12 juni, kwam het Witte Huis opnieuw tussenbeide en vaardigde het bevel uit om de sjabloon onmiddellijk van de website te verwijderen. De snelle actie werd veroorzaakt door beschuldigingen dat Amazon-ingenieurs methoden hadden ontdekt om deze bescherming te omzeilen, wat leidde tot waarschuwingen van bevoegde autoriteiten over de aanhoudende risico’s, wat aantoonde hoe moeilijk het is om effectieve barrières te creëren tegen geavanceerde AI-mogelijkheden.
De herhaling van het verbod, nu voor de Fable-versie, toont de urgentie en ernst aan waarmee de Amerikaanse regering de kwestie van het controleren van krachtige AI’s behandelt. De directe interventie van het Witte Huis zo kort na de release van een ‘veilige’ versie weerspiegelt de perceptie dat momenteel de risico’s van misbruik zwaarder wegen dan de gecontroleerde voordelen. Deze aflevering voegt een belangrijk hoofdstuk toe aan het debat over het bestuur van kunstmatige intelligentie, vooral wat betreft het vermogen om kwetsbaarheden die de technologie zelf kan creëren te voorspellen en te neutraliseren.
Antropisch en het debat over de ethische controle van kunstmatige intelligentie
Anthropic heeft een opmerkelijke geschiedenis van het publiekelijk waarschuwen voor de potentiële gevaren van zijn eigen kunstmatige intelligentie voordat deze beschikbaar wordt gesteld, een praktijk die te zien is bij eerdere versies gebaseerd op modellen als GPT-2 en GPT-3. Mythos 5 en Fable vertegenwoordigen echter een substantiële technologische vooruitgang, met superieure mogelijkheden en een aanzienlijk groter schadepotentieel in vergelijking met hun voorgangers. Deze sprong in complexiteit en macht roept diepgaande discussies op over controle en ethiek bij de ontwikkeling van krachtige kunstmatige intelligentie. Incidenten waarbij deze algoritmen betrokken zijn, intensiveren het mondiale debat over hoe technologische innovatie in evenwicht kan worden gebracht met veiligheid en verantwoordelijkheid, een uitdaging die samenwerking vereist van overheden, bedrijven en de wetenschappelijke gemeenschap om effectieve normen vast te stellen en ervoor te zorgen dat AI de mensheid ten goede komt zonder de veiligheid ervan in gevaar te brengen.