Ein innovativer Algorithmus für künstliche Intelligenz namens Mythos 5, der von Anthropic entwickelt wurde, wurde auf direkten Befehl des Weißen Hauses schnell aus dem Verkehr gezogen. Die Maßnahme hindert ausländische Unternehmen ausdrücklich daran, das Tool zu nutzen, da das Modell mit seiner außergewöhnlichen Fähigkeit, Softwarefehler zu lokalisieren, ein hohes Risiko für die nationale Sicherheit der Vereinigten Staaten darstellt. Die Entscheidung unterstreicht die wachsende Besorgnis der Regierungen über das zerstörerische Potenzial hochentwickelter KI-Technologien.
Der Mythos 5-Algorithmus dringt innerhalb weniger Stunden in sensible Behördensysteme ein
Unveröffentlichte und besorgniserregende Details zu dem Vorfall wurden von der englischen Zeitschrift „The Economist“ veröffentlicht, was die Lage noch schlimmer machte. Wie General Joshua Rudd, der im März das Amt des Direktors der National Security Agency (NSA) übernahm, enthüllte, gelang es Mythos 5, auf „praktisch alle“ vertraulichen Systeme der Sicherheitsbehörde zuzugreifen. Am überraschendsten war die Geschwindigkeit des Eindringens, die nur wenige Stunden dauerte, was in krassem Gegensatz zu den Wochen stand, die man bei herkömmlichen Sicherheitstests erwarten würde. Diese Entdeckung wurde Senator Mark Warner, dem stellvertretenden Vorsitzenden des einflussreichen Geheimdienstausschusses des US-Senats, mitgeteilt und zeigt damit die Ernsthaftigkeit, mit der der Vorfall auf höchster Regierungsebene behandelt wird.
Die Agilität, mit der Mythos 5 die Sicherheitsbarrieren der NSA überwand, zeigt einen qualitativen Sprung in den Fähigkeiten zur Schwachstellenanalyse künstlicher Intelligenz. Während menschliche Red-Teams Wochen oder sogar Monate damit verbringen, Schwachstellen in komplexen Systemen zu identifizieren, hat die KI diese Aufgabe in einem Bruchteil dieser Zeit erledigt. Diese Tatsache wirft dringende Fragen zur Wirksamkeit der aktuellen Abwehrmaßnahmen gegen Cyberbedrohungen auf, die durch solch leistungsstarke Algorithmen gesteuert werden können, und unterstreicht die Notwendigkeit, Cybersicherheitsstrategien neu zu bewerten und Gegenmaßnahmen mit der gleichen Komplexität zu entwickeln.
Erfahren Sie, wie die NSA KI bei Sicherheitsübungen einsetzte
Trotz des Eindringens muss unbedingt klargestellt werden, dass künstliche Intelligenz nicht autonom agierte, um die Systeme anzugreifen. Erste Einschätzungen deuten darauf hin, dass die NSA das Modell im Rahmen einer „Red Team“-Übung einsetzte. Hierbei handelt es sich um eine Standardmethode, bei der Experten Cyberangriffe simulieren, um Schwachstellen in ihren eigenen Netzwerken zu identifizieren und zu beheben und so die Widerstandsfähigkeit der Abwehrmaßnahmen zu verbessern. Ziel war es, die Grenzen seiner Sicherheitsbarrieren auszutesten und mithilfe eines hochmodernen Tools die Taktiken raffinierter Gegner zu simulieren. Obwohl die Wirksamkeit von Mythos 5 in dieser simulierten Umgebung kontrolliert wurde, warnte sie davor, was passieren könnte, wenn die Technologie in die falschen Hände gerät oder böswillig eingesetzt wird.
Der Algorithmusverlauf zeigt die Fähigkeit, Fehler zu finden
In früheren Tests konnte der Mythos 5 bereits seine beeindruckende Wirksamkeit unter Beweis stellen. In einem von der Mozilla Foundation autorisierten Test identifizierte der Algorithmus 271 Sicherheitslücken im Firefox-Browser, einem der weltweit am häufigsten verwendeten. Angesichts der wachsenden Besorgnis über die mit einem so robusten Tool verbundenen Gefahren beschloss Anthropic, den Zugriff auf den Algorithmus zu beschränken und ihn nur Forschern und Institutionen zur Verfügung zu stellen, die eine ausdrückliche Genehmigung erhalten hatten, um seine Verwendung zu kontrollieren und potenzielle Risiken zu mindern. Diese eingeschränkte Zugriffsrichtlinie unterstreicht die Verantwortung des Unternehmens im Umgang mit Technologien, die eine so große Wirkungskraft haben.
Schnelle Freigabe und Entfernung der Fable-Version
Am 9. Juni veröffentlichte Anthropic Fable, eine angeblich kontrolliertere Version von Mythos 5, die Sicherheitsvorkehrungen zur Verhinderung gefährlicher Aktionen enthält. Die Verfügbarkeit von Fable war jedoch äußerst kurz. Nur drei Tage später, am 12. Juni, intervenierte das Weiße Haus erneut und erließ die Anordnung, die Vorlage sofort von der Website zu entfernen. Auslöser für die raschen Maßnahmen waren Behauptungen, Amazon-Ingenieure hätten Methoden zur Umgehung dieser Schutzmaßnahmen entdeckt, was zu Warnungen der zuständigen Behörden vor dem Fortbestehen von Risiken führte und die Schwierigkeit verdeutlichte, wirksame Barrieren gegen fortschrittliche KI-Funktionen zu schaffen.
Die Wiederholung des Verbots, nun für die Fable-Version, zeigt die Dringlichkeit und Ernsthaftigkeit, mit der die US-Regierung das Problem der Kontrolle mächtiger KIs behandelt. Das direkte Eingreifen des Weißen Hauses so kurz nach der Veröffentlichung einer „sicheren“ Version spiegelt die Wahrnehmung wider, dass derzeit die Risiken eines Missbrauchs die kontrollierten Vorteile überwiegen. Diese Episode fügt der Debatte über die Steuerung künstlicher Intelligenz ein wichtiges Kapitel hinzu, insbesondere im Hinblick auf die Fähigkeit, Schwachstellen vorherzusagen und zu neutralisieren, die die Technologie selbst verursachen kann.
Anthropic und die Debatte über die ethische Kontrolle künstlicher Intelligenz
Anthropic hat eine bemerkenswerte Geschichte darin, öffentlich vor den potenziellen Gefahren seiner eigenen künstlichen Intelligenzen zu warnen, bevor es sie verfügbar macht, eine Praxis, die bei früheren Versionen auf Basis von Modellen wie GPT-2 und GPT-3 zu beobachten war. Mythos 5 und Fable stellen jedoch einen erheblichen technologischen Fortschritt dar und weisen im Vergleich zu ihren Vorgängern überlegene Fähigkeiten und ein erheblich größeres Schadenspotenzial auf. Dieser Sprung in Komplexität und Leistungsfähigkeit löst tiefgreifende Diskussionen über Kontrolle und Ethik bei der Entwicklung leistungsstarker künstlicher Intelligenz aus. Vorfälle im Zusammenhang mit diesen Algorithmen verschärfen die globale Debatte darüber, wie technologische Innovation mit Sicherheit und Verantwortung in Einklang gebracht werden kann. Diese Herausforderung erfordert die Zusammenarbeit von Regierungen, Unternehmen und der wissenschaftlichen Gemeinschaft, um wirksame Standards festzulegen und sicherzustellen, dass KI der Menschheit zugute kommt, ohne ihre Sicherheit zu gefährden.