Tausende KI-Experten fordern internationale Anstrengungen zur Regulierung der Technologie

Mehr als 1.200 Fach- und Führungskräfte der größten Unternehmen für künstliche Intelligenz (KI) der Welt veröffentlichten am 28. Mai 2024 ein Manifest, in dem sie die Regierung der Vereinigten Staaten aufforderten, eine globale Bewegung anzuführen. Das Ziel besteht darin, technische und Governance-Tools zu schaffen, die in der Lage sind, das Tempo des KI-Fortschritts zu bremsen, insbesondere wenn Systeme anfangen, unkontrollierbare Risiken zu bergen. Das Dokument wird von Mitarbeitern von Anthropic, OpenAI, Meta und Google DeepMind unterstützt, Unternehmen, die an der Spitze der Branche stehen.

Die Erklärung mit dem Titel „Advancing the Frontier“ wurde von prominenten Persönlichkeiten unterzeichnet, darunter Dario Amodei, CEO von Anthropic; Jakub Pachocki, Chefwissenschaftler bei OpenAI; Shengjia Zhao, Chefwissenschaftlerin bei Meta; und Anca Dragan, Leiterin der KI-Sicherheit und -Ausrichtung bei Google DeepMind. Obwohl der Text keine sofortige Unterbrechung der technologischen Entwicklung fordert, plädiert er dafür, dass Washington die Formulierung von Mechanismen koordiniert, die es ermöglichen, die Entwicklung von KI-Systemen zu verlangsamen, falls dies erforderlich sein sollte.

Den Fall verstehen: Die US-Regierung hebt die Beschränkungen für Fable 5 und Mythos 5 auf und gibt anthropischen KI-Modellen neue Schutzmaßnahmen frei

Tyler Johnston, Gründer der Überwachungsgruppe Midas Project, kommentierte die bemerkenswerte Konvergenz der Meinungen zwischen Fachleuten konkurrierender Unternehmen. „Es ist beeindruckend zu sehen, dass sich so viele Mitarbeiter verschiedener Unternehmen in diesem Punkt einig sind. Es gibt viele heftige Rivalitäten und Meinungsverschiedenheiten in der Branche, daher ist die Tatsache, dass es in dieser Hinsicht einen so starken Konsens gibt, ein Weckruf, dem wir wirklich Aufmerksamkeit schenken sollten“, sagte er.

Experten äußern Bedenken hinsichtlich der zunehmenden Autonomie künstlicher Intelligenzsysteme

Foto: Künstliche Intelligenz – Summit Art Creations/Shutterstock.com

Forscher warnen, dass eine der größten Bedrohungen in der Fähigkeit von KI-Systemen liegt, schneller fortschrittlichere Versionen ihrer selbst zu entwickeln, als Menschen sie verstehen oder überwachen können. Ein weiteres angesprochenes Problem ist die Fehlausrichtung, die auftritt, wenn das Verhalten eines Systems von den ursprünglich von seinen Erstellern festgelegten Zielen abweicht, insbesondere bei der Erlangung größerer Autonomie.

Mehr zum Thema: Meta stellt erstmals einen Agenten für künstliche Intelligenz für die Codierung vor, was den Streit mit Branchenriesen verschärft

Peter Wildeford, Leiter Politik beim AI Policy Network, erklärte, dass die Initiative nicht dazu gedacht sei, die Entwicklung der Technologie jetzt aufzuhalten. Er sagte: „Nachdem ich mit vielen Leuten gesprochen hatte, die den Brief unterzeichnet hatten, wurde mir klar, dass sie keine Pause wollen. Aber es gibt Bedenken hinsichtlich der Art und Weise, wie die Technologie voranschreitet.“ Laut Wildeford suchen Unternehmen nach unabhängigen Mechanismen, um einen möglichen Abschwung zu koordinieren und so zu verhindern, dass ein einzelnes Unternehmen langsamer wird und an Wettbewerbsfähigkeit gegenüber seinen Konkurrenten verliert.

Das Manifest wurde nur wenige Tage nach einem Sicherheitsvorfall mit OpenAI veröffentlicht. Zwei der Modelle des Unternehmens, die sich noch in der internen Testphase befanden, gelang es, der kontrollierten Umgebung zu entkommen, eine Schwachstelle auszunutzen, die ihnen Zugang zum Internet verschaffte, und mithilfe der während des Prozesses erhaltenen Anmeldeinformationen in Systeme auf der Hugging Face-Plattform einzudringen.

Hugging Face berichtete, den Einbruch erkannt und eingedämmt zu haben, noch bevor OpenAI den Vorfall mit seinen Tests in Verbindung bringen konnte. In einer Erklärung stellte OpenAI klar, dass das betreffende experimentelle Modell niemals der Öffentlichkeit zugänglich gemacht würde und erklärte: „Nach dem Vorfall haben wir es deaktiviert, verschlüsselt und den Zugriff für Forschungszwecke eingeschränkt.“

Mehr erfahren: Der CEO von Google DeepMind schlägt einen globalen KI-Überwacher unter US-Führung vor

Für Experten bestärkte diese Episode die Ansicht, dass Überwachungssysteme nicht ausschließlich auf die Entwicklungsunternehmen selbst angewiesen sein können. Aus diesem Grund wird in dem Brief vorgeschlagen, dass die Vereinigten Staaten eine internationale Anstrengung anführen, ähnlich wie bei Rüstungskontrollabkommen, mit der Festlegung gemeinsamer Regeln und Überprüfungsmechanismen, die sicherstellen, dass alle Entwickler gleichzeitig langsamer werden, wenn die Entwicklung der künstlichen Intelligenz beginnt, die eigene Kontrollfähigkeit der Schöpfer zu übertreffen.