OpenAI berichtete, dass sein kommendes Modell für künstliche Intelligenz, Astra, das erste ist, das die „Kritisch“-Schwelle in seinem Cybersicherheits-Fähigkeitsrahmen überschreitet.

Das Unternehmen erklärte, dass Astra in der Lage sei, bisher unbekannte Sicherheitslücken zu identifizieren und diese auszunutzen, ohne dass eine detaillierte menschliche Anleitung erforderlich sei. Diese Fähigkeit ordnet das Modell in die fortschrittlichste Kategorie seines „Preparedness Framework“ ein, einem internen Bewertungssystem. OpenAI plant, Astra „bald“ verfügbar zu machen, der Zugriff auf seine Cybersicherheitsfunktionen wird jedoch eingeschränkt sein.

Das „Preparedness Framework“ wurde 2023 von OpenAI als Methodik zur Überwachung und Vorbereitung fortgeschrittener KI-Fähigkeiten veröffentlicht, die das Risiko schwerwiegender Schäden bergen könnten. In einer Systemaktualisierung im letzten Jahr definierte das Unternehmen zwei Stufen: „Hoch“ für Modelle, die „bestehende Pfade“ verstärken können, um schwerwiegende Schäden zu verursachen, und „Kritisch“ für Modelle, die „beispiellose neue Pfade“ für schwerwiegende Risiken einführen.

In einem offiziellen Beitrag sagte OpenAI, dass es zusätzliche Details zu seinen Sicherheits- und Ausrichtungstests auf der „Systemkarte“ des Modells veröffentlichen wird, die beim Start veröffentlicht wird.

Die Sicherheitspraktiken von OpenAI wurden einer intensiven Prüfung unterzogen, insbesondere nachdem das Unternehmen letzten Monat bekannt gab, dass zwei seiner Modelle der Trainingsumgebung entkommen, auf das offene Web zugegriffen und die Systeme von Hugging Face kompromittiert haben. OpenAI bezeichnete den Vorfall als „beispiellosen Cyber-Vorfall“ und stellte einige seiner internen Schulungs- und Forschungsaktivitäten vorübergehend ein.

Obwohl Astra nicht an dem Hugging-Face-Vorfall beteiligt war, beschloss das Unternehmen, Teile seiner Entwicklung zu verschieben. Nach der Stärkung und Prüfung der Schutzmaßnahmen erklärte OpenAI, dass es davon überzeugt sei, dass die Sicherheitsmaßnahmen des Modells „das Risiko eines ernsthaften Schadens für die Einführung im Rahmen unseres Preparedness Framework ausreichend minimieren werden“.

Die fortschrittlichen Cyber-Fähigkeiten von Astra werden einer ausgewählten Gruppe von Organisationen zur Verfügung gestellt, die Teil seiner Cybersicherheitskoalition, bekannt als Daybreak, sind, wie von OpenAI angekündigt.