Das amerikanische Startup Anthropic kündigte die Implementierung von Sicherheitsmaßnahmen zur Einschränkung von Cybersicherheitsanfragen in seinem Modell an, das ursprünglich im April nur einer begrenzten Gruppe von Partnern zugänglich gemacht wurde.
Anthropic begann, eine begrenzte, verbraucherorientierte Version von Mythos anzubieten, seinem künstlichen Intelligenzmodell, dessen Zugriff aufgrund seiner starken Cyberangriffsfähigkeiten kontrolliert wurde. Die neue Option mit dem Namen „Claude Fable 5“ stellt „ein Mythos-Modell dar, das wir jedoch für den allgemeinen Gebrauch sicher gemacht haben“, teilte das für den Claude-Assistenten verantwortliche Unternehmen am Dienstag, dem 9. Juni, in einem Blogbeitrag mit.
„Ohne Sicherheitsmaßnahmen könnten die Cybersicherheitsfunktionen von Fable 5 missbraucht werden und ernsthaften Schaden anrichten“, betonte Anthropic. „Deshalb haben wir beschlossen, es mit Sicherheitsmaßnahmen öffentlich zu veröffentlichen, die Anfragen zu bestimmten Themen an unser nächstleistungsstärkstes Modell, Claude Opus 4.8, umleiten.“
Diese Einschränkung gilt für Nutzeranfragen zur Cybersicherheit, aber auch zu Biologie und Chemie, so Anthropic, das die Gefahr sieht, dass die Modelle die Herstellung biologischer Waffen erleichtern. Das Unternehmen führte auch die „Destillation“ an, eine Technik, bei der ein kleineres Modell ein größeres konsultiert, um es zu kopieren – eine Praxis, die nach Angaben des Unternehmens von chinesischen Agenten angewendet worden wäre. Wenn in diesen Bereichen eine Anfrage erkannt wird, sollte Fable 5 die Anfrage ablehnen und an Opus 4.8 weiterleiten.
