アメリカのスタートアップ Anthropic は、4 月に最初に限られたグループのパートナーのみが利用できるようにしたモデルで、サイバーセキュリティ関連のリクエストを制限するセキュリティ対策を導入すると発表しました。
Anthropic は、強力なサイバー攻撃能力によりアクセスが制御されていた人工知能モデルである Mythos の限定的な消費者向けバージョンの提供を開始しました。 「Claude Fable 5」と呼ばれるこの新しいオプションは、「Mythos タイプのモデルですが、一般的な使用には安全に作られています」と、今週火曜日、6 月 9 日のブログ投稿で Claude アシスタントを担当する会社に伝えました。
「セキュリティ対策がなければ、Fable 5 のサイバーセキュリティ機能が悪用され、重大な損害を引き起こす可能性があります」と Anthropic 氏は強調しました。 「そこで私たちは、特定のトピックに関するクエリを当社の次に強力なモデルである Claude Opus 4.8 にリダイレクトする保護措置を講じて公開リリースすることにしました。」
Anthropic によれば、この制限はサイバーセキュリティに関するユーザーのリクエストに適用されるだけでなく、生物学や化学にも適用され、モデルが生物兵器の作成を促進するリスクがあると考えられています。同社はまた、小型のモデルが大型のモデルを参照してコピーする手法である「蒸留」にも言及したが、同社によれば、この手法は中国の代理店によって使用されていたと考えられるという。これらの領域でリクエストを検出した場合、Fable 5 は拒否し、クエリを Opus 4.8 に転送する必要があります。
