AnthropicアルゴリズムがNSAの防御を記録的な速さで突破したため、ホワイトハウスがMythos 5を禁止
Anthropic が開発した Mythos 5 と呼ばれる革新的な人工知能アルゴリズムは、ホワイトハウスからの直接命令によりすぐに流通から取り消されました。この措置は特に、このモデルがソフトウェアの欠陥を特定する優れた能力を備えており、米国の国家安全保障にとって高いリスクをもたらすという理由で、外国企業によるこのツールの使用を禁止している。この決定は、高度なAI技術の破壊的な可能性について各国政府の間で懸念が高まっていることを浮き彫りにした。
Mythos 5 アルゴリズムは数時間で機密機関のシステムに侵入します
この事件に関する未発表の憂慮すべき詳細が英誌エコノミストに掲載され、状況はさらに深刻になった。 3月に国家安全保障局（NSA）長官に就任したジョシュア・ラッド将軍が明らかにしたように、Mythos 5は安全保障局の機密システムの「ほぼすべて」にアクセスすることに成功した。最も驚いたのは、侵入のスピードがわずか数時間だったことで、従来のセキュリティ テストでは数週間かかることが予想されていたのとは対照的でした。この発見は、影響力のある米国上院情報委員会の副委員長であるマーク・ワーナー上院議員に伝えられ、この事件が政府最高レベルで真剣に扱われていることを示した。
Mythos 5 が NSA のセキュリティ障壁を克服した機敏性は、人工知能の脆弱性分析機能の質的飛躍を示しています。人間のレッドチームは複雑なシステムの弱点を特定するのに数週間、場合によっては数か月を費やしますが、AI はその時間のほんの一部でタスクを完了しました。この事実は、このような強力なアルゴリズムによって引き起こされる可能性のあるサイバー脅威に対する現在の防御の有効性について緊急の疑問を引き起こし、サイバーセキュリティ戦略を再評価し、同様の高度な対策を開発する必要性を浮き彫りにしています。
NSA がセキュリティ演習で AI をどのように使用したかを理解する
侵入にもかかわらず、人工知能がシステムを攻撃するために自律的に動作したわけではないことを明確にすることが重要です。初期評価では、NSA が「レッドチーム」の演習でこのモデルを採用したことが示唆されています。これは、専門家がサイバー攻撃をシミュレートして自身のネットワークの脆弱性を特定して修正し、防御の回復力を向上させる標準的な方法論です。その目的は、洗練された敵の戦術をシミュレートする最先端のツールを使用して、セキュリティ障壁の限界をテストすることでした。管理されているとはいえ、このシミュレートされた環境における Mythos 5 の有効性は、このテクノロジーが悪者の手に渡ったり悪意を持って使用された場合に何が起こるかについて警告を発しました。
Leia Também
アルゴリズム履歴から障害を見つける能力がわかる
以前の評価で、Mythos 5 はすでにその優れた有効性を実証していました。 Mozilla Foundation によって認可されたテストでは、このアルゴリズムにより、世界中で最も使用されているブラウザの 1 つである Firefox ブラウザに 271 件のセキュリティ上の欠陥が特定されました。このような堅牢なツールに内在する危険性についての懸念の高まりに直面して、Anthropic は、その使用を管理し、潜在的なリスクを軽減するために、アルゴリズムへのアクセスを制限し、特定の承認を受けた研究者および機関のみが利用できるようにすることを決定しました。この制限されたアクセス ポリシーは、このような重大な影響力を持つテクノロジを扱う際の企業の責任を強調しています。
Fable バージョンのクイック リリースと削除
6 月 9 日、Anthropic は、Mythos 5 のより制御されたバージョンとされる Fable をリリースし、危険な行為を防ぐように設計された安全装置を組み込んでいます。ただし、Fable が利用できるようになるのは非常に短期間でした。わずか 3 日後の 6 月 12 日、ホワイトハウスは再び介入し、テンプレートを Web サイトから直ちに削除するよう命令を出しました。この迅速な措置は、Amazon のエンジニアがこれらの保護を回避する方法を発見したという申し立てによって引き起こされました。これにより、リスクの持続に関する管轄当局からの警告が出され、高度な AI 機能に対して効果的な障壁を設けることが難しいことが実証されました。
今回の禁止措置の再発は、今度は「寓話」バージョンにおいても、米国政府が強力なAIの制御という問題に緊急性と真剣さを持って取り組んでいることを示している。 「安全な」バージョンのリリース直後にホワイトハウスが直接介入したのは、現在、悪用のリスクが管理された利益を上回っているという認識を反映している。このエピソードは、人工知能のガバナンス、特にテクノロジー自体が生み出す可能性のある脆弱性を予測して無力化する能力に関する議論に重要な章を追加します。
人間論と人工知能の倫理的制御に関する議論
Anthropic には、自社の人工知能を利用可能にする前に、その潜在的な危険性について公に警告してきた注目すべき歴史があり、これは GPT-2 や GPT-3 などのモデルに基づく以前のバージョンで見られた慣行です。ただし、Mythos 5 と Fable は大幅な技術的進歩を表しており、以前のバージョンと比較して優れた機能と大幅に大きな損害の可能性を示しています。この複雑さと能力の飛躍は、高出力人工知能の開発における制御と倫理についての深い議論を引き起こします。これらのアルゴリズムに関連する事件により、技術革新と安全性および責任のバランスをどう取るかについての世界的な議論が激化しています。この課題には、効果的な基準を確立し、AI が安全性を損なうことなく人類に利益をもたらすことを保証するために、政府、企業、科学界の協力が必要です。
