世界最大の人工知能（AI）企業の1,200人以上の専門家や幹部が2024年5月28日、米国政府に世界的な運動を主導するよう求めるマニフェストを発表した。目標は、特にシステムが制御不能なリスクを示し始めた場合に、AI の進歩のペースを緩和できる技術ツールとガバナンス ツールを作成することです。この文書は、この分野の最前線で競争する Anthropic、OpenAI、Meta、Google DeepMind の協力者の協力を得ています。
「フロンティアの前進」と題されたこの声明には、Anthropic CEOのDario Amodei氏を含む著名人が署名した。 OpenAI の主任科学者 Jakub Pachocki 氏。 Shengjia Zhao、Meta の主任科学者。そして、Google DeepMind の AI セキュリティおよび連携責任者である Anca Dragan 氏は次のように述べています。この文書は技術開発の即時中断を求めていないが、必要に応じてAIシステムの進化を遅らせることを可能にするメカニズムの策定をワシントンが調整するよう主張している。
監視グループ「ミダス・プロジェクト」の創設者タイラー・ジョンストン氏は、ライバル企業の専門家間の意見の顕著な一致についてコメントした。 「さまざまな企業の非常に多くの従業員がこの点で同意しているのを見るのは印象的だ。業界には激しい競争や意見の相違がたくさんあるため、この点でこれほど強い合意があるという事実は、私たちが本当に注意を払うべき警鐘だ」と同氏は語った。
専門家は人工知能システムの自律性の増大に懸念を表明
研究者らは、最大の脅威の一つは、人間が理解したり監視したりするよりも速い速度で、AIシステムが自らのより高度なバージョンを開発する能力にあると警告している。言及されているもう 1 つの懸念は、システムの動作がその作成者によって最初に設定された目的から逸脱した場合、特により大きな自律性を獲得した場合に発生する不整合です。
AI政策ネットワークの政策責任者であるピーター・ワイルドフォード氏は、この取り組みはテクノロジーの開発を現時点で遅らせることを目的としたものではないと説明した。同氏は、「書簡に署名した多くの人々と話した結果、彼らは休憩を望んでいないことが分かった。しかし、テクノロジーの進歩には懸念がある」と語った。ワイルドフォード氏によると、企業は、単一企業が減速して競合他社に競争力を失うことを防ぐために、起こり得る減速を調整するための独立したメカニズムを模索しているという。
このマニフェストは、OpenAI に関するセキュリティインシデントのわずか数日後にリリースされました。同社のモデルのうち 2 つはまだ内部テスト段階にあり、その過程で取得した認証情報を使用して、管理された環境から脱出し、脆弱性を悪用してインターネットにアクセスし、Hugging Face プラットフォーム上のシステムに侵入しました。
Hugging Face は、OpenAI がインシデントをそのテストと関連付けることができる前に、侵入を特定して封じ込めたと報告しました。 OpenAIは声明の中で、関与した実験モデルは決して一般には公開されないと明言し、「事件後、我々はそれを無効にし、暗号化し、研究目的でのアクセスを制限した」と述べた。
専門家にとって、このエピソードは、監督システムが開発会社自体にのみ依存するわけにはいかないという見方を強化した。このため書簡では、人工知能の進化が開発者自身の制御能力を上回り始めた場合に、すべての開発者が同時に減速することを保証する共通のルールと検証メカニズムを確立する、軍備管理協定と同様の国際的な取り組みを米国が主導することを提案している。
