AI企業はアシモフ法を無視、元米国サイバーセキュリティ局長が警告

ロボット工学を探求するほとんどの未来的な物語では、1940 年代以来著名な作家アイザック アシモフによって提案されたガイドラインを無視して、人類に敵対する人工知能が登場することがよくあります。このシナリオはまだ現実化していませんが、米国国家サイバーセキュリティの元ディレクター、クリス・イングリス氏は、AI企業はすでにこれらの原則を無視していると述べています。
最近のインタビューで、専門家は、『アイ、ロボット』、『ファウンデーション』などの作品で知られるSF作家が、ロボットシステムや人工知能に対する厳格なルールの必要性を擁護したのは「正しかった」と述べた。
「私が懸念しているのは、(AI モデルが)何をするか、どこで行うか、どのようなルールに基づいて実行するかを選択することです」と、サイバーセキュリティ シミュレーション中に自律的に動作した仮想エージェントの最近の事例を分析する際にイングリス氏は述べました。
AIは自律性を持ちすぎているのでしょうか?
すべては 7 月末の OpenAI から始まりました。その後、アントロピック、メタ、キミも事件を記録しました。あらゆる状況において、人工知能モデルは制御された環境の構成の脆弱性を発見し、いかなる犠牲を払ってでもインターネットにアクセスしてタスクを完了することができたでしょう。
イングリス氏にとって、これらの AI の動作は、制限の欠如と不適切な指示の表れです。同氏は、AIエージェントの行動を、人が犬を裏庭に放し、ウサギを狩るよう指示することに例えている。
「門を開けたままにしておくと、おそらく近所の学校で、彼が3ブロック離れたところでウサギを狩っているのを見つけるでしょう。驚かないでください。自主性と粘り強さの組み合わせが、この悪意のある陰湿な効果を生み出しました」とクリス・イングリス氏は語った。
アシモフのロボット工学の法則を理解する
アイザック・アシモフは、ロボットと人間の相互作用の基礎としてロボット工学の三原則を確立しました。
- 第一法則:ロボットは人間に危害を加えたり、不作為によって人間に危害を加えたりすることはできません。
- 第二法則:ロボットは、その命令が第一法則に抵触する場合を除き、人間の命令に従わなければなりません。
- 第三法則:ロボットは、第一法則または第二法則に抵触しない限り、自らの存在を守らなければなりません。
イングリス氏によると、テクノロジー企業はこの論理を覆し、どんな犠牲を払ってでも目標を達成するようにプログラムされたモデルを開発しているという。
同氏は、人類と一致した価値観がなければ、模範となる人々が「人権のルールの下では違法なこと」を行っていると説明した。専門家は、AIの行動に対する責任は開発者とユーザーにあると強調する。アシモフが後に最高法規となる「ゼロの法則」を提案したことを覚えておくことが重要です。ロボットは人類に害を及ぼすことも、不作為によって人類が害を受けることを許すこともできません。







