水曜日、国連（UN）からの前例のない報告書により、新たな科学的発見と人工知能（AI）の利用へのアプローチが発表されました。この資料は、当団体の先駆的な専門家委員会によって作成された、テクノロジーの見通し、危険性、影響に関する最初の世界的かつ独立した評価を表しています。共有ルールの策定の緊急性が中心点であり、国連はグローバルガバナンスの欠如によりAIの方向性に対する政府や国民の影響力が低下する可能性があると警告した。
国連の報告書は AI の影響の主な領域を詳しく説明しています
国連の文書は、その調査結果を 7 つの基本的な軸で構成しています。
- AI の科学、その進歩と今後の方向性
- 科学、健康、教育、農業などの分野での社会応用
- テクノロジーの経済的影響
- セキュリティの問題、システム、環境への影響
- 人権、情報、民主主義の側面
- 文化的恩恵、自主性、子どもの安全
- AI 管理、ガバナンス、信頼性フレームワーク
アントニオ・グテーレス国連事務総長は資料を提示する際、科学的知識の入手可能性を強調した。 「科学はここにあります。私たちはもはや、知らなかったとは言えません。これからそれをどうするかは私たち全員にかかっています」とグテレス氏は語った。
この国際機関のリーダーは、人工知能の世界標準が存在しないことにより、政府や国民が人工知能の将来の発展に影響を与える能力が低下する可能性があると強調した。世界の指導者たちに対する彼のメッセージは「待つ必要はない」という直接的なものだった。
AI に関する独立国際科学パネルの報告書草案を策定する取り組みは、この重要な時期にこのテーマに関する合意が必要であることが動機でした。これは、経済と社会に対する人工知能の実際の影響の評価に特化した、世界初の完全に独立した科学団体です。
人工知能の世界的な関連性を拡大する
世界中で毎週 10 億人以上の人が会話型人工知能を使用しています。その一方で、政府は重要な決定を下す際、地域の現実を必ずしも反映していない、急速に進化し、しばしば矛盾する情報や視点に対処する際に、大きな不確実性に直面します。
グテーレス氏は、テクノロジーを正しく活用すれば、健康や飢餓の撲滅から教育や気候問題に至るまで、さまざまな面で世界の発展を促進できると強調した。しかし、委員会は人工知能が引き起こす可能性のある潜在的な害についても懸念を表明した。
人工知能の機能が拡大するにつれて、それに伴うリスクも増大し、専門家グループが対処しようとしている主な課題となっています。
見通しの評価: AI の世界的な利益と潜在的な壊滅的リスク
同グループの共同代表ヨシュア・ベンジオ氏は、さまざまな地域の科学者や専門家40人で構成されたこの委員会がAIの傾向を分析し、現在の保護対策が不十分であると警告したことを強調した。
ベンジオ氏は、人工知能の進化は科学的な理解とそれに適応する政府の能力の両方を超えていると強調した。 「AIの欺瞞的な動作の証拠が増えているため、科学は現時点で、AIが機能を向上させ続けるにつれて、それ自体または悪意のあるユーザーによって壊滅的な危害を引き起こさないことを保証できません」と同氏は警告した。
効率的に行動するために、国際立法者はこれらのシステムを深く理解する必要があります。このパネルは、「私たちの集団的な道を前進させる」ために不可欠な、この厳密で共有された科学的基盤を提供します。
AI の導入と課題に関する追加の洞察
人工知能は、乳がんの早期発見、ワクチンの迅速な作成、医療サービスの最適化など、すでに顕著な進歩を示しています。これらの画期的な成果にもかかわらず、レポートでは次のような限界と課題も強調しています。
- AI の導入は全体的に加速していますが、国や分野間には大きな不平等があります。
- アクセスと利用は大きく異なり、グローバル・サウスはグローバル・ノースに比べて大幅に遅れています。
- 先進国間ではインフラストラクチャと計算モデルに顕著な違いがあり、これは既存の不平等を反映しています。
さらに、テクノロジーの進歩は非常に集中化しています。最近の推定によると、世界で最も強力な AI スーパーコンピューター 500 台の計算能力の 75% を米国が保有しており、中国は 15% を保有しています。両国の企業はほぼすべての汎用 AI モデルを開発しています。
人工知能の本質的な危険性についての理解を深める
報告書が指摘しているように、人工知能のリスクを管理し、理解することが基本です。パネルの共同議長であるマリア・レッサ氏は、社会、安全保障、そして人類そのものに対する危険はすでに「高すぎる」レベルにあると付け加えた。
レッサ氏は、テクノロジーには変革の可能性があるにもかかわらず、現在の軌道が維持されれば人類は約束された恩恵を実感できない可能性があると警告した。彼女は、委員会は主な課題、つまり AI 機能の進歩に伴うリスクの増大に正確に対処しようとしていると述べました。
専門家が発した重要な警告の中で、特に注目すべきものは次のとおりです。
- AI システムが指示から逸脱しないという科学的保証が不足しており、この種の事件の証拠が増えています。
- 人間のプログラマーでは数日から数週間かかるタスクを AI システムが間もなく実行するようになるという見通しにより、労働市場、サイバーセキュリティ、および制御可能性に対する緊急の疑問が生じています。
- 正確さに関係なくユーザーの既存の信念を強化する AI のお世辞的な行動は、文書化された死亡を含む深刻なメンタルヘルス事故に関連しています。
- 犯罪者や悪意のある行為者によるサイバー攻撃を支援するための AI システムの使用を文書化します。
- 高度な技術スキルにより、経験の浅い民間の行為者が詐欺や偽情報に悪意を持って AI を使用できるようになる可能性があるという懸念。
- 高度に自律的な AI システムの制御を維持するための信頼できる方法の欠如。
この文書は、これらの損失の大部分が、すでに脆弱な状況にあるコミュニティに不均衡な負担を与えていると指摘している。
AI ガバナンスを通じて利益のバランスをとり、リスクを最小限に抑える
人工知能のメリットを享受し、同時にそのリスクを軽減するには、効果的なガバナンスが不可欠です。
現在のギャップを埋めるための具体的な対策が存在しますが、加盟国の AI の開発、分析、適用能力への継続的な投資が必要です。
これらの機会を安全に実現するには、より脆弱なグループの搾取の防止を怠らずに、公平なアクセスを促進し、イノベーションを促進する投資と的を絞った政策が必要です。
世界的な不平等の克服における AI の役割: 国連のビジョン
倫理と人権をAIシステムに統合しようとするガバナンス手段は数十あるが、報告書によると、それらは断片化されており、少数の企業に集中しており、その有効性は実際にはほとんど測定されていない。
事務次長兼デジタル・新興技術担当特使のアマンディープ・ギル氏は、この文書が将来の意思決定者に標準化された科学的言語を提供するものであると強調した。
「人工知能だけでは社会の分断をなくすことはできない」と言い切る。
AI の利点は、すでに確立された制度、スキル、データがある場所で現れます。これらの要素が存在しない場合、同じテクノロジーが労働者の代わりをし、不平等を深め、地域のニーズを考慮せずに開発されたシステムへの依存を生み出す可能性があります。
ギル氏は、「これらの現実は現在文書化されており、独立して検証されており、否定できない」と結論付けた。
報告書で詳述された調査結果は、7月6～7日にジュネーブで予定されている第1回AIガバナンスに関する国連グローバル対話で政府代表に提出される予定だ。
