世界の指導者らは若者をアルゴリズムから守るための前例のないデジタルセキュリティ協定を要求

現在の技術シナリオでは、世界のリーダーによる即時の対応が求められており、人工知能ガバナンスに関する第 1 回世界対話では、デジタル環境における子どもの保護が中心的なテーマとなりました。スイスのジュネーブ市で開催されたこの会議は国連が主催し、テクノロジーの専門家、議員、政府代表が一堂に会した。この前例のないサミットの主な目的は、生成アルゴリズムの急速な進歩の詳細な概要を提供し、ネットワークの最も脆弱なユーザーに対するセキュリティ パラメータを確立することでした。

このテーマを議論する緊急性は偶然に生じたものではなく、世界的な市民社会の大規模な動員に対する直接的な反応として生じました。 100を超える非政府組織と人権団体が力を合わせて、テクノロジー大手に対し自主規制を放棄し、自社製品に対して法的責任を負うことを要求している。この圧力阻止は、新しいコンピュータシステムが未成年者の認知的および社会的発達に取り返しのつかない損害を与えないようにするための唯一の実行可能な方法は企業の責任であると主張している。

アルゴリズムの進歩と世界的な法律の不一致

国連外交部長のアントニオ・グテーレス氏は、冒頭のスピーチで現在の技術競争に関する憂慮すべき診断の概要を述べた。同事務総長は、自動化ツールの開発のスピードが規制の深淵を生み出し、議員、政府、さらにはソフトウェア技術者自身さえもその作成物を制御できなくなっていると指摘した。国際指導者によると、私たちは金融市場を再構築し、世界の雇用の方向性を決定し、民主的な選挙プロセスに干渉し、人間の精神では同化できないペースで国家安全保障規則を書き換えることができる勢力に直面しているという。

デジタル混乱のシナリオを避けるために、ポルトガルの外交官は、すべての大陸でこれらのプラットフォームの使用と開発のルールを標準化する世界協定の緊急性を擁護した。国連指導部が提示したビジョンは、規制が進歩を妨げるという考えを否定し、真の技術革新は基本的権利の保護と並行して行われる必要があると主張している。パネルディスカッションでの彼の最も力強い発言の一つで、社会に対して変革的な力を行使することを目的としたテクノロジーは必然的にガバナンスと公的監視の厳格なメカニズムに従わなければならないと述べた。

スイスのフォーラムで行われた議論は、歴史的文書が科学界に提示されたことにより、技術的な支持を得ました。これは、インテリジェント オートメーションの影響を示す、世界初の完全に公平な大規模なマッピングであり、40 人の最先端の研究者で構成される委員会によって綿密に作成されました。国連の制度的支援を受けて活動するこの著名人グループは、ニューラル ネットワークがどのように人間の行動を形成しているのか、また、必要なセキュリティ対策なしで大規模に導入された場合の本当のリスクは何かについて、数か月をかけて実証データをまとめました。

子供と青少年のニューラルネットワークに対する脆弱性

会議で最も緊張が高まった点は、新世代が早期に無防備に会話型ロボットや推奨アルゴリズムにさらされることを中心に展開した。世界外交責任者は、機械学習に基づくアプリケーションがすでに学校生活、エンターテイメントプラットフォーム、若者の親密な会話に組み込まれているという事実に深い懸念を表明した。大きな危険は、これらのツールが子供や若者にとって完全に安全であることが証明される厳格な監査を受けるずっと前に、消費者市場に投入され、何百万もの家族の日常生活に組み込まれていたという事実にあります。

• テクノロジー企業に対し、子供や若者向けの製品を発売する前に外部の独立した監査を実施することを義務付ける。
• 未成年者を性的対象とするあらゆるビジュアルコンテンツの生成、配布、保存を防止する絶対的で交渉の余地のないフィルターを実装します。
• 機械との対話中に心理的苦痛の兆候を特定し、直ちに使用を中止できるインテリジェンス機構を開発する。
• すべての加盟国で新世代のためのデジタル保護法を統一する拘束力のある国際条約を確立します。

状況の深刻さと緊急性を説明するために、当局は過去数十年間にわたる破壊的テクノロジーの導入に関する検索された履歴データを提示しています。 World Wide Web が最初の 10 億人のユーザーを接続するには 10 年半の継続的な拡張が必要でしたが、現代の自然言語処理システムはそのマイルストーンをわずか 24 か月で粉砕しました。人類史上まったく前例のないこの浸透率は、若者と擬似的な感情的な絆を生み出すアルゴリズムの能力と相まって、虐待の肥沃な土壌を生み出しています。これらの高度なツールの管理は数十億ドル規模の企業とごく少数の世界的大国に制限されているため、シナリオは技術独占によりさらに複雑になります。

国際的な圧力によりテクノロジー大手企業の姿勢の変化が求められる

規制の欠如に対する外交上の包囲は、スイスでの本会議が正式に開会する直前に激しさを増した。 100以上の権威ある機関で構成されるコンソーシアムは、アムネスティ・インターナショナルとセーブ・ザ・チルドレンという団体の積極的な参加を得て、具体的かつ即時行動を求めるマニフェストを発表した。この世界的な運動の調整は、デジタル著作権に特化した団体である 5Rights Foundation の責任であり、安全な仮想環境を確保する負担はテクノロジー企業の財務バランスシートに完全に移管され、現在保護者や教育者の肩にかかる非現実的な負担を軽減するという明確な主張を擁護しています。

世界の指導者らに配布された文書は、シリコンバレーのビジネスモデルを根本的に変えることを約束する一連の懲罰的・予防策を提案している。連合の主な要求の中には、商業打ち上げ前に極端なリスクシナリオをシミュレートする厳格なストレステストを実施する義務がある。さらに同団体は、子どもの安全を無視する企業に対し、世界的な収益に比例した厳しい罰金を課すことを要求している。マニフェストのもう 1 つの譲れない点は、新しい計算モデルのトレーニングを目的とした 18 歳未満の個人からの写真、音声記録、生体認証データの収集、保管、収益化の全面的かつ決定的な禁止です。

5Rights Foundation のエグゼクティブディレクターである Leanda Barrington-Leach 氏は、このイベントの注目度を利用して、この法的ギャップによる被害者の懸念に声を上げました。この活動家は、今日の若者はすでにデジタル環境の危険性を完全に理解しており、システムの欠陥を明確に診断していると指摘した。専門家によると、新世代は科学の発展を遅らせたり、革新的なツールの使用を禁止したりすることを望んでいないが、悲劇がすでに起こった後に心理的、社会的ダメージを修復するためだけに欠陥製品を市場に投入することを好む現在の産業モデルは受け入れられないと考えているという。

無秩序な進軍を阻止するための外交の次のステップ

ジュネーブでの交渉ラウンドの終了は、作業の終了を示すものではなく、むしろ今後数カ月にわたる緊密な外交スケジュールの始まりを示すものである。国際社会は、さらに深く詳細な科学文書の公開を大きな期待を持って待っており、正式公開は来年の予定となっている。この資料は、議論をニューヨーク市の国連本部に移す、新しく決定的な世界サミットの理論的基礎として機能します。この一連の会議の最終的な目的は、テクノロジー研究所からのイノベーションに追いつくのに十分な機敏性を備えた国際ガバナンス アーキテクチャをきっぱりと統合し、デジタルの未来が世界中の若者にとって安全な開発空間となることを保証することです。