YouTubeは今週火曜日（10日）、類似性検出ツールを政府関係者、政治候補者、ジャーナリストで構成される試験グループに拡大すると発表した。この技術は、人工知能によって生成され、許可なく人の顔を再現した動画を識別します。このイニシアチブは、国内外に関連する問題についての公開討論や報道に積極的に参加する人々のアイデンティティを保護することを目的としています。
同社は、今回の措置がAIによる画像操作の増加に対応したものであると強調している。著名人は、選挙期間中や機密性の高い報道において、なりすましのリスクが高まります。招待によってアクセスが制御されると、参加者は自分の身元を確認し、顔の類似性を利用したコンテンツの監視を開始します。
このツールは、著作権保護のためにすでに統合されている Content ID と同様の方法で機能します。プラットフォーム上の新しいアップロードを自動的にスキャンします。一致するものが見つかると、YouTube Studio の認証済みユーザーに確認と削除リクエストの可能性を通知します。
市民指導者を保護するための拡大
このニュースは、パートナー プログラムにおけるクリエイター向けの類似性検出の最初の開始から 4 か月後に発表されました。最初のフェーズでは、このテクノロジーは収益化されたコンテンツ制作者を対象にテストされました。現在では、公の場や報道機関で重要な地位にある人々を保護することに重点が移ってきています。
YouTubeは、ディープフェイクのリスクは政治家やジャーナリストにとって特に高いと述べている。このプラットフォームは芸能事務所と提携して開発を開始し、幅広いクリエイターとテストを実施しました。初期検出のほとんどは、無害なコンテンツ、または関係者にとって有利なコンテンツでさえありました。
パイロットへの参加要件
興味のある方は企業から直接招待状を受け取ります。政府発行の公式の写真付き身分証明書を提出する必要があります。検証のために短い自撮りビデオを録画して提出することが必須です。承認後、YouTube Studio パネルの特定のタブにアクセスします。このツールを使用すると、検出されたビデオを確認し、削除をリクエストできます。
顔検出の技術的機能
この技術は、送信されたビデオの顔分析を優先します。このシステムは、この初期段階では音声検出をカバーしません。 YouTube は、将来のアップデートに音声を含めるかどうかを検討する予定です。不審なコンテンツがアップロードされるとすぐに通知が届きます。
参加者はスタジオにリストされた各ケースを分析します。彼らは、その素材がプライバシーまたはなりすましのガイドラインに違反するかどうかを判断します。プラットフォームは、削除を承認する前にコンテキストを評価します。パロディ、風刺、政治批判のコンテンツは通常、保存されます。
選挙およびジャーナリズムの文脈における関連性
ディープフェイクは、AI動画生成ツールの急速な進歩により注目を集めています。操作されたビデオは、当局の発言や行動に対する認識を変える可能性があります。この拡大は、情報の信頼性がより重視される米国の中間選挙の日程と重なっている。
専門家は公人が関与する事件の増加を監視している。 YouTubeは、新しいツールがAIによって生成されたコンテンツへのラベル付けの義務化などの既存の措置を補完すると強調している。同社は、合成メディアでの自社画像の使用を規制する連邦法の制定を擁護している。
ツールの制限と今後のステップ
検出は、新しいビデオの処理中にリアルタイムで行われます。顔の類似性だけに重点を置くと、現在の範囲が制限されます。 YouTube はアルゴリズムを改良するためにパイロット参加者からフィードバックを収集します。このプラットフォームは、関心を表明する政府関係者、候補者、ジャーナリストへのアクセスを拡大することを目的としています。
削除リクエストはコミュニティの一般的なルールに従います。検出されたすべてのケースがコンテンツの削除につながるわけではありません。同社は、決定にはビデオの潜在的な影響と完全なコンテキストが考慮されていると主張しています。
合成コンテンツのモデレーションの進歩
この取り組みは、人工知能の悪用と闘う上で重要なステップとなります。著名人は、プラットフォーム上の自分のイメージを監視するための積極的なメカニズムを利用できます。 YouTube は、公開討論の信頼性を維持するという取り組みを強調しています。
同社は、改ざんを防ぐためのテクノロジーへの投資を続けています。ジャーナリストや政治家への拡大では、イノベーションと適度な責任のバランスをとることを目指しています。プログラムは現在のテスト結果に基づいて進化する必要があります。
