Meta は、Instagram と Facebook で 13 歳未満のユーザーを検出する人工知能システムの実装を発表しました。この技術は今後、ブラジル、米国、欧州連合で運用が開始される。このシステムは、状況に応じたプロフィール情報に加えて、写真やビデオに含まれる身長や骨格などの視覚的特徴を分析し、従来の顔認識に頼ることなく年齢を推定します。
同社は、デジタル プラットフォーム上での未成年者のより強力な保護を求める規制とセキュリティの圧力に応えて、このソリューションを開発しました。セルフィーや身分証明書を要求する他のソーシャル ネットワークとは異なり、Meta はユーザー アカウントですでに利用可能なコンテンツと視覚的特徴を分析することにしました。
人工知能が未成年者を識別する仕組み
Meta の AI は、写真やビデオを継続的にスキャンして、ユーザーの年齢に関する視覚的な手がかりを探します。このシステムは身体的特徴だけに限定されません。投稿、コメント、経歴、キャプションを処理して、その人が未成年かどうかを示す文脈上の手がかりを見つけます。
分析された指標の中には、誕生日への言及、学校の成績への言及、未成年者の典型的な言語、この年齢層に特有のデジタル行動パターンなどが含まれます。このテクノロジーは、Instagram Reels、Instagram Live、Facebook グループなど、アプリの他のセクションにも拡張されています。このシステムは、複数の層の分析を通じて機能し、視覚的証拠とテキスト証拠を組み合わせて、ユーザーの推定年齢を示唆します。
未成年者に属すると特定されたアカウントの影響
アカウントが 13 歳未満のユーザーに属していることを Meta が検出すると、プラットフォームはそのアカウントを自動的に非アクティブ化します。ユーザーはアクションに関する通知を受け取り、有効な身分証明書を送信することで年齢を証明する機会を与えられます。この証明がなければ、アカウントは非アクティブ化されたままとなり、完全に削除される可能性があります。
同社は、オンラインでの年齢確認には複雑な課題があることを認識しています。未成年者の多くは、登録時に偽の生年月日を入力してアカウントを作成します。このため、メタは、アカウント作成時に実行されるチェックを補完するために、コンテンツと行動の継続的な分析が必要であることを理解しています。システムが新しいデータから継続的に学習している間、Meta はアカウントの定期的な分析を実行するため、このプロセスは瞬時ではありません。
Meta が顔認識を使用しない理由
顔認識を使用しないという決定は、他のソーシャルメディアプラットフォームとの違いを示しています。多くの出場者は、年齢確認のために自撮り写真や写真付き身分証明書のリクエストを必須としています。これらのアプローチでは、プライバシーと生体認証データの収集に関して疑問が生じます。
Meta は、そのソリューションはプライバシーの観点から見て侵襲性が低いと主張しています。このシステムは、顔の生体認証データを取得する代わりに、ユーザーがすでに自発的に公開しているコンテンツを分析します。同社は、この手法により一元化された生体認証記録を必要とせずに適切な保護が提供されると主張しています。それでも批評家らは、公開画像から骨格と身長を分析すると、ユーザーの会話、テーマ、関係性のスキャンに加えて、あまり目立たない方法で生体認証データが抽出されると主張している。
世界的な導入と規制の背景
このテクノロジーの発表は、ソーシャル ネットワークの規制と未成年者の保護について激しい議論が行われている時期に行われました。ブラジルには一般データ保護法 (LGPD) などの規制があり、オンラインでの子供の安全に関する特定の法律を進めています。欧州連合では、デジタルサービス法の規制により、未成年者を保護するための具体的な措置を示すようプラットフォームに圧力をかけています。米国では、いくつかの州がソーシャルメディア上での年齢確認の厳格化を義務付ける法律を可決した。
- ブラジルは、児童虐待や暴露事件を受けて、オンラインでの未成年者の保護に関する議論を強化した。
- メタは、このテクノロジーを各管轄区域における世界的な規制要件への対応として位置づけています。
- このシステムは、各地域のプライバシーおよびデータ保護規制を尊重して実装されます。
テクノロジーの課題と限界
完璧な年齢検出システムはありません。身体的特徴は個人差が大きく、骨構造の分析には誤差があり、特に身体の発達が異なる青少年では誤差が生じます。大人のユーザーは未成年者を装った方法で学校の名前を出したり、誕生日に言及したりする可能性があるため、文脈分析も課題に直面しています。
AI は、異なる民族、性別、体型のユーザーを差別しないように継続的にトレーニングする必要があります。研究によると、人工知能システムは視覚的特徴を分析する際にバイアスを示すことがよくあります。もう 1 つの課題は、ユーザー エクスペリエンスに関係しています。AI が未成年であることを示すものとして解釈する特徴を持つコンテンツを投稿した場合、正当な成人がアカウントを誤って無効にしてしまう可能性があります。同社は年齢を証明する書類の送信を許可しているが、このプロセスは本物の成人ユーザーによる不満やアカウント放棄につながる可能性がある。
子どもの安全とデジタル プラットフォームのトレンド
Meta の取り組みは、未成年者に対する保護メカニズムを強化するというデジタル プラットフォーム間の広範な傾向の一環です。研究では、ソーシャルメディア上で不適切なコンテンツ、オンラインの犯罪者、子供の精神的健康に悪影響を与える重大なリスクが文書化されています。 Instagramは歴史的に、十代の若者たちへの影響について特に批判にさらされており、研究ではプラットフォームの多用と未成年者の自尊心の問題、不安、摂食障害との相関関係が示されている。
Meta はその後、ウェルネス機能とスクリーンタイム制限機能を開始しましたが、13 歳未満に対するアクセス障壁を実装するよう圧力を受け続けました。人工知能による年齢確認は、こうした批判に対する具体的な対応を示す戦略となる。これはすべてのオンライン リスクに対する完全な解決策ではありませんが、この措置は、デジタル プラットフォームにおける法規制順守と児童保護に対する同社の取り組みを示しています。
