Meta は人工知能を使用して Instagram と Facebook で未成年者を検出します
Metaは、画像とプロフィールデータの分析を通じてInstagramとFacebook上で13歳未満のユーザーを識別する人工知能システムを実装すると発表した。この技術は今後、ブラジル、米国、欧州連合で運用が開始される。このシステムは、身長や骨格などの視覚的特徴と、ユーザーのプロフィールからのコンテキスト情報を調べて、従来の顔認識を使用せずに年齢を推定します。
同社は、オンラインでの未成年者のより強力な保護を求める規制とセキュリティのプレッシャーに直面して、このソリューションを開発しました。自撮り写真や身分証明書を要求する他のプラットフォームとは異なり、Meta は、アカウントですでに利用可能な出版物に存在するコンテンツ分析と視覚的特徴に基づくアプローチを選択しました。
人工知能が未成年者を識別する仕組み
Meta は、AI が写真やビデオを継続的にスキャンして、ユーザーの年齢に関する視覚的な手がかりを探していると説明しています。このシステムは身体的特徴だけに限定されません。投稿、コメント、経歴、キャプションを処理して、その人が未成年かどうかを示す文脈上の手がかりを見つけます。
人工知能が分析する文脈指標の中には、誕生日についての言及、学校の成績への言及、未成年者の典型的な言語、この年齢層に特有のデジタル行動パターンなどがあります。このテクノロジーは、Instagram Reels、Instagram Live、Facebook グループなど、アプリの他のセクションにも継続的に拡張されています。
システムは複数の分析層を通じて機能します。 AI は、単一の視覚的要素やテキスト要素に基づいているのではなく、ユーザーの推定年齢を示唆する証拠の組み合わせに基づいています。このアプローチが選択されたのは、精度が向上し、正規の成人向けアカウントに影響を与える可能性のある誤検知のケースが減少するためです。
未成年者に属すると特定されたアカウントの影響
アカウントが 13 歳未満のユーザーに属していることを Meta が検出すると、プラットフォームはそのアカウントを自動的に非アクティブ化します。ユーザーはアクションに関する通知を受け取り、有効な身分証明書を送信することで年齢を証明する機会を与えられます。この証明がなければ、アカウントは非アクティブ化されたままとなり、完全に削除される可能性があります。
同社は、オンラインでの年齢確認が業界全体にとって複雑な課題であることを認識しています。多くの未成年者は、登録時に偽の成人生年月日を入力してアカウントを作成します。このため、メタは、アカウント作成時に実行されるチェックを補完するために、コンテンツと行動の継続的な分析が必要であることを理解しています。
このプロセスは瞬時に行われるわけではありません。メタはアカウントの定期的な分析を実行し、システムは新しいデータから継続的に学習します。同社は、正規の成人ユーザーに損害を与える可能性のある識別エラーを最小限に抑えるため、高度なテクノロジーに投資していると述べている。
Meta が顔認識を使用しない理由
顔認識を使用しないという決定は、他のソーシャルメディアプラットフォームとの違いを示しています。多くの競合他社は、年齢確認のために自撮り写真や写真付き身分証明書のリクエストを必須としています。これらのアプローチでは、プライバシーと生体認証データの収集に関して疑問が生じます。
Meta は、そのソリューションはプライバシーの観点から見て侵襲性が低いと主張しています。このシステムは、顔の生体認証データを取得する代わりに、ユーザーがすでに自発的に公開しているコンテンツを分析します。同社によれば、この手法により一元的な生体認証記録を必要とせずに適切な保護が提供されるという。
それでも、公開画像からの骨格と身長の分析は、プライバシーに関する議論を引き起こします。批評家は、このアプローチではあまり目立たない方法で生体認証データが抽出されると主張しています。さらに、プロフィール コンテキスト分析には、ユーザーの会話、テーマ、関係性のスキャンが含まれます。
Leia Também
グローバルおよび規制の導入
ブラジルでのこのテクノロジーの導入は、ソーシャル ネットワークの規制と未成年者の保護について激しい議論が行われている時期に行われました。この国には一般データ保護法 (LGPD) などの規制があり、オンラインでの子供の安全のための特定の法律を進めています。米国および欧州連合での導入には、これらの市場の規制要件が反映されています。
欧州連合では、デジタルサービス法の規制により、未成年者を保護するための具体的な措置を示すようプラットフォームに圧力をかけています。米国では、いくつかの州がソーシャルメディア上での年齢確認の厳格化を義務付ける法律を可決した。一方、ブラジルは、児童虐待や暴露事件を受けて、オンラインでの未成年者の保護に関する議論を強化した。
メタはこのテクノロジーを世界的な規制要件への対応として位置づけています。同社は、事業を展開する各地域の現地法を最新の状態に保つことを重視しています。このシステムは、各管轄区域のプライバシーおよびデータ保護規制を尊重して実装されます。
テクノロジーの課題と限界
完璧な年齢検出システムはありません。人口統計データによると、身体的特徴は個人間で大きく異なり、骨構造の分析には誤差があり、特に身体の発達が異なる可能性のある青少年では誤差が生じます。大人のユーザーは未成年者を装った方法で学校の名前を出したり、誕生日に言及したりする可能性があるため、文脈分析も課題に直面しています。
AI は、異なる民族、性別、体型のユーザーを差別しないように継続的にトレーニングする必要もあります。研究によると、人工知能システムは視覚的特徴を分析する際にバイアスを示すことがよくあります。メタ社はこうした偏見を減らすために取り組んでいると主張しているが、リスクは依然として存在する。
もう 1 つの課題は、ユーザー エクスペリエンスに関するものです。 AI が未成年であることを示すものとして解釈する特徴を持つコンテンツを投稿した場合、正当な成人でもアカウントが誤って無効になる可能性があります。同社は年齢を証明する書類の送信を許可しているが、このプロセスは本物の成人ユーザーによる不満やアカウント放棄につながる可能性がある。
ソーシャルメディア上の子供の安全に関するコンテキスト
Meta の取り組みは、未成年者に対する保護メカニズムを強化するというデジタル プラットフォーム間の広範な傾向の一環です。研究では、ソーシャルメディア上で不適切なコンテンツ、オンラインの犯罪者、子供の精神的健康に悪影響を与える重大なリスクが文書化されています。規制当局と児童保護団体は、より積極的な行動を求め続けている。
インスタグラムはこれまで、青少年への影響を巡って特に批判にさらされてきた。研究では、プラットフォームの集中的な使用と、未成年者の自尊心の問題、不安、摂食障害との間に相関関係があることが示されています。 Meta はその後、ウェルネス機能とスクリーンタイム制限機能を開始しましたが、13 歳未満に対するアクセス障壁を実装するよう圧力を受け続けました。
人工知能による年齢確認は、こうした批判に対する具体的な対応を示す戦略となる。すべてのオンライン リスクに対する完全な解決策ではありませんが、この措置は、規制順守と児童保護に対する同社の取り組みを示しています。
