AIの使用が増加する中、ディープフェイクを識別できるのは10代の若者のわずか25％であることをマイクロソフトが明らかに 著者 Beatriz
読了時間 約8分
 |
Microsoftは、人工知能によって生成された偽コンテンツを識別することが10代の若者たちのますます困難になっている点を浮き彫りにした世界的なレポートを発表した。この調査は、Safer Internet Day の前夜に発表され、ディープフェイクを正しく検出できる若者はわずか 25% であり、前年に比べて大幅に減少したことを示しています。この現実は、10代の若者の間でAIツールの使用が増加するのと並行して発生しています。
この調査にはさまざまな国からの数千人の参加者が参加し、現在のデジタルシナリオを反映しています。若者はテクノロジーを通じてよりつながりを感じていると報告していますが、オンラインではより大きなリスクにもさらされています。これらの要因が組み合わさることにより、インターネット セキュリティを促進するための行動の必要性が強化されます。
データによると、近年デジタル脅威にさらされる機会が増加しています。ティーンエイジャーは、AI によって促進されるコンテンツ操作や詐欺などの課題に直面しています。
ディープフェイクの識別をドロップする
10代の若者は、本物の素材と人工知能によって作成された偽物の素材を区別することがますます困難になっていると感じています。研究結果によると、ディープフェイクを認識する能力は1年で46％から25％に低下したという。
この減少は、コンテンツ生成テクノロジーの急速な進歩を反映しています。偽のビデオ、画像、音声がより現実的になり、一般ユーザーによる検証が複雑になります。
若者はAIをより頻繁に使用するため、これらの資料に触れる機会が増えています。多くの人が、学校やレジャー活動で生成ツールに毎日触れていると報告しています。
若者が直面するオンライン上の主なリスク
昨年、10代の若者はデジタル脅威の発生率が高かったと報告しています。そのうち約 64% が少なくとも 1 つのオンライン リスクに直面しており、特に特定のカテゴリに重点が置かれていました。
- 参加者の 35% が言及したヘイトスピーチ。
- オンライン詐欺と詐欺、29% が挙げています。
- ネットいじめ、若者の 23% が報告。
これらの事件は青少年の幸福に影響を与え、デジタル環境に不安をもたらします。これらの発生頻度は以前の期間に比べて増加しています。
多くの若者は、これらの問題の一部を AI の悪用と関連付けています。偽のコンテンツを伴う詐欺は、より一般的かつ巧妙になっています。
生成型 AI の使用が大幅に増加
生成人工知能ツールの毎週の使用は、10 代の若者の間で大幅に増加しています。この指数は低水準から回答者の 38% に上昇しました。
若者はこれらのテクノロジーをさまざまな実用的な目的に使用しています。これらは日常業務に役立ち、さまざまな状況で生産性を向上させます。
- ユーザーの 42% が採用した質問への回答。
- アクティビティ計画、41% が使用。
- 作業効率の向上、37% が報告。
この採用は、認識されている AI の利点を反映しています。ただし、関連するリスクにさらされる機会も増えます。
十代の若者たちは、これらのツールが迅速に応答してくれるため、これらのツールとのやり取りを重視しています。彼らは、アクセスしやすい方法で学習や個人の組織化に役立ちます。
AI の影響に対する懸念の高まり
ティーンエイジャーの大多数は、人工知能の悪影響について恐怖を表明しています。約 91% が潜在的な危害についてある程度の懸念を表明しています。
主な懸念事項は、デジタル ライフのデリケートな領域に関係しています。これらには、個人の安全に直接影響を及ぼす違反も含まれます。
性的搾取や虐待などのリスクが最も多く挙げられており、若者の 78% がこの脅威を挙げています。次に AI ベースの詐欺が出現し、参加者の 77% が不安を感じています。プライバシー侵害は 70% の遵守率で主要グループを完了します。
こうした懸念は、テクノロジーの限界についての認識が高まっていることを示しています。ティーンエイジャーは、利点と危険性のトレードオフを認識しています。
多くは追加の保護の必要性を強調しています。彼らは、違法または有害なコンテンツを制限するための企業の措置を期待しています。
十代の若者たちが示す回復力
若者はオンラインで危険な状況に対処する意欲を示しています。そのうちの 72% は、デジタルの脅威に直面した後、誰かに相談しました。
こうした会話は通常、両親、友人、教師と行われます。ネガティブな経験を処理し、ガイダンスを求めるのに役立ちます。
不適切なコンテンツの報告率も 2 年連続で増加しました。約 75% がユーザーのブロックやアカウントの閉鎖などの保護措置を講じました。
この姿勢は、対処メカニズムが発達していることを示しています。ティーンエイジャーは、事件の影響を軽減するための支援を求めています。
保護措置が必要です
ティーンエイジャーはテクノロジープラットフォームに対するより厳しい制限を擁護している。約 81% が企業が違法で有害なコンテンツを制限することを期待しています。
最も望ましい保護には、特定の種類の素材に特化したフィルターが含まれます。彼らは、より管理された環境を作り出すことを目指しています。
- 性的コンテンツのフィルタリング。
- メッセージを既知の連絡先に限定します。
これらの要求は、現在の脆弱性に対する認識を反映しています。若者は、インタラクションをコントロールしやすくするツールを求めています。
企業は安全設計を実装するというプレッシャーにさらされています。このアプローチでは、製品開発からセキュリティを統合します。
デジタルセキュリティ推進への取り組み
Microsoft は、特定されたリスクに対応して保護メカニズムを強化します。同社は、Windows や Xbox などのプラットフォームでペアレンタル コントロールを強化するツールを開発しています。
教育プログラムは企業の取り組みの中で強調されています。これらは、若いユーザーに責任ある習慣を促進します。
Future of AI Youth Council では、10 代の若者が直接フィードバックを得るために集まります。さまざまな地域からの参加者が、新興テクノロジーに関する視点を提供します。
専門組織とのパートナーシップにより、取り組みの範囲が広がります。 AI コンパニオンの安全な使用に関する教育に重点を置いています。
Minecraft Education に関するシリーズなどの資料では、オンライン採用などのトピックが取り上げられています。これらの機能は、世界中の何百万ものユーザーに届けられます。
テクノロジー、政策、教育の組み合わせが戦略の基礎となります。彼らは若者のデジタルレジリエンスを強化しようとしています。
デジタル環境におけるリスクの進化
人工知能の進歩に伴い、オンラインのシナリオはより複雑になります。リスクは急速に進化するため、防御に対する継続的な適応が必要になります。
ティーンエイジャーはテクノロジーのおかげで生産性を感じていますが、安全性はそれほど高くありません。この二重性は、コネクテッド世代の現在の経験を特徴づけています。
年次調査では、これらの変化を長期にわたって追跡しています。これらは、対象を絞ったセキュリティ介入の基礎を提供します。
この調査は複数の国と数千人の回答者を対象としています。その調査結果は、ユーザーを保護するための世界的な行動の指針となります。
