微软发布了一份全球报告，强调青少年在识别人工智能生成的虚假内容方面越来越困难。这项在“更安全互联网日”前夕发布的研究显示，只有 25% 的年轻人能够正确检测 Deepfake，与前一年相比大幅下降。这一现实与青少年使用人工智能工具的增加同时发生。
该调查涉及来自不同国家的数千名参与者，反映了当前的数字化场景。年轻人表示，通过技术感觉联系更加紧密，但也面临着更大的网络风险。这些因素的结合强化了采取行动促进互联网安全的必要性。
数据表明，近年来数字威胁的暴露有所增加。青少年面临人工智能带来的内容操纵和欺诈等挑战。
深度赝品识别率下降
青少年越来越发现很难区分人工智能创建的真实材料和假材料。研究结果显示，识别深度赝品的能力在一年内从 46% 下降到 25%。
这种减少反映了内容生成技术的快速进步。虚假视频、图像和音频变得更加真实，使普通用户的验证变得更加复杂。
年轻人更频繁地使用人工智能，这增加了对这些材料的接触。许多人表示每天都会在学校或休闲活动中接触生成工具。
青少年面临的主要网络风险
青少年报告去年数字威胁的发生率更高。其中约 64% 的人至少面临一种在线风险，且重点关注某些特定类别。
- 仇恨言论，35% 的参与者提到；
- 29% 的人提到网络诈骗和欺诈；
- 23% 的年轻人表示遭受过网络欺凌。
这些事件影响青少年的福祉，并在数字环境中造成不安全。与之前的时期相比，这些事件发生的频率有所增加。
许多年轻人将这些问题部分与人工智能的滥用联系起来。涉及虚假内容的诈骗变得越来越普遍和复杂。
生成式人工智能的使用显着增加
青少年每周使用生成式人工智能工具的次数显着增加。该指数从较低水平跃升至受访者的 38%。
年轻人将这些技术用于各种实际目的。它们帮助完成日常任务并提高不同环境下的生产力。
- 问题解答，42%用户采纳；
- 活动策划，41%使用；
- 工作效率提高了 37%。
这种采用反映了人工智能的明显好处。然而，它也增加了相关风险的暴露。
青少年重视与这些工具的互动，因为它们可以提供快速响应。他们以一种易于理解的方式帮助学习和个人组织。
人们对人工智能影响的担忧加剧
绝大多数青少年对人工智能的负面影响表示恐惧。大约 91% 的人对潜在危害表示一定程度的担忧。
主要关注点涉及数字生活的敏感领域。其中包括直接影响人身安全的违法行为。
性剥削或性虐待等风险是最受提及的，78% 的年轻人提到了这种威胁。接下来出现的是基于人工智能的欺诈，令 77% 的参与者感到担忧。侵犯隐私的行为构成了主要群体，遵守率达 70%。
这些担忧表明人们越来越意识到技术的局限性。青少年认识到利益和危险之间的权衡。
许多人强调需要额外的保护。他们期望公司采取措施限制非法或有害内容。
青少年表现出的韧性
年轻人表现出更愿意应对网上的危险情况。 72% 的人在面临数字威胁后与某人交谈。
这些对话通常发生在与父母、朋友或老师之间。他们帮助您处理负面经历并寻求指导。
不当内容的举报率也连续第二年上升。大约 75% 的人采取了保护措施，例如阻止用户或关闭帐户。
这种姿势表明应对机制的发展。青少年寻求支持以减轻事件的影响。
要求采取保护措施
青少年捍卫对技术平台更严格的限制。约 81% 的受访者希望公司限制非法和有害内容。
最理想的保护包括针对某些类型材料的特定过滤器。他们的目标是创造更加受控的环境。
- 过滤色情内容；
- 将消息限制为已知联系人。
这些要求反映了对当前脆弱性的看法。年轻人想要能够更轻松地控制互动的工具。
公司面临着实施安全设计的压力。这种方法集成了产品开发的安全性。
促进数字安全的举措
Microsoft 加强了保护机制以应对已识别的风险。该公司在 Windows 和 Xbox 等平台上开发工具，以实现更好的家长控制。
公司的行动突出了教育计划。他们提倡年轻用户养成负责任的习惯。
人工智能未来青年委员会将青少年聚集在一起寻求直接反馈。来自不同地区的参与者就新兴技术发表了看法。
与专门组织的伙伴关系扩大了倡议的范围。他们专注于有关安全使用人工智能伴侣的教育。
Minecraft 教育系列等材料涵盖了在线招聘等主题。这些功能覆盖全球数百万用户。
技术、政策和教育的结合构成了战略的基础。他们寻求增强年轻人的数字弹性。
数字环境中风险的演变
随着人工智能的进步，网络场景变得更加复杂。风险快速演变，需要不断调整防御措施。
由于科技的存在，青少年感到富有成效，但安全感却较差。这种二元性标志着互联一代的当前体验。
年度研究追踪这些随时间的变化。它们为有针对性的安全干预措施提供了基础。
该调查涵盖多个国家和数千名受访者。其调查结果指导全球保护用户的行动。
