YouTube 本周二 (10) 宣布将其相似性检测工具扩展到由政府官员、政治候选人和记者组成的试点小组。该技术可以识别人工智能生成的视频，这些视频在未经许可的情况下复制了人们的面部表情。该倡议旨在保护那些积极参与公共辩论和报道国家和国际相关问题的人的身份。
该公司强调，该措施是为了应对人工智能图像处理案件的增加。公众人物在选举期间和敏感报道中面临更大的冒充风险。通过邀请控制访问，参与者验证自己的身份并开始监控使用其面部相似性的内容。
该工具的工作方式与 Content ID 类似，已经整合了版权保护。它会自动扫描平台上新上传的内容。当它找到匹配项时，它会通知 YouTube Studio 中经过验证的用户进行审核并可能提出删除请求。
扩大保护公民领袖的范围
这一消息是在合作伙伴计划首次推出针对创作者的相似性检测功能四个月后发布的。在第一阶段，该技术由货币化内容制作商进行了测试。现在，焦点已转移到保护那些在公共话语和媒体中处于重要地位的人。
YouTube 表示，对于政客和记者来说，深度造假的风险尤其高。该平台开始与人才机构合作开发，并与广泛的创作者进行测试。大多数最初的检测都指向对相关人员无害甚至有利的内容。
参与试点的要求
感兴趣的人士会收到公司的直接邀请。他们需要提交政府颁发的正式带照片的身份证件。必须录制并提交简短的自拍照视频以供验证。获得批准后，他们可以访问 YouTube Studio 面板上的特定标签。该工具允许您查看并请求删除检测到的视频。
面部检测的技术功能
该技术优先考虑发送视频中的面部分析。该系统在此初始阶段不包括语音检测。 YouTube 计划评估未来更新中是否包含音频。上传可疑内容后，通知会很快到达。
参与者分析工作室列出的每个案例。他们决定该材料是否违反隐私或假冒准则。该平台在批准任何删除之前会评估上下文。戏仿、讽刺或政治批评内容通常会被保留。
选举和新闻背景的相关性
随着人工智能视频生成工具的快速发展，Deepfakes 越来越受到重视。被操纵的视频可能会改变人们对当局的言论或行动的看法。此次扩张恰逢美国中期选举，信息的真实性变得更加重要。
专家密切关注涉及公众人物的案件的增长。 YouTube 强调，新工具补充了现有措施，例如对人工智能生成的内容进行强制标记。该公司捍卫联邦立法的制定，该立法规范了在合成媒体中使用自己的形象。
该工具的局限性和未来的步骤
处理新视频时实时进行检测。仅仅关注面部相似性限制了当前的范围。 YouTube 收集试点参与者的反馈来完善算法。该平台旨在扩大对任何表示感兴趣的政府官员、候选人或记者的接触范围。
删除请求遵循一般社区规则。并非所有检测到的案例都会导致内容删除。该公司坚称，决策考虑了视频的潜在影响和完整背景。
合成内容审核的进展
该倡议是打击人工智能滥用的重要一步。公众人物拥有主动机制来监控自己在平台上的形象。 YouTube 强调其致力于维护公共辩论的真实性。
该公司继续投资技术以防止操纵。向记者和政治家的扩张寻求在创新与适度责任之间取得平衡。该程序应根据当前的测试结果进行改进。