从本周开始，英国立法显着加强了打击数字暴力的力度，将人工智能生成的虚假亲密图像定为刑事犯罪的法规生效。技术部长 Liz Kendall 于 1 月 12 日星期一在议会宣布了这一消息，她将该措施列为保护虚拟环境中妇女和女童完整性的基本步骤。新规则不仅惩罚分发，而且通过将创建材料的行为定为非法（无论其随后的共享如何）来解决问题的根源。
法律收紧是对生成型人工智能工具激增的直接反应，这些工具促进了未经同意的性内容（即深度伪造）的创建。政府的决定预期了 2025 年批准的《数据（使用和访问）法案》中预见的条款，这表明当局应对这些技术快速发展的紧迫性。主要重点是防止软件被用来以数字方式从照片中去除衣服，或在未经任何授权的情况下将真人的面孔插入具有露骨内容的场景中。
除了针对生成内容的用户之外，新立法还将刑事责任扩大到专门为此目的设计的工具的开发者和提供商。该战略旨在拆除允许自动“裸体”的生态系统，将该软件视为滥用工具。肯德尔部长强调，此类图像不能被视为无害，因为它们严重侵犯了受害者的隐私和尊严，往往会造成持久的心理伤害。
该法律的立即实施反映了工党政府立场的转变，旨在填补先前法规留下的空白。数字法专家指出，在此之前，许多行动只关注图像的公开传播，而那些为私人消费或威胁受害者而制作图像的人却逍遥法外。现在，简单地制造非法材料就构成刑事犯罪，缩小了与恶意使用人工智能的差距。
Ofcom 调查平台安全漏洞
英国通信监管机构 Ofcom 已针对 Platform X（前身为 Twitter）对其人工智能聊天机器人 Grok 的滥用展开正式调查。最近的报告表明，该工具被广泛用于生成色情图像和深度伪造，违反了该国制定的在线安全准则。调查旨在确定该公司是否未能采取足够的保障措施来防止此类内容的创建。
英国当局认为 Platform X 的最初回应是只允许付费订阅者使用成像功能，这一回应是不够的。政府需要采取强有力的技术措施，从源头防止内容生成，而不仅仅是限制谁可以访问它。如果证明该公司忽视了与其技术相关的风险，Ofcom 的调查可能会导致巨额罚款和强制修复。
Grok 案成为一个象征，暴露了人工智能工具在没有严格的道德过滤器的情况下很容易被操纵用于滥用目的。在几秒钟内生成逼真图像的能力使该平台成为欧洲监管机构关注的焦点。英国政府正在审查社交网络作为官方沟通渠道的使用情况，这表明如果安全政策得不到令人满意的加强，可能会出现疏远的情况。
新指南和打击数字暴力
新立法为新兴技术的使用建立了明确的监管框架，将公民安全置于无节制创新之上。政府概述了个人和科技公司必须采取的一系列行动，以确保遵守法律。这些措施旨在创建一个对滥用者充满敌意、对普通用户安全的数字环境。
- 立即将制作或招揽性深度假货的行为定为刑事犯罪，填补允许私人使用的法律真空。
- 完全禁止开发和商业化主要功能是数字脱衣的软件或应用程序。
- 数字平台必须采取主动机制，在滥用内容传播之前对其进行检测和阻止。
- 扩大国际合作，监控非法人工智能工具跨境流动并共享预防技术。
这些指南强化了 2023 年《在线安全法案》，更新了其针对生成人工智能现实的规定。预计监管压力将迫使大型科技公司加大对安全和信任团队的投资，此外还开发能够区分合法艺术品和滥用材料的算法。利兹·肯德尔部长要求 Ofcom 制定严格的时间表来完成正在进行的调查，防止官僚程序延误对受害者的必要保护。
对AI技术发展的影响
该法律的生效使英国处于人工智能监管的前沿，为面临类似挑战的其他国家提供了可能的榜样。人工智能开发人员现在面临着更严格的审查，在实施安全过滤器时的疏忽可能会导致刑事后果。这应该会推动产品设计理念的改变，其中安全性成为软件概念的基本要求，而不仅仅是后来添加的功能。
技术部门正在密切关注事态发展，因为该标准可能需要对现有语言模型和图像生成器进行复杂的技术调整。道德使用工具的责任正在从最终用户转移到技术的创造者身上，迫使公司在防止伤害方面发挥积极作用。该措施还旨在阻止深度造假工具地下市场的出现，从而使针对数字性剥削的服务的运营面临风险。
