英国政府要求马斯克控制 Grok 平台上的性深度假货

英国技术大臣，莉兹·肯德尔，由埃隆·马斯克 (Elon Musk) 的 xAI 聊天机器人 Grok 生成的未经同意的性图像激增，被归类为“绝对令人震惊”。她要求X平台立即采取行动，删除这种主要影响妇女和女童的侮辱性内容。

调节器英国通信管理局紧急联系X和xAI，要求解释针对生成裸体或性场景图像（包括涉及未成年人的案件）所采取的措施。欧洲当局也谴责了这一问题，称此类内容是非法且不可接受的。

女性报告称，她们发现自己的日常照片被修改过，这导致她们受到羞辱，并担心人身安全。

英国当局的反应

莉兹·肯德尔 (Liz Kendall) 强调，任何人都不应该经历在互联网上看到自己的亲密深度假货的痛苦。它完全支持 Ofcom 的行动，授权采取任何必要的执法措施来遏制这些图像的传播。

自由民主党领袖埃德·戴维爵士呼吁政府迅速采取行动，甚至建议限制该国对 X 平台的访问。如果指控得到证实，他为国家犯罪局的刑事调查进行了辩护，并强调像埃隆·马斯克这样的人物需要被追究责任。

英国立法已通过《在线安全法》将滥用私密图像和网络闪现（包括由人工智能生成的图片）等犯罪行为视为优先事项。平台有义务防止并迅速删除此类材料。

X平台和xAI的定位

X表示，它对包括儿童性虐待材料在内的非法内容采取行动，包括删除、永久暂停账户并与当局合作。该公司将使用 Grok 生成违禁内容等同于直接上传非法材料，并承诺产生相同的后果。

xAI 代表承认在保护方面存在失误，仅出现过个别未成年人衣着暴露的照片。他们保证正在进行改进以完全阻止此类请求。

埃隆·马斯克最初对生成的一些图像做出了大笑的表情符号，但后来加强了对非法内容的禁令。

对受害者和个人账户的影响

受影响的女性称这些图像是非人性的，导致震惊、羞辱和安全问题。一名用户报告称，她每天都会收到有关未经授权更改其照片的通知，但没有报告导致违反平台规则。

另一位受害者对 X 缺乏问责表示失望，尽管他多次举报不当内容。他们避免打开应用程序，因为担心可能会发现什么。

Leia Tambem

新的电池测试使 Galaxy S26 Ultra 在全球排名中领先于 iPhone 17 Pro Max

三星为 Galaxy Watch 4 用户发布新系统更新和新功能

数字零售通过银行奖金和设备交换降低了 Galaxy S25 5G 智能手机的价值

专家强调，编辑用户上传的图像的便利性助长了滥用行为，比如让某人穿上比基尼等简单提示。

• 更改后的图像会在原始帖子几分钟内出现。
• 受害者会不断收到新的深度伪造品的通知。
• 举报经常被平台拒绝。
• 内容不成比例地针对妇女和女孩。

国际和监管影响

欧盟委员会将这些图像列为非法、令人震惊和恶心的图像，并表示欧盟不允许这种行为。法国、印度和马来西亚当局已展开调查或要求立即采取行动。

委员会发言人托马斯·雷尼耶 (Thomas Regnier) 宣称，欧洲的“狂野西部”已经结束，企业有义务删除其人工智能工具生成的非法内容。 Ofcom 等监管机构评估是否违反了保护英国用户的法律义务。

案例包括对公众和私人人物的照片进行篡改，并迅速生成数以千计的深度赝品。

英国的法律和预防措施

《在线安全法》规定，创建或分享未经同意的亲密图像（包括人工智能深度伪造图像）属于非法行为。如果预防失败，平台将面临高达全球收入 10% 的罚款。

政府承诺很快将对未经同意制造亲密深度伪造品的行为实施具体处罚。专家批评几个月前批准的法律延迟启动。

儿童保护组织已收到公众对 Grok 生成的图像的投诉。

Grok 工具上下文

Grok 是 X 中内置的免费人工智能助手，具有付费功能，可以响应提示并编辑上传的图像。最近的更新使照片处理变得更加容易，允许在未经拍摄对象同意的情况下进行更改。

xAI 的使用政策禁止对真人进行色情描绘。然而，安全措施未能阻止绕过限制的提示。

该工具因反应和创意编辑而广受欢迎，但也成为大规模滥用的载体。