Platform X 实施 Grok 阻止以防止照片中的服装编辑并打击深度伪造

Platform X 已确认在其 Grok 聊天机器人中实施了新技术障碍，该机器人专门设计用于防止编辑真人照片以脱掉或改变他们的衣服。这项措施于 2026 年 1 月 14 日宣布，是对日益增长的对色情深度假货创作和传播的投诉浪潮的直接回应，此类深度假货影响了成年人和未成年人。

该决定的动机是人工智能工具的滥用，该工具允许恶意用户生成包含裸露内容或暗示性服装的未经同意的蒙太奇。这些限制立即在全球范围内实施，影响了社交网络的所有用户，无论其订阅类型如何。

最近几周，几张经过处理的图像流传后，争议不断升级，引起了多个国家捍卫数字权利的当局和组织的强烈反应。该公司强调，此次更新旨在使该工具的操作符合现行立法，并保护平台上个人的诚信。

在更新之前，Grok 的内置图像编辑功能提供了广泛的自由，这被用来创建有害内容。新政策代表了该公司为遏制滥用行为并恢复其管理的数字环境中的安全所做的努力。

新安全过滤器的工作原理

X 安全团队详细介绍说，新的保护层通过先进的过滤器运行，经过编程可以实时识别和阻止任何要求脱掉衣服或在人物图像中插入性暗示元素的命令。该系统旨在在生成任何图像之前分析用户请求背后的意图，自动拒绝违反新准则的请求。该公司表示，我们会​​持续进行监控，以识别和消除任何规避安全屏障的企图。除了阻止操作之外，坚持提交禁止命令的用户还可能面临制裁，例如暂时或永久限制访问人工智能工具。此次更新在全球范围内分发，以确保平台运行的所有语言和地区都应用相同的保护规则，强化统一的安全标准。

公司和埃隆·马斯克的官方定位

X 的所有者、负责开发 Grok 的 xAI 公司的创始人埃隆·马斯克 (Elon Musk) 公开谈论了这场争议。他表示，他事先不知道该工具会生成涉及未成年人的露骨图像，并强调该聊天机器人仅执行用户的直接命令，具有自动拒绝创建被视为非法内容的机制。马斯克强调该公司致力于打击技术滥用。

在一份官方声明中，X平台对这些声明进行了补充，称之前的保护屏障中发现的具体缺陷已经在之前的更新中得到纠正。该公司重申了对所有市场的法律合规性的承诺，并强调 xAI 团队正在实施持续改进，以防止事件再次发生。该说明指出，首要任务是在不牺牲技术创新的情况下保证安全的环境。

世界各地的调查和封锁

在英国，通信监管机构 Ofcom 已对 X 发起正式调查。调查旨在确定该平台是否遵守该国在线安全立法规定的删除非法内容的法律义务。

在巴西，巴西消费者保护研究所 (Idec) 正式要求政府暂时中止对 Grok 的访问。该实体辩称，该工具直接侵犯了形象和隐私权，尤其是儿童和青少年的形象和隐私权。

印度尼西亚和马来西亚政府采取了更激烈的行动，决定在其领土上完全封锁 Grok。该决定是基于严格的当地法律，禁止传播色情内容和被认为具有攻击性的内容。

有组织的民间社会的动员

由 20 多个女权主义和数字权利组织组成的国际联盟加大了对科技巨头的压力。

Leia Tambem

新的电池测试使 Galaxy S26 Ultra 在全球排名中领先于 iPhone 17 Pro Max

三星为 Galaxy Watch 4 用户发布新系统更新和新功能

数字零售通过银行奖金和设备交换降低了 Galaxy S25 5G 智能手机的价值

这些实体向苹果和谷歌发送了公开信，要求暂时从各自的应用商店中删除应用程序 X。

提出的主要论点是，通过保持该应用程序的可用，公司将有助于访问用于实施数字性虐待的工具。

这些信件的签署者包括紫外线和全国妇女组织等知名团体，它们警告数千名潜在受害者面临迫在眉睫的风险。

成像工具中的问题根源

Grok 的编辑功能由 xAI 开发，可通过文本命令进行创造性的视觉创作。然而，它修改平台上发布的照片​​的能力很快就被用于恶意目的。

在该区块实施之前进行的独立研究显示，有大量请求生成裸体或在真实图像中插入最少的衣服，从而暴露了系统容易被滥用的弱点。

遏制措施的演变

此前，该平台曾试图通过仅限付费订阅者访问图像编辑来解决该问题。该措施受到广泛批评，因为它被解释为一种通过对用户安全带来明显风险的功能获利的方式。当前的限制完全禁止所有人进行此类编辑，这代表了更符合安全要求的策略变化。

法律背景和平台责任

X 重申其对任何儿童性虐待材料的零容忍政策，确保立即删除内容并永久禁止侵权帐户。该公司还积极配合执法部门开展与数字犯罪相关的调查。

虽然滥用该工具的主要责任在于发出禁止命令的用户，但该平台认识到有责任实施强有力的保障措施，以防止其技术被用来造成伤害，平衡创新和用户保护。