监管介入后，Grok 宣布限制图像编辑能力
1 月 16 日消息，据 CNBC 和路透社报道，继加州司法部长宣布介入调查后，马斯克旗下 xAI 于昨天宣布进一步收紧 Grok 在社交平台 X 上的图像生成功能，禁止所有用户基于真实人物生成或编辑带有性暗示的图像，并将相关功能限定为付费订阅者可用。
xAI 发布声明称，已部署技术措施阻止 Grok 对「真实人物穿着暴露服装（如比基尼）」的照片进行编辑，该限制适用于所有用户，包括付费用户。
此前，用户可通过简单文本提示生成基于真实人物的性化或暴力图像，其中包括未成年人，Grok 因此被多国政府点名为「深度伪造不当内容」的高风险源头。
加州总检察长 Rob Bonta 昨天表示，其办公室已对 xAI 展开调查，关注其「大规模生成未经同意的深度伪造亲密影像」的行为。加州州长 Gavin Newsom 亦公开批评称，Grok 生成并传播未成年人相关内容的行为「恶劣」。
路透社指出，加州官员已要求 xAI 提供明确整改方案，并强调必须立即阻止此类内容的扩散。
除美国外，印度、马来西亚、印尼、爱尔兰、英国、法国及澳大利亚等多国监管机构近期均已启动调查，其中印尼与马来西亚已对 Grok 实施临时封禁。欧洲委员会也在关注相关风险。
在舆论压力升高前，马斯克曾在 X 上鼓励用户「挑战 Grok 的图像审核」，并声称在 NSFW 模式下，Grok 可生成「虚构成年角色的上半身裸露图像」，但不得涉及真实人物。
他同时表示，不同地区的内容限制将依据当地法律调整。
路透社补充称，尽管 X 上周已限制部分用户公开生成或编辑图像，但在 xAI 发布新规前，Grok 仍可在私聊中按需生成性化内容。马斯克则回应称自己「并不知情」有未成年人相关图像被生成。
更早前，苹果与 Google 也被美国议员要求下架 X 与 Grok 应用，直至平台能有效阻止未经同意的性化内容生成。
免责声明：本站所有信息均来源于互联网搜集，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻删除。
