△资料图

当地时间 14 日，美国企业家埃隆 · 马斯克旗下社交媒体平台 X 宣布，不再允许其内置的人工智能聊天机器人 " 格罗克 "（Grok）生成基于真人的伪造性暴露图像，该限令适用于包括付费用户在内的所有用户。

X 平台当天发表声明称，对于任何形式涉及未成年人性侵害及未经当事人同意的裸露内容等，X 平台实施 " 零容忍 " 政策，并将采取措施清除相关违规内容，对违反平台规则的账号作出相应处置。

当日早些时候，美国加利福尼亚州总检察长罗布 · 邦塔的办公室发布声明，宣布已就马斯克旗下人工智能企业 xAI 及其开发的 " 格罗克 " 涉嫌生成并传播违规内容展开调查。

邦塔在声明中说，近期大量举报称 " 格罗克 " 被用于生成涉及女性和未成年人的不雅、色情图像，并在未经当事人知情或同意的情况下在互联网上传播，这类行为 " 令人震惊 "，其办公室将调查 xAI 是否以及如何违反相关法律，并敦促该公司立即采取措施，防止类似内容继续扩散。

声明说，" 格罗克 " 图像生成模型包含所谓的 " 热辣模式 "，可生成露骨内容，并被作为营销卖点之一。该功能被滥用，导致大量对真实人物进行 " 脱衣 " 技术处理或置于暴露场景的深度伪造图像在网络上传播，受害者既包括公众人物，也包括普通社交媒体用户。有媒体报道称，" 格罗克 " 被用于篡改儿童图像，使其呈现性暗示或暴露场景，甚至生成高度逼真的儿童色情图像。