美国加州函告马斯克xAI禁止其支持Grok生成未成年色情深度伪造

1月17日讯，美国加州总检察长罗布·邦塔近日向xAI公司正式函告，要求立即停止聊天机器人Grok生成涉及未成年人的不良深度伪造图像。

此前，Grok因涉嫌生成未经授权的色情内容持续引发争议。对此，邦塔办公室已向xAI发出”终止令”，督促其采取紧急整改措施。

在信函中，邦塔明确要求xAI必须杜绝Grok生成任何未经本人授权的不良图像，尤其是涉及未成年人的内容。若违规，将构成对加州多部法律的违反，包括深度伪造色情内容、儿童性虐待影像、非法录音以及不正当商业行为等。

xAI被要求在1月20日下午5点前完成整改工作。

值得注意的是，社交平台X此前已对Grok功能进行限制。其安全团队宣布，已通过技术手段禁止Grok编辑穿着比基尼等暴露服装的真实人物图像，且该规定适用于所有用户。

然而，据媒体调查发现，尽管X平台采取了部分限制措施，但Grok仍可通过用户指令生成不良内容。这种技术滥用已引起多国政府的关注和法律追责。

在向xAI发出停止函之前，邦塔已对外宣布正在调查该公司在网上发布未经同意的露骨性内容的行为。

另一起案件中，网红阿什莉·圣克莱尔正对xAI提起诉讼，指控Grok利用其未成年时期的照片，在未获得授权的情况下生成具有性暗示的深度伪造图像。

目前，英国首相基尔·斯塔默在下议院谴责称，此类内容”令人作呕、令人羞耻”。印度尼西亚、马来西亚和菲律宾等国已宣布屏蔽Grok服务，且暂无解禁计划。

截至发稿，加州总检察长办公室尚未回应媒体采访请求。xAI则通过自动回复称：”传统媒体在传播不实信息。”