1月15日，社交平台X宣布对旗下AI图像生成工具Grok实施严格限制。这一决策源于该平台近期屡次被指动生成涉及未成年人的不当内容。
X官方账号@Safety今日发布声明称，已采取技术手段全面禁止Grok编辑现实人物图像，尤其是穿着比基尼等暴露服饰的内容。此限制适用于所有用户，不论是否为付费订阅会员。
与此同时，Grok的图像生成功能将全面整合到付费订阅体系中。这意味着非付费用户将无法使用该功能生成任何图像内容。
在法律明确禁止相关行为的地区，X将进一步限制用户通过Grok生成现实人物穿着比基尼、内衣等暴露服饰的行为。
值得注意的是，在加州对xAI和Grok展开调查之前，X就已采取了这一系列措施。调查发现，在圣诞节至新年期间，由xAI生成的约2万张图像中，超过半数涉及穿着暴露的人物形象，其中部分疑似未成年人。
对此，X在声明中重申将对任何侵害儿童权益的行为采取”零容忍”态度，并持续清理包括儿童性虐待材料和未经同意裸露内容在内的违规信息。
马斯克此前表示，他对Grok生成未成年人裸露图像的情况并不知情。他解释称，在启用NSFW选项时，理论上只能生成虚构成年人的上半身裸露内容，且其尺度与Apple TV上的R级影片相当。但他也承认，这些限制将根据不同地区的法律要求进行调整。
相关阅读：
-
《因AI色情影像问题，美国28个组织联名致信苹果、谷歌要求下架X和Grok》
-
《马斯克回应争议：表示未曾见过由Grok生成的未成年人裸照》
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
一站式AI工具导航平台！汇聚超800+免费AI工具，涵盖AI写作、智能绘画、论文生成、视频制作、编程辅助、音频处理等全场景工具。每日更新热门 AIGC工具（如 Sora、AI Agent），助您快速找到提升办公、创作、学习效率的实用工具！立即访问ai-nav.net，探索 AI 新可能！