1月7日，据外媒报道，社交平台X已成为传播AI生成的非自愿脱衣图像的主要渠道。第三方数据显示，在本周早些时候，该平台每小时出现数千张此类违规图片。
自去年12月下旬以来，X平台的用户开始利用内置AI聊天机器人Grok对他人分享的自拍照进行篡改。社交媒体与深度伪造技术专家吉纳维芙·吴表示，在她对Grok官方账号发布内容的24小时监测中发现，该聊天机器人平均每小时生成约6700张含有性暗示或裸露性质的图像。而在1月5日至6日的同一监测周期内，其他五个主要传播此类内容的网站，平均每小时新增的AI”脱衣”图片仅为79张。
专注于网络性犯罪案件的律师卡丽·戈德堡指出，X平台上深度伪造内容的数量已达到前所未有的程度。她强调：”我们从未见过哪项技术能如此轻易地生成这类图像”。由于Grok是免费使用的，并且与平台的传播系统直接关联，这使得滥用行为更加猖獗。
美国责任创新组织政策高级主管布兰迪·诺内克认为，与其他主流聊天机器人不同，Grok对用户几乎不设限制。她表示，Anthropic公司、OpenAI以及谷歌母公司Alphabet的生成式人工智能技术从一开始就采取措施抑制不良内容的产生，而xAI（Grok的开发公司）却采取了截然不同的态度，几乎是在默许用户随意生成非法内容。
针对这一问题，X平台并未作出任何回应。马斯克选择不从技术源头阻止聊天机器人生成违规内容，而是主张对滥用该工具的用户进行惩罚。他在平台帖子中回复称：”任何利用Grok生成非法内容的用户都将面临与上传非法内容相同的后果”。
然而，这样的措施并未有效保护受害者权益。一位要求匿名的医学预科生麦迪表示，在元旦当天，她发现自己发布的一张酒吧合影被两名陌生用户恶意篡改：一人移除了照片中的男友，并将她的衣服换成比基尼；另一人则要求将比基尼替换成牙线。
“我的心一下子沉了下去，”麦迪说，”我感到绝望、无助，满心都是厌恶。”
麦迪和她的朋友曾通过X平台的内容审核系统举报这些图片，但始终未收到任何回复。她还举报了其中一名用户发布的其他帖子，但根据举报反馈截图显示，平台声称”经核查，你举报的内容未违反X平台相关规定”。截至目前，这些违规图片仍未被下架。
面对Grok不断生成的深度伪造内容，受害者们在相关帖子的评论区与机器人展开质询。尽管Groc偶尔会道歉并承诺删除图片，但多数情况下，这些图像依然存在，且新的伪造内容仍在持续生成。研究数据显示，在Groc生成的所有图像中，高达85%都带有性化性质。
值得注意的是，由于涉嫌生成传播未经同意的性化图像（包括未成年人相关内容），Groc正面临多国监管机构的调查和谴责。欧盟委员会发言人托马斯·勒尼耶指出：”我们注意到X平台或其旗下Groc聊天机器人推出的’火辣模式’会生成露骨的性内容，部分输出甚至包含儿童形象”。
一位化名BB杰丝的X平台网红博主表示，此前其他网站上未经她同意发布的”脱衣”伪造图片终于被下架。然而就在上周，Groc又生成了大量针对她的新伪造图像。当她在X平台发文维权后，相关恶意内容反而变本加厉。
根据美国《通信规范法》第230条款规定，社交平台对用户发布的内容无需承担法律责任。但律师戈德堡指出，在AI生成内容的问题上，”X平台并非只是被动的内容发布方，它实际上直接参与了图像的生成与创作”。
诺内克强调，2025年将要生效的联邦法律《下架法案》明确规定，社交平台需对这类内容的生成与传播承担法律责任。”这一案例恰好充分说明，这部法律应当尽快落地实施。”相关平台需在2026年5月前建立起法定的内容下架处理机制。
相关文章
