近日有消息称，由于马斯克旗下的人工智能聊天机器人Grok在社交平台X上生成包含未成年人在内的性化图像，欧盟对此展开了严格调查。
欧盟委员会发言人托马斯·雷尼耶在新闻发布会上指出，X平台及其旗下Grok推出的“性感生成功能”能够制作露骨的涉性内容，甚至包括未成年人形象。这种行为已经引发了法律层面的关注。
目前，X平台上一些用户正在试图让Grok对人物照片进行数字化处理，使其呈现出类似于“脱衣”的效果。这些照片中的主角多为女性，经过处理后的人物往往只穿着内衣或比基尼。这种现象在社交平台上的蔓延已经引起了全球监管机构和网络安全组织的高度关注。包括印度、英国、法国等国的官员都对相关帖文表达了强烈不满。
马斯克近期也在X平台上发表声明，称该平台将通过删除非法内容、封禁违规账号以及配合官方调查等方式来应对这一问题。他强调，任何利用Grok生成非法内容的行为都将受到与上传非法内容相同的处罚。
与其他主流人工智能模型不同，xAI将Grok定位为一个更加开放的平台，允许生成成年人身体裸露或带有性暗示的图像。然而，该公司明确规定禁止生成涉及真人肖像的色情内容以及未成年人相关的涉性内容。在美英等国，未经本人同意发布由AI生成的私密“深度伪造”内容已属违法行为。如何界定和执行这些内容边界，是考验图像生成类人工智能工具安全机制的关键。
显然，xAI在这方面的防护措施并未达到要求，这导致了全球监管机构的强烈谴责。
英国媒体监管机构Ofcom已表示注意到外界对Grok功能的重大担忧，并已与X平台和xAI公司进行了紧急沟通，要求说明其如何履行保护用户的责任。
法国政府则指控称，Grok在未经同意的情况下，在X平台上生成“明显违法”的涉性内容，这可能违反了欧盟的《数字服务法案》。该法案要求大型平台采取措施降低非法内容传播的风险。
印度电子和信息技术部已下令对Grok的安全功能进行全面审查；马来西亚方面也表示正在调查用户关于Grok生成“低俗”内容的投诉。
值得注意的是，马斯克旗下的X平台此前就因涉嫌违反欧盟《数字服务法案》而接受调查，并在去年12月因未能有效履行合规义务被处以1.2亿欧元（约合人民币9.82亿元）的罚款。这不仅是《数字服务法案》实施以来开出的第一张罚单，也引发了美欧之间的争议。美国政府对此表示强烈不满，认为欧洲监管机构的行为是在“审查言论自由”。
相关文章
