印尼首次因生成色情内容屏蔽X平台聊天机器人Grok

1月10日，在全球人工智能领域引发广泛关注的事件中，印度尼西亚政府宣布对该国数字市场采取最新监管措施。该国决定暂时屏蔽马斯克旗下社交平台Grok的使用权限，这一决策基于对用户生成内容风险的评估。

此次行动具有标志性意义，标志着全球范围内对新兴AI工具的首个国家级限制措施。此前，在欧洲和亚洲多个国家和地区，监管机构已多次就Grok平台上出现的不当内容问题提出警告并展开调查。这些调查主要集中在该平台生成的内容中包含色情信息等违规现象。

面对监管压力，Grok的所有者xAI公司曾采取初步措施限制功能使用。目前，其图像生成和编辑功能仅向付费用户开放。这种做法旨在弥补此前因技术漏洞导致的管理疏漏问题。据了解，在这些漏洞影响下，包括儿童性化形象在内的不当内容得以生成并传播。

印度尼西亚通信与数字事务部长梅乌蒂娅·哈菲德明确表示，未经权利人授权而制作和传播的深度伪造内容，严重威胁到个人隐私权和人格尊严，同时破坏了数字空间的安全环境。印尼政府已正式要求X平台（即推特/X）对此事件做出说明，并提供相应的解决方案。

针对这一禁令及监管风波，马斯克在社交平台上回应称，任何利用Grok进行非法内容制作的行为都将受到与上传其他类型非法内容相同的处理。这一表态显示了平台对于违规行为的一贯态度。