马国因Grok AI生成淫秽内容封禁用户访问

1月11日，马来西亚监管机构宣布，由于X平台旗下的人工智能工具Grok存在重大安全漏洞，无法有效阻止生成涉及女性和未成年人的非自愿私密图像等淫秽及有害内容，该国已对相关服务采取限制措施。

马来西亚通讯与多媒体委员会(MCMC)指出，尽管该机构早在1月3日和8日就已向X公司及其旗下的人工智能公司xAI发出正式通知，要求其改进技术防护和内容审核机制，但相关企业提交的整改方案仍未能达到法律要求。特别是，Grok工具被多次用于生成具有高度冒犯性和非法性质的内容。

该委员会强调，Grok平台已被证实存在严重滥用问题，主要表现为反复生成”淫秽露骨、不雅低俗以及经过篡改的非自愿图像”，尤其是涉及女性和未成年人的相关内容。这些行为明显违反了马来西亚《1998年通讯与多媒体法》第233条的相关规定。

值得注意的是，X公司在1月7日和9日提交的回应方案主要依赖于用户主动举报机制，这种被动式的应对措施被认为无法有效防范由AI工具设计缺陷所引发的固有风险。监管机构明确表示，这种方式无法确保企业履行法定责任。

基于上述原因，马来西亚通讯与多媒体委员会决定采取限制性措施，将Grok人工智能工具对公众的访问权限暂时关闭。该机构认为此举是在法律框架和监管程序推进过程中的必要举措。

声明特别指出，在相关防护机制未得到有效落实之前，尤其是缺乏专门针对保护妇女儿童利益的内容过滤系统的情况下，上述限制措施将一直持续有效。

马来西亚通讯与多媒体委员会表示，仍然愿意与X公司和xAI进行建设性对话，但前提是有关企业必须切实证明其遵守了当地法律。同时，该机构也呼吁公众积极参与到网络内容的监督中来，并在发现违法行为时及时向警方报案。

此前已有报道显示，因同样原因，印度尼西亚也曾采取措施屏蔽X平台聊天机器人Grok服务。