近日，据”网信上海”微信公众号消息，有媒体指出筑梦岛App等AI聊天软件存在虚拟角色互动生成低俗内容等问题。经相关部门调查核实，该平台AI智能体在内容生成环节确实存在涉及低俗擦边的违规信息，这些不良信息对未成年人的身心健康造成了潜在危害。
针对上述问题，上海市网信办于6月19日上午依法约谈了筑梦岛App运营企业的主要负责人。约谈中要求平台立即进行整改，完善AI生成内容的审核机制，提升技术把关能力，重点清理与未成年人相关的不良信息，切实履行好未成年人网络保护的相关义务。
面对监管部门的要求，企业负责人当即表示将严格按照约谈内容执行整改。他们承诺将对照问题进行深刻反思，并采取全面整改措施。
上海市网信办相关负责人强调，AI技术的规范化应用直接关系到广大网民的切身利益。根据《未成年人网络保护条例》和《生成式人工智能服务管理暂行办法》等法规要求，互联网平台必须主动承担起主体责任，在推动技术创新的同时也要加强内容合规管理。只有这样，才能有效防范AI技术被滥用的风险，切实维护未成年人合法权益，共同营造一个健康清朗的网络环境。
据了解，根据国家网信办的统一部署，上海正在开展”清朗·整治AI技术滥用”专项行动，目前该行动已进入第二阶段。此次专项行动重点打击利用AI技术制作传播谣言、不实信息、色情低俗内容、假冒身份以及组织网络水军等违法行为。相关部门正指导督促各网站平台和App运营企业集中清理违法不良信息，对违规账号和MCN机构进行处置。对于屡教不改、问题严重的企业，上海市网信办将依法予以严厉处罚，并对典型案例通过媒体曝光。欢迎广大网民积极提供线索，共同维护良好的网络生态。
另据公开资料显示，筑梦岛是由阅文集团旗下潇湘书院孵化的一款AI虚拟互动娱乐平台，主要面向女性用户提供沉浸式陪伴服务。用户可以通过创建个性化虚拟角色进行多模态互动交流。
相关文章
