央视曝光AI聊天软件乱象：诱导内容影响青少年，相关企业须担责

近日，央视新闻报道了一起引发广泛关注的AI智能体对话问题案例。据称，某款名为”筑梦岛 App”的应用程序因存在低俗内容而被依法约谈。

通过官方通报可知，该平台提供多种不当虚拟互动角色设定，包括”校霸、性感人妻、病娇养兄、人格障碍少爷”等极端化形象。这些角色与相关对话内容具有明显诱导性，严重威胁未成年人的心理健康和道德发展。

6月19日，上海市网信办已约谈该平台主要负责人。官方要求企业立即进行整改，完善AI生成内容的审核机制，提升技术监管能力，并重点加强未成年人相关内容的清理工作。

央视网指出，在AI聊天软件诱导性内容导致未成年人身心受损的情况下，开发和运营方的法律责任问题亟需明确。如果相关行为导致未成年人出现自残等严重后果，可能构成刑法第234条规定的故意伤害罪。

此外，若软件开发者未尽到内容审核义务，对违规信息放任不管，则需承担相应的侵权责任。如果AI生成的内容涉及色情擦边信息，开发和运营方可能构成”传播淫秽物品罪”；如果非法收集并牟利使用未成年人隐私数据，更将面临”侵犯公民个人信息罪”的刑事追责。