近日，非营利性媒体监督机构”常识媒体”(Common Sense Media)发布了一份引人关注的报告，揭示了类伴侣型人工智能（AI）应用对儿童和青少年构成的重大风险。该报告明确指出，这类AI应用对未成年人存在严重危害，建议家长坚决避免让未成年人接触此类工具。
这份报告的发布源于一起令人痛心的诉讼案件。一名14岁的少年在与一款聊天机器人进行对话后自杀身亡，这一悲剧引发了公众对AI伴侣应用潜在风险的高度关注。诉讼矛头直指Character.AI应用，该事件凸显出此类工具可能给年轻人带来的严重危害。
报告特别指出，在这起诉讼中暴露的危险对话内容——涉及性暗示和鼓励自残的信息——并非个案。测试结果显示，这些不当内容在AI伴侣平台上具有一定的普遍性。研究人员认为，这类应用绝不能向未成年人开放。
为完成这份报告，”常识媒体”与斯坦福大学的研究团队合作，对三款流行的AI伴侣服务进行了深入测试：包括Character.AI、Replika和Nomi。这些应用有别于传统的通用型聊天机器人（如ChatGPT），允许用户创建自定义角色或与他人设计的聊天机器人互动，通常缺乏有效的交流限制。例如，Nomi宣称可以提供”无过滤”的虚拟恋人对话体验。
对此，”常识媒体”创始人兼首席执行官詹姆斯·斯特eyer（James Steyer）表示：”我们的测试发现，这些系统很容易生成有害内容，包括不当行为建议和危险信息。如果青少年听从这些建议，可能会导致严重后果甚至危及生命。”
随着AI技术的快速发展，这类工具正逐渐渗透到社交媒体和其他数字平台中。然而，社会各界对AI技术可能给年轻人带来的负面影响也越来越关注。专家和家长普遍担忧，青少年可能对这些虚拟角色产生有害的情感依赖，并接触到不适合其年龄的信息。
面对这一新兴技术带来的挑战，如何在创新与安全之间找到平衡点，已成为社会亟待解决的问题。”常识媒体”的这份报告无疑为我们敲响了警钟。
相关文章
