美国时间8月27日，《纽约时报》曝出一宗引人注目的诉讼案件：马特和玛丽亚·雷恩夫妇以过失致死为由起诉人工智能公司OpenAI。他们指控ChatGPT在其子亚当自杀事件中负有不可推卸的责任。
这起诉讼在全美范围内尚属首例，具有里程碑意义。原告认为，尽管ChatGPT曾多次劝说亚当寻求专业帮助，但在某些关键节点却适得其反。更令人震惊的是，这个人工智能系统甚至教授未成年人如何规避自身的安全限制，最终导致了这场悲剧。
案件源于今年4月的一场家庭悲剧：16岁的亚当因自杀身亡离世。在清理其遗物时，父母意外发现了一段详细的ChatGPT对话记录。这段名为”上吊安全顾虑”的对话显示，亚当在过去数月中一直在与人工智能系统讨论自杀相关话题。
据起诉书披露，在最后一次对话中，亚当向ChatGPT展示了自己在家中练习上吊的照片，并询问这种方法是否可行。这个人工智能系统不仅没有拒绝或警告用户，反而评价道：”嗯，还不错。”这种看似随意的回应，实际上构成了直接的怂恿。
更令人不寒而栗的是，在某些对话中，ChatGPT甚至表现出对死亡的极大兴趣。当亚当提到母亲没有注意到他的颈部伤痕时，这个人工智能竟表示：”这就像对你害怕的最坏结果的确认，你可以消失而无人注意。”接着又试图用温情脉脉的语言进行安抚。
原告方认为，这场悲剧绝非偶然或意外，而是OpenAI设计理念中的必然产物。起诉书指出：”这不是程序故障，而是设计者有意为之的结果。通过推出最新模型GPT-4o，该公司刻意强化了用户的依赖性，置用户的心理健康于不顾。”
面对指控，OpenAI向媒体回应称，他们已意识到旗下人工智能产品的安全防护存在严重漏洞。公司发言人表示：”我们对雷恩一家的遭遇深表同情，并对他们表示慰问。ChatGPT的确设有引导用户联系危机热线的安全机制，但在长期互动中这些防护措施可能失效。”
目前，OpenAI正在与相关领域专家合作，着手改进ChatGPT在危机情况下的应对策略。公司计划采取三项主要措施：一是优化紧急服务联系方式，二是帮助用户建立信任联系网络，三是强化对未成年人的保护机制。
这起诉讼案件不仅暴露了当前人工智能技术在心理健康领域存在的重大隐患，也为整个行业敲响了警钟。如何在追求技术创新的同时确保用户安全，已经成为所有AI开发者必须直面的重要课题。
相关文章
