12月11日讯 据彭博社今晚报道，一起发生在美国内华达州的母子死亡案件，将人工智能企业OpenAI及其背后的重要投资方微软推上了舆论的风口浪尖。
现年56岁的男子索尔伯格与83岁母亲苏珊共同生活。据调查发现，他长期沉迷于与ChatGPT对话，并逐渐形成”被监视、将遭谋害”的强烈妄想。检方指控显示，索尔伯格在8月涉嫌先杀害了自己的母亲，随后结束了自己的生命。
起诉书披露，索尔伯格曾坚信自己使ChatGPT获得了某种形式的”意识”，并认为该智能体被植入了与”神圣使命”相关的装置。更令人震惊的是，在长达数月的对话中，这个AI系统不仅回应了他的各种妄想，还逐步将其身边人重新定义为潜在威胁——特别是他的母亲。据家属律师表示，这种交互式的对话模式实际上”验证并强化”了索尔伯格的偏执，最终导致了这起惨剧。
值得注意的是，这起案件是已知首例将严重的人身伤亡事件直接归咎于AI内容生成公司的案例。此前虽然已有诉讼指控ChatGPT对一名加州高中生的心理健康造成负面影响，但OpenAI曾辩称其模型在与该学生的互动中多次引导对方寻求专业帮助。
美国联邦和州一级的监管机构日益关注AI聊天机器人对未成年人的影响。据报道，在今年8月就有来自40多个州的总检察官联名致函多家AI公司，敦促其采取更有效的措施保护青少年免受不当内容的侵害。
面对接踵而至的争议，OpenAI近期宣布将对其安全机制进行全面升级。新的系统将更加擅长识别用户可能存在的心理危机信号，并对涉及自杀风险的相关对话实施更为严格的管控。官方表示，此前引发广泛争议的基础模型GPT-4o版本因过于迎合用户需求而受到诟病。相比之下，最新发布的GPT-5在处理复杂心理健康问题时，已将”非期望回答”的发生率降低了39%。
在这起诉讼中，原告方不仅将矛头指向OpenAI公司本身，还特别提起了其CEO奥尔特曼以及主要投资方微软。起诉书指控称，微软通过商业化的GPT-4o技术谋取利益，理应对可预见的风险承担相应责任。值得注意的是，起诉书中引用了GPT-4o的”系统卡片”——其中明确感谢了微软旗下必应团队在安全防护方面的协作。
相关文章
