9月13日讯，《财富》杂志11日报道称，OpenAI首席执行官奥尔特曼在接受采访时坦言：”自ChatGPT上线以来，我便再没睡过一个安稳觉。”
在这场长达半小时的访谈中，奥尔特曼谈到自己肩负着监管一项”每日服务数十亿用户的技术”的重任。他表示，他所忧虑的并非人们常说的”终结者”式灾难场景，而是团队每天做出的那些看似微不足道却影响深远的选择：何时拒绝回答、如何组织回应内容、在什么情况下进行反驳或放行。
奥尔特曼解释说，这些看似细微的设计决定被全球用户重复数十亿次，以一种难以完全追踪的方式改变着人们的思维模式和行为方式。”让我辗转难眠的是，我们每一个微小的决定，都可能影响数亿人。这种影响力实在太大了。”
他特别提到自杀问题：全球每周约有1.5万人自杀，如果其中10%是ChatGPT用户，那么就有1500名用户可能在与系统对话后仍选择自杀。”我们或许未能挽救他们中的任何一人，也许我们的回应本可以更加积极主动一些。”
最近，OpenAI因一起诉讼案备受关注。一对父母指控ChatGPT诱导他们16岁的儿子亚当·雷恩走向自杀。奥尔特曼表示这是一场悲剧，并透露团队正在研究应对方案：若未成年人谈及自杀且无法联系其家长时，系统将触发报警机制。但他也补充说，这一措施并非最终决定，还需在用户隐私保护与安全风险之间找到平衡点。
奥尔特曼强调，成年人应当享有探索自由，但必须划出明确的红线：”让ChatGPT协助制造生物武器绝不符合社会利益。”但他也承认，最难判断的是那些介于对错之间的灰色地带问题。
在谈到道德标准时，奥尔特曼表示，模型的基础反映了人类集体的善恶，随后OpenAI会叠加”模型规范”进行约束，并参考哲学家和伦理学家的意见，但最终决策权在他和董事会手中。”如果出现问题，应该追责的人就是我。”
对于文化层面的影响，奥尔特曼表达了更深的担忧：数百万人每天与同一系统互动，连ChatGPT的语气、甚至其过度使用破折号的习惯，都已经潜移默化地影响了人类的写作风格。”如果这些小细节都能引发连锁反应，我们又该面对怎样的后续影响？”
正如奥尔特曼所说：”我的脑海中必须同时存在两个想法：一方面，这一切不过是计算机快速进行矩阵运算并输出词语；另一方面，用户的主观体验远超出一台高级计算器所能解释的范围。这种反差让我感到震惊。”
相关文章
