前高管指控OpenAI篡改公司历史

AI资讯1周前发布 ainav
18 0

3月7日,外媒Wccftech报道称,OpenAI最近向社区分享了其谨慎、逐步部署AI模型的方法,采用分阶段发布的策略,并以GPT-2的发布为例说明这一理念。然而,这个案例却遭到了前OpenAI政策研究员Miles Brundage的批评,他认为该公司歪曲了AI安全的历史。

在一份公开文件中,OpenAI详细阐述了其对AI安全和模型部署的态度。文件指出,公司在处理现有系统时始终保持谨慎,并强调GPT-2是其谨慎发布策略的一个典型例子。公司认为,只有通过深入学习现有工具的经验,才能确保未来系统的安全性。

以下是文件内容的摘录:

在一个不连续的世界中…… 安全的教训来自于对当今系统的极度谨慎,尤其是相对于它们表现出来的力量。这正是我们对待GPT-2的态度。我们现在将第一个AGI视为逐步增加有用性的系统中的一部分… 在一个连续的世界里,确保下一个系统安全且有益的方式是从当前系统中学习。

作为曾经的政策研究负责人,Miles Brundage坚定地表示,GPT-2的发布同样采取了逐步推进的方式。每个阶段的相关信息都得到了充分共享,安全专家也对公司的谨慎态度给予了肯定。他认为,OpenAI在处理模型时的做法与当前的策略一致,并认为过去的谨慎并非过度,而是必要且负责任的。

然而,Brundage对于文章中提出的”AGI将通过逐步实现而非一蹴而就”的观点表达了强烈不满。他认为这一说法以一种令人不安的方式重写了GPT-2的历史。

Brundage还对OpenAI声称AGI将通过逐步发展而非突发突破的说法表示担忧。他指出,公司歪曲了GPT-2发布历史和安全历史,这种做法令人忧虑。他还提到,OpenAI发布该文件的潜在目的是为安全问题设立标准,或者将其视为过度反应,这可能带来巨大的风险,尤其是在AI系统日益进步的今天。

实际上,这并非OpenAI第一次因过于追求进步和利润而忽视长期安全问题受到批评。像Brundage这样的专家担心,如果不对AI安全保持谨慎,未来可能面临的风险将非常严重。

© 版权声明

相关文章