3月7日，外媒Wccftech报道称，OpenAI最近向社区分享了其谨慎、逐步部署AI模型的方法，采用分阶段发布的策略，并以GPT-2的发布为例说明这一理念。然而，这个案例却遭到了前OpenAI政策研究员Miles Brundage的批评，他认为该公司歪曲了AI安全的历史。
在一份公开文件中，OpenAI详细阐述了其对AI安全和模型部署的态度。文件指出，公司在处理现有系统时始终保持谨慎，并强调GPT-2是其谨慎发布策略的一个典型例子。公司认为，只有通过深入学习现有工具的经验，才能确保未来系统的安全性。
以下是文件内容的摘录：
在一个不连续的世界中…… 安全的教训来自于对当今系统的极度谨慎，尤其是相对于它们表现出来的力量。这正是我们对待GPT-2的态度。我们现在将第一个AGI视为逐步增加有用性的系统中的一部分… 在一个连续的世界里，确保下一个系统安全且有益的方式是从当前系统中学习。
作为曾经的政策研究负责人，Miles Brundage坚定地表示，GPT-2的发布同样采取了逐步推进的方式。每个阶段的相关信息都得到了充分共享，安全专家也对公司的谨慎态度给予了肯定。他认为，OpenAI在处理模型时的做法与当前的策略一致，并认为过去的谨慎并非过度，而是必要且负责任的。
然而，Brundage对于文章中提出的”AGI将通过逐步实现而非一蹴而就”的观点表达了强烈不满。他认为这一说法以一种令人不安的方式重写了GPT-2的历史。
Brundage还对OpenAI声称AGI将通过逐步发展而非突发突破的说法表示担忧。他指出，公司歪曲了GPT-2发布历史和安全历史，这种做法令人忧虑。他还提到，OpenAI发布该文件的潜在目的是为安全问题设立标准，或者将其视为过度反应，这可能带来巨大的风险，尤其是在AI系统日益进步的今天。
实际上，这并非OpenAI第一次因过于追求进步和利润而忽视长期安全问题受到批评。像Brundage这样的专家担心，如果不对AI安全保持谨慎，未来可能面临的风险将非常严重。
相关文章
