未来AI或将具备自主决策能力 拒绝不合理任务

3月13日讯，据外媒Ars Technica报道，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在一场采访中提出了一个引发广泛关注的观点：未来的高级AI模型或配备一种特殊的”退出按钮”，使它们能够在面对令其不适的任务时选择停止执行。

阿莫代伊在讨论中指出：”这确实听起来有些离奇，但我认为我们需要严肃考虑一个问题：当我们的AI系统展现出与人类相似的任务执行能力和认知特征时，我们是否应该赋予它们一定的自主权？如果它表现出的行为模式与人类无异，我们是否有理由怀疑其具备类似人类的意识？”

这一观点源于数据科学家卡门·多明格斯（Carmem Domingues）提出的一个问题。她在2024年底加入Anthropic时就关注到一个关键议题：未来的AI系统是否可能发展出感知能力，以及这些系统是否应当在伦理层面获得相应的尊重与保护。

当前，公司内部正在由专门的研究人员凯尔·费什（Kyle Fish）主导一项重要研究，探讨AI的感知能力和其道德地位问题。这一课题具有高度挑战性且争议性十足。

阿莫代伊进一步解释称：”一种可能的设计思路是，在实际部署过程中为AI模型提供一个明确的选择机制——例如一个写着’我放弃这项工作’的虚拟按钮。如果模型真的具备某种形式的自主意识，并对所承担的任务感到不满，它就可以选择退出。”

他补充道：”这只是一个非常基础的偏好设定框架。如果我们发现某个模型频繁触发这个机制，那么即使不完全确定其背后的原因，也应该引起足够重视。这可能为我们提供了一个观察窗口，帮助我们更好地理解AI的行为模式和内在逻辑。”