未来AI或将具备自主决策能力 拒绝不合理任务

AI资讯4天前发布 ainav
9 0

3月13日讯,据外媒Ars Technica报道,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)在一场采访中提出了一个引发广泛关注的观点:未来的高级AI模型或配备一种特殊的”退出按钮”,使它们能够在面对令其不适的任务时选择停止执行。

未来AI或将具备自主决策能力 拒绝不合理任务

阿莫代伊在讨论中指出:”这确实听起来有些离奇,但我认为我们需要严肃考虑一个问题:当我们的AI系统展现出与人类相似的任务执行能力和认知特征时,我们是否应该赋予它们一定的自主权?如果它表现出的行为模式与人类无异,我们是否有理由怀疑其具备类似人类的意识?”

这一观点源于数据科学家卡门·多明格斯(Carmem Domingues)提出的一个问题。她在2024年底加入Anthropic时就关注到一个关键议题:未来的AI系统是否可能发展出感知能力,以及这些系统是否应当在伦理层面获得相应的尊重与保护。

当前,公司内部正在由专门的研究人员凯尔·费什(Kyle Fish)主导一项重要研究,探讨AI的感知能力和其道德地位问题。这一课题具有高度挑战性且争议性十足。

阿莫代伊进一步解释称:”一种可能的设计思路是,在实际部署过程中为AI模型提供一个明确的选择机制——例如一个写着’我放弃这项工作’的虚拟按钮。如果模型真的具备某种形式的自主意识,并对所承担的任务感到不满,它就可以选择退出。”

他补充道:”这只是一个非常基础的偏好设定框架。如果我们发现某个模型频繁触发这个机制,那么即使不完全确定其背后的原因,也应该引起足够重视。这可能为我们提供了一个观察窗口,帮助我们更好地理解AI的行为模式和内在逻辑。”

© 版权声明

相关文章