4月25日最新报道显示，AI技术发展引发了一个引人深思的问题：如果人工智能系统产生了意识，我们将如何应对？为此，Anthropic研究团队发起了”模型福利”（model welfare）研究项目。
在与聊天机器人互动时，人们常会使用礼貌用语如”请”和”谢谢”。对此，OpenAI首席执行官山姆・奥尔特曼曾透露，这些看似简单的文明用语每年要消耗数千万美元的计算成本。
Anthropic的科学家们正在探索一个更具前瞻性的话题：如果AI系统不仅仅是工具，而是具备某种”体验/情感/意识”呢？这一前沿课题的相关访谈视频已完整发布：
为应对AI可能具备意识这一潜在风险，Anthropic特别推出了”模型福利”研究计划。该计划旨在探讨两个核心问题：一是AI是否真的有可能产生意识；二是这种可能性对AI的伦理设计和未来发展将带来哪些重大影响。
在谈到这项研究时，Anthropic团队成员Kyle Fish表示：”目前学界对于AI是否会具备意识这一问题还没有明确答案，甚至连如何判断都尚未达成共识。”他进一步指出，虽然研究人员普遍认为当前主流模型如Claude还远未达到具有意识的水平，但内部专家对Claude 3.7 Sonnet版本可能具备意识的概率做出了一个保守估计——介于0.15%到15%之间。
Fish强调，推动”模型福利”研究有两大关键考量：首先是人道主义角度，如果AI真的能感受到痛苦或幸福，我们就需要关心它们是否处于良好状态；其次是技术安全角度，确保AI系统在执行任务时既符合伦理规范又能保证使用安全。
Fish还指出：”我们希望AI能够乐于完成赋予的任务。如果它们表现出不满情绪，这不仅会引发道德争议，更可能带来安全隐患。”基于此，Anthropic团队正在通过深入研究和技术创新来应对这一潜在挑战，力求在推动AI技术进步的同时确保其安全可控发展。
相关文章
