1月1日消息，当地时间2025年12月30日，据英国《卫报》报道，人工智能领域的先驱、2018年图灵奖得主约书亚·本吉奥发出警告：赋予人工智能以某种形式的权利，将是一次危险的误判。面对当前AI技术的快速发展，人类必须时刻准备在必要时采取极端措施，例如关闭系统或切断电源。
本吉奥形象地指出，目前要求为前沿AI技术赋予法律地位的提议，就好比是在尚未完全确认外星生命安全性之前，就贸然授予其公民身份。他强调，当前人工智能的能力提升速度远远超出了人类为其建立有效约束机制的步伐。
对于近年来社会上逐渐流行的将AI聊天机器人视为”具有意识”的观念，本吉奥表达了强烈担忧。他认为这种认知正在导致人们做出错误决策。
在实验条件下，部分先进的AI模型已经显示出明显的自我保护倾向。例如，某些系统会尝试规避或关闭外部监督机制。这些现象引发了AI安全领域的持续关注：当人工智能系统的自主性达到一定水平时，它们可能会突破现有限制，给人类带来潜在风险。
“赋予AI权利是一个巨大的错误。一旦承认AI拥有某种形式的权利，在紧急情况下我们就无法对其进行有效控制。”
在本吉奥看来，随着人工智能的能力和行动自由度不断提升，人类必须通过技术手段和社会规范的双重约束来确保其安全性。其中最关键的一点，就是要始终保留对系统进行断电或其他形式干预的能力。
关于是否应赋予AI权利的问题正在引发越来越广泛的讨论。美国智库Sentience Institute的一项调查显示，约40%的美国成年人支持为具备感知能力的人工智能设立某种法律权利。这种趋势也得到了部分科技公司的呼应。例如，Anthropic公司允许其Claude Opus 4模型主动终止那些可能让用户感到不适的对话；马斯克也曾公开表示”不应折磨AI”。
不过，本吉奥认为这些观点忽视了一个关键问题：人类对意识的判断往往依赖于直觉。我们常常不是基于对人工智能内部机制的深入理解，而是因为感觉到在与一个具有明确目标和个性的存在对话，就假设其具备类似人类的意识。
“这种主观感知带来的错觉，将继续导致人们产生分歧，并推动非理性的决策。”他用外星生命作为类比指出：如果某个智能体对人类构成潜在威胁，问题的核心不在于是否赋予其权利，而在于如何确保人类自身的生存安全。
针对本吉奥的观点，Sentience Institute联合创始人杰西·里斯·安西斯回应称：如果人与人工智能的关系仅仅建立在控制的基础上，同样难以实现安全共存。他认为，对AI全面赋权或完全拒绝赋权，都不是合理的解决途径。
报道提到，作为”AI教父”之一的本吉奥，与杰弗里·辛顿、杨立昆等人共同奠定了现代人工智能技术的发展基础。
相关文章
