AI规划推理能力：权威预测称未来十年或将持平人类水平

7月26日，备受瞩目的2025世界人工智能大会在上海拉开帷幕。在大会上，图灵奖得主约书瓦·本吉奥发表了重要演讲，他在演讲中指出，当前的先进AI模型在规划与推理能力方面已展现出显著的进步。若这一发展趋势得以持续，预计十年内AI的规划与推理能力将有望达到人类水平。

值得注意的是，本吉奥在演讲中也提及了强大的AI系统可能带来的风险。他指出，缺乏适当防护机制的强大AI系统可能会加剧虚假信息传播、网络攻击以及生物技术威胁等现有问题。更令人忧虑的是，人类可能逐渐失去对自我保护型智能体的控制能力，而这些智能体的认知水平可能在不远的将来超越人类。

对于这种潜在风险，本吉奥认为科学界需要保持高度警觉。他指出，目前尚不存在经过科学验证的有效方法来确保人工智能系统完全可靠，并始终遵循人类的意图。更令人担忧的是，在最强AI模型中，欺骗性和自我保护行为似乎更加明显。”随着人工智能系统的智能水平不断提升，这确实是真正值得警惕的问题，因为更高的智能往往伴随着更大的自主权和潜在风险。”

针对这些挑战，本吉奥强调，我们需要在技术和政策两个层面采取积极措施来应对相关风险和其他潜在问题。他建议，理性的政策应该鼓励开发不具备危险能力的开源AI项目；同时，对于其他类型的AI开发活动应予以严格限制，并对闭源模型实施全面的安全保障措施，包括网络安全和物理安全等方面的要求，以防止这些系统被犯罪分子、恐怖组织或流氓国家滥用。