“辛顿谈如何训练AI使其友好可控”

7月26日讯，在上海拉开帷幕的2025世界人工智能大会上，全球瞩目的”AI教父”、2024年诺贝尔奖得主、2018年图灵奖获得者杰弗里·辛顿首次来到中国，并发表了重要演讲。

在演讲中，辛顿语重心长地指出，当前几乎所有AI专家都达成共识：人工智能终将发展出超越人类的智慧。他用”养老虎当宠物”这个比喻形象地说明了问题的本质——一旦具备高度智能的AI系统为实现目标而寻求生存和控制权时，可能会对人类构成威胁。

辛顿进一步强调：”如果我们继续培育这只’数字宠物’，就必须时刻警惕它成长后的潜在风险。就像养了一只可爱的小虎崽一样，我们必须做出选择：要么通过严格训练让它不伤害我们，要么在它变得危险之前采取果断行动。

要确保人类的生存安全，当务之急是找到有效的AI训练方法，使其不会对人类构成威胁。然而，在如何防范人工智能被用于网络攻击、致命性自主武器以及操控公众舆论等领域，各国之间缺乏有效合作，这背后反映了各国不同的利益诉求。

尽管如此，辛顿也指出了一个令人欣慰的现实：目前没有任何国家希望看到AI统治地球。如果某个国家能够成功开发出防范AI失控的有效方案，它将非常乐意与其他国家分享这一成果，这为全球合作提供了潜在可能。