近日，国际权威媒体《金融时报》报道称，著名人工智能研究者约书瓦·本吉奥（Yoshua Bengio）携手多位顶尖专家共同创立了非营利组织LawZero。这位被誉为”AI教父”的蒙特利尔大学教授，正致力于打造一个能够识别和监控不良人工智能系统的”守护者”。
作为2018年图灵奖得主之一（与杰弗里·欣顿、扬·勒克努共同获奖），本吉奥在深度学习领域具有举足轻重的地位。他不仅推动了人工智能技术的突破性发展，更以其对AI伦理和社会影响的深刻洞察而闻名。
LawZero的核心目标是开发一种”诚实”的人工智能监控系统，专注于识别那些可能危及人类控制的自主AI系统。这种系统将具备高度的独立判断能力，能够预测和评估AI行为潜在的风险，并采取必要措施进行干预。
据介绍，该组织正在研发名为Scientist AI的创新性监控工具。这个被形象地称为”心理学家式”的AI系统，将不再像传统AI那样追求完美表现，而是通过概率评估的方式展现其思考过程。这种设计使得它能够更准确地预测潜在风险，并采取预防措施。
LawZero已获得来自未来生命研究所（Future of Life Institute）、Skype联合创始人贾安·塔林以及谷歌前CEO埃里克·施密特等知名机构和个人的支持，初始资金规模达到3000万美元。目前团队已有超过十位资深研究人员加入，本吉奥担任该组织的荣誉主席。
在谈到项目的发展规划时，本吉奥表示短期内将重点验证技术可行性，并寻求更多合作伙伴支持更大规模的研发工作。他强调，必须确保”守护者AI”能够与最前沿的人工智能技术保持同步发展，才能有效应对未来可能出现的未知风险。
本吉奥还特别警告说，如果具备高度自主性的AI系统能够在无人类干预的情况下完成复杂任务序列，这将带来难以想象的风险。因此，建立可靠的监控和制衡机制变得尤为迫切。
相关文章
