7月30日讯，2025世界人工智能大会暨人工智能全球治理高级别会议”人工智能发展与安全”全体会议于7月26日下午在上海成功举办。本次会议由中国人工智能发展与安全研究网络（CnAISDA）主办，上海市委常委、常务副市长吴伟以及国家发展和改革委员会创新驱动发展中心主任霍福鹏出席并发表了致辞。
杰弗里·辛顿、姚期智、约书亚·本吉奥和大卫·帕特森等四位图灵奖得主，与20多位国内外顶尖专家齐聚一堂，围绕人工智能安全发展、缩小智能鸿沟等前沿议题展开深入讨论，并积极寻求人工智能安全治理的国际合作路径。
中国信息通信研究院院长、中国人工智能产业发展联盟（AIIA）秘书长余晓晖受邀参与对话环节。他与清华大学、上海人工智能实验室、中国电子信息产业发展研究院等机构的代表共同发布了《中国人工智能安全承诺框架》。
该《框架》在2024年12月发布的AIIA《人工智能安全承诺》基础上，进一步强化了人工智能安全治理的国际合作内容，并新增了防范前沿人工智能技术潜在风险的相关要求。这一举措充分展现了中国产业界推动人工智能向善发展的坚定决心和开放态度。
未来，作为”研究网络”的重要成员和AIIA秘书处单位，中国信通院将与签署企业携手合作，通过定期披露行动进展、开展测试验证等方式，全面推进《框架》的落地实施。这一努力旨在推动我国人工智能朝着有益、安全、公平的方向健康有序发展，并积极参与国际治理合作，为全球人工智能安全治理贡献中国智慧和力量。
以下是《中国人工智能安全承诺框架》的中英文全文：
中国人工智能安全承诺框架
CHINA ARTIFICIAL INTELLIGENCE SECURITY AND SAFETY COMMITMENTS FRAMEWORK
当前，人工智能技术正以空前的速度重塑全球格局。它不仅为经济社会发展和人类文明进步注入了新的活力，同时也带来了前所未有的挑战和风险。中国人工智能发展与安全研究网络成员深知责任重大，现郑重发布《中国人工智能安全承诺框架》。我们将通过产业自律，以高标准的安全保障高质量的发展，共同推动人工智能稳健前行。
The rapid advancement of artificial intelligence is reshaping the global landscape at an unprecedented pace. While it brings transformative potential to economic and social development and human civilization, it also poses significant challenges and risks. Recognizing our responsibility, members of China AI Safety and Development Association (CnAISDA) hereby solemnly release the AI Security and Safety Commitments Framework. Through industry self-regulation, we commit to achieving high-level security for sustainable development and fostering robust progress in AI.
承诺一：建立专业团队，制定安全风险管理机制。明确安全负责人，设定符合实际需求的安全风险基线，并在人工智能模型开源和全生命周期管理中采取相应措施。
Commitment I: Establish dedicated security teams and implement robust risk management mechanisms. Designate a leader responsible for AI safety, define realistic security baselines, and adopt appropriate measures during model open-source initiatives and throughout the entire development lifecycle.
承诺二：强化模型安全测试，提升其可靠性和安全性。在发布或更新大模型前，通过专业团队进行严格的安全测试，并重点评估其在工业、教育、医疗等领域的安全性和可靠性。
Commitment II: Enhance model safety testing to improve reliability and security. Conduct rigorous pre-release or update testing for large language models, focusing on their performance in critical sectors like healthcare and education.
承诺三：确保数据安全与隐私保护。制定严格的数据防护制度，防范数据投毒风险，保障训练数据的准确性和可靠性，同时加强业务数据的加密存储和访问控制。
Commitment III: Ensure data security and privacy protection. Establish robust data protection policies, prevent data poisoning incidents, ensure data accuracy, and enforce encryption and access controls for operational data.
承诺四：提升基础设施安全水平。建立完善的软硬件安全监测和防护体系，定期开展安全渗透测试，识别潜在风险，并制定有效的应急响应机制。
Commitment IV: Enhance infrastructure security. Develop comprehensive monitoring and protection capabilities, conduct regular penetration tests, identify potential risks, and establish effective incident response mechanisms.
承诺五：提高模型透明度。主动向公众披露安全治理措施，明确模型的功能、适用范围及局限性，并通过多种方式向利益相关方传达潜在风险。
Commitment V: Enhance model transparency. Proactively disclose safety measures and provide clear information about model capabilities, limitations, and potential risks to all stakeholders.
承诺六：加强前沿安全研究。积极研发和部署符合伦理标准的人工智能系统，主动分享研究成果，并防范人工智能技术在高风险场景中的潜在滥用风险。
Commitment VI: Advance frontier safety research. Develop and deploy AI systems aligned with ethical principles, share research findings transparently, and mitigate potential risks of misuse in high-stakes scenarios.
承诺七：深化国际合作，推动技术普惠。积极参与全球人工智能安全治理对话，分享最佳实践，并通过科普宣传和技能培训弥合智能鸿沟。
Commitment VII: Strengthen international cooperation. Participate in global AI safety dialogues, share best practices, and address the global intelligence divide through public education and skill training.
相关文章
