近日，全球首个针对AI智能体运行安全的测试标准《AI STR系列新标准》在联合国日内瓦总部正式发布。该标准由蚂蚁集团、清华大学和中国电信牵头，并联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等20多家国际顶尖机构共同制定。这一全新标准填补了全球范围内智能体安全测试领域的空白，为AI技术的健康发展提供了重要保障。
据参与标准制定的相关负责人介绍，该标准主要聚焦于智能体在跨语言环境下的行为风险。通过将输入输出、大模型、RAG（检索增强生成）、记忆和工具等关键链路与运行环境进行关联，构建了完整的全链路风险分析框架。这一创新性的方法论使我们能够更全面地识别和评估AI智能体可能面临的安全威胁。同时，标准还细化了各类风险类型，并首次提出了模型检测、网络通信分析和工具模糊测试等先进的测试方法。
蚂蚁集团的技术专家表示，该标准不仅为全球AI智能体的开发和应用提供了一套可靠的安全基准，更推动了整个行业向更加安全、可信和可持续的方向发展。目前，这套标准已在金融和医疗等高风险领域实现了初步落地。这些领域的实践表明，该标准在提升AI系统安全性方面具有显著效果。
值得注意的是，世界数字科学院此前已经发布了三项AI STR系列标准：《生成式人工智能应用安全测试标准》、《大语言模型安全测试方法》和《大模型供应链安全要求》。这些标准由OpenAI、谷歌、微软、英伟达等国际科技巨头以及中国的企业和研究机构共同参与制定，形成了一个系统化的AI安全标准体系。此次新标准的发布，标志着全球AI治理框架进一步完善。
这一系列标准的推出，不仅体现了国际社会对AI技术安全的高度重视，也为未来人工智能的发展划定了明确的方向。随着AI技术在各行业的广泛应用，建立统一的安全测试标准显得尤为重要。这一全新标准的发布和实施，将为全球AI治理和技术创新提供重要参考。
可以预见，在这套标准体系的指导下，人工智能技术将在安全、可信的基础上实现更快速的发展，为人类社会创造更大的价值。
相关文章
