全球首个 AI 智能体安全测试标准发布_财经动态

全球首个 AI 智能体安全测试标准发布

迪丽瓦拉

2025-07-16 00:33:29

0次

IT之家 7 月 14 日消息，据蚂蚁技术消息，世界数字科学院（WDTA）在联合国日内瓦总部日前正式发布 AI STR 系列新标准《AI 智能体运行安全测试标准》，标准由蚂蚁集团、清华大学、中国电信牵头，联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国内外机构、企业及高校共同编制，为全球首个单智能体运行安全测试标准。

据介绍，该标准针对智能体跨越“语言墙”所带来的“行为”风险，首次将输入输出、大模型、RAG、记忆和工具五个关键链路与运行环境对应起来，构建了全链路风险分析框架；同时，细分了智能体风险类型，完善并创新提出了模型检测、网络通信分析和工具模糊测试等测试方法，弥补了智能体安全测试技术标准的空白。

IT之家从蚂蚁技术获悉，该标准不仅提供了一套可行可靠的智能体安全基准，也为全球 AI 智能体生态的安全、可信和可持续发展增加了有益的探索。目前，部分标准的测评与认证已在金融、医疗等领域落地应用。

此前，WDTA 已发布 3 项 AI STR 标准，包括“生成式人工智能应用安全测试标准”,“大语言模型安全测试方法”和“大模型供应链安全要求”，由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同参与。

上一篇：算力产业链爆发，12只基金单日涨超8%

下一篇：北交所上市公司开发科技大宗交易折价28.75%，成交金额251.94万元

全球首个 AI 智能体安全测试标准发布

相关内容

热门资讯