大模型服务与应用安全评测技术规范

本文件规定了大模型服务与应用安全评测的评测对象、评测环境与测试准备、安全风险类型、安全检测方法、评价指标、评估结果判定规则以及测试报告要求。本文件适用于对大语言模型服务平台、大模型应用系统、智能体系统以及集成大模型能力的应用程序接口(API)服务开展安全评测。本文件适用于文本交互、代码生成、多轮对话、检索增强生成以及工具调用等场景的安全评测;涉及图文等多模态场景时,可参照本文件相关要求执行;音频、视频等其他模态场景可参照执行。本文件可用于指导大模型服务与应用安全能力评估、第三方安全测评以及相关服务与应用的安全能力建设。

广州市云山人工智能安全研究院、广东著一智慧科技有限公司、联通(广东)网络信息安全科技有限公司、亚信安全科技股份有限公司、国家电网有限公司信息通信中心、中移海算科技(雄安)有限公司、江苏致网科技有限公司、中移互联网有限公司、中国电力科学研究院有限公司、广州芳禾数据有限公司、神州数码数云科技有限公司、上海元枢智汇技术有限公司、中国瑞达投资发展集团有限公司、工业和信息化部电子第五研究所、清华大学深圳国际研究生院、重庆千港安全技术有限公司、天磊卫士(深圳)科技有限公司、深圳市和讯华谷信息技术有限公司、珠海海岸人工智能科技有限公司