大模型安全护栏能力技术规范

本文件规定了大模型安全护栏的技术要求、功能要求及评价方法,包括安全护栏的总体架构、能力要求、安全防护机制以及测试评价指标。本文件适用于基于大语言模型构建、以文本交互为主并兼顾包含文本说明的多模态场景的智能系统安全防护能力建设,可用于指导大模型应用系统在设计、开发、部署及运行阶段的安全防护能力建设与评估。本文件适用于政务服务、公共管理、金融、医疗、教育等领域的大模型应用系统安全防护能力建设与评价,也可为大模型安全产品研发、系统集成和第三方安全测评提供参考。对于纯音频、纯视频等复杂多模态场景,可结合具体业务特点参照执行。

广州市云山人工智能安全研究院、广东著一智慧科技有限公司、成都御之安科技有限公司、联通(广东)网络信息安全科技有限公司、亚信安全科技股份有限公司、中移海算科技(雄安)有限公司、广州市天河区政务服务和数据管理局、国家电网有限公司信息通信中心、南方电网数字电网集团信息通信科技有限公司、广州医药集团有限公司、广东电网有限责任公司数智运营中心、广东烟草广州市有限公司、深城交科技集团股份有限公司、清华大学深圳国际研究生院、珠海海岸人工智能科技有限公司、重庆千港安全技术有限公司、神州数码数云科技有限公司