AI算法可解释性与决策透明度通用技术规范

本文件规定了AI算法可解释性与决策透明度的技术要求,描述了评估方法。本文件适用于各类AI系统的全生命周期过程,包括需求分析阶段的可解释性目标锚定、数据采集与预处理阶段的透明度基础构建、模型设计与训练阶段的可解释性嵌入、部署运行阶段的解释生成与透明度公开、监控迭代阶段的可解释性优化及透明度更新、评估审计阶段的合规性验证。

中国联通国际有限公司、南京南瑞信息通信科技有限公司、珠海市人民医院、南京航空航天大学、中国信息通信研究院、北京邮电大学、中科数测固源科技(安徽)有限公司、鸿彧智能科技(山东)有限公司、华兴中科标准技术(北京)有限公司