| 核验项目 | 合格判定指标 | 验收方法 |
|---|---|---|
| 系统可用性 | 月均故障停机时间≤30分钟 | 查阅运维日志,统计连续30天运行记录 |
| 处理时效性 | 单通会话全链路处理延迟≤90秒(含ASR+NLU+评分) | 选取100条测试样本,测量端到端响应时间 |
| 违规检出能力 | 高风险事件(如辱骂客户、泄露隐私)检出率≥95% | 注入50条含已知违规点的测试数据,验证召回情况 |
| 评分一致性 | 系统评分与专家评分皮尔逊相关系数r≥0.85 | 组织3名资深质检员独立打分,取平均值对比 |
| 接口稳定性 | 与CRM/工单系统对接成功率≥99.9% | 连续7天监测API调用失败率 |
整体验收流程按以下顺序执行:
① 提交《系统功能清单》《测试用例集》《试运行日报》;
② 组织现场演示,随机调取近7天任意10通会话进行实时解析;
③ 抽查50条系统标记为“高风险”的会话,由专家组复核定级;
④ 所有分项核验通过且无A类缺陷(影响核心质检功能)方可签署终验报告。
现象:广东地区坐席使用粤语表达“唔该”被误识别为负面情绪;
质控方案:建立区域语音特征库,启用方言自适应模块,对低资源方言采用半监督学习补充训练数据,确保识别准确率提升至基准线以上。
现象:客户先说“我要投诉”,后续解释“但我现在解决了”,系统仍记为投诉事件;
质控方案:引入对话状态追踪(DST)机制,设置意图漂移容忍窗口(≥2轮交互),动态修正最终标签。
现象:上线3个月后,相同会话评分标准差扩大至±8分;
质控方案:每月执行模型健康度评估,监控KL散度变化,当分布偏移量>0.15时触发再训练流程,使用最近30天标注数据更新模型参数。
现象:与工单系统同步延迟达10分钟以上;
质控方案:部署消息队列(Kafka/RabbitMQ)实现异步解耦,设置重试策略(最多3次,间隔2/4/8分钟),超时自动告警并生成异常工单。
现象:实际抽检比例仅为2.3%,低于标准要求;
整改落地方案:配置自动化抽样引擎,按坐席、班次、业务类型分层抽样,确保每日5%最低覆盖,审计日志留存不少于180天。
| 标准号 | 标准名称 | 状态 | 发布日期 | 实施日期 |
|---|---|---|---|---|
| YD/T 4394.6-2023 | 自然语言处理技术及产品评估方法 第6部分:客服质检系统 | 现行 | 2023-07-28 | 2023-11-01 |