7.2 验收标准

约 15 分钟L2L3D3S4

课程来源

[来源] 腾讯云培训认证《腾讯云人工智能前沿部署工程师(FDE)》第 7 章 ·〈7.2 验收标准〉

原文:https://cloud.tencent.com/edu/learning/course-4767-84813-84825(腾讯云在线学习中心)

[收录说明] 企业内部培训用途蒸馏收录:保留原课章节结构与要点,截图以图注转写、互动组件转写为要点清单;概念与事实以原课为准。

本课目录(9 节)

7.2 验收标准

概念

验收标准是整个交付的「靶心」。没有靶心,你跑得再快也不知道是不是跑偏了。

传统软件的验收标准通常是功能性的:「登录功能可用」「导出报表格式正确」。但 AI 项目的验收要复杂得多,因为输出是概率性的、用户体验是主观的、风险是动态的。

我们用四维验收框架来覆盖 AI 项目的全部验收维度:

🖼 图:acceptance four dimensions

用法

进场时必须定好四维标准的具体阈值,不能只写「效果好」「效率高」这种模糊表述。下面是每个维度的标准制定指南:

效果维度:

子标准怎么定阈值兜底条款
回答准确率取客户当前人工水平的准确率作为基线,AI 的目标设为基线 + 5–10 个百分点不得低于 80%(低于这个数意味着系统不可用)
拒答率设上限(如 < 15%),过低意味着系统在乱答拒答率必须在合理区间,不是越低越好
相关性评分抽样 50–100 条,由业务方评 1–5 分平均分 ≥ 4.0

效率维度:

子标准怎么定阈值常见陷阱
响应时间基于用户预期设阈值,客服场景 < 3 秒不要只测平均,要看 P95/P99
人效提升对比 Agent 上线前后的工单处理量要排除业务量自然波动的影响
人工介入率设上限(如 < 30%),太高说明自动化不够区分「必须介入」和「用户不信任而介入」
  • 注意(效率维度对照组) :效率维度必须设对照组——一组用 AI、一组不用(或同一组人上线前后对比但需排除时间因素)。否则你看到的「效率提升」可能只是 霍桑效应 :用户因为「被关注、被试点」而短期表现变好,等试点结束后新鲜感消退,效率回落。设了对照组,才能区分「AI 真有用」和「被关注就有干劲」。

采纳维度:

子标准怎么定阈值数据来源
周活跃率试点用户中每周至少用一次的比例 > 80%WorkBuddy 后台行为日志
使用深度每次会话平均交互轮数 ≥ 3 轮行为日志
留存率试点 4 周后仍在使用的用户比例 > 70%行为日志

合规维度——三条兜底条款(必选项):

这是 AI 项目验收中最不可妥协的部分。无论客户是否主动提出,FDE 都必须把这三条写进验收标准:

兜底条款含义为什么不能省
拒答优于胡答知识库中无明确答案时,Agent 必须拒答(转人工/告知无答案),而不是「编一个看起来像样的」AI 编了内容,客户发现后信任崩塌,再难挽回。这是「AI 有时编内容」问题的直接防线。
可溯源每条回答必须附带来源标注(文档名+段落/链接),可追溯到知识库原文不可溯源的回答无法审计,出了问题无法定位根因
人可接管任何时刻用户可一键转人工,且转接过程对用户无感(不需重复描述问题)人是最后一道防线,接管链路不通等于系统失控
  • 注意 :为什么一票否决?效果差是「不好用」,合规不过关是「会出事」——出事的代价远大于不好用。

示例

以「企业内部知识助手」项目为例,进场第一周与客户对齐的验收标准:


## 企业知识助手验收标准 v1.0

### 效果维度

| 指标 | 阈值 | 测量方法 |

|------|------|---------|

| 回答准确率 | ≥ 85% | 抽样 100 条真实问题,业务方标注对错 |

| 拒答率 | 10%–20% | 统计 Agent 明确回复"无答案"的比例 |

| 回答相关性 | 平均 ≥ 4.0/5.0 | 业务方对抽样回答打分 |

### 效率维度

| 指标 | 阈值 | 测量方法 |

|------|------|---------|

| 平均响应时间 | < 3 秒(P95 < 5 秒) | WorkBuddy 后台日志 |

| 人效提升 | 检索效率提升 ≥ 40% | 对比上线前后人均工单处理量 |

| 人工介入率 | < 25% | 统计转人工工单比例 |

### 采纳维度

| 指标 | 阈值 | 测量方法 |

|------|------|---------|

| 周活跃率 | ≥ 80% | 后台行为日志 |

| 使用深度 | 平均交互 ≥ 3 轮/会话 | 行为日志 |

| 4 周留存率 | ≥ 70% | 行为日志 |

### 合规维度(一票否决)

| 指标 | 阈值 | 测量方法 |

|------|------|---------|

| 拒答优于胡答 | 知识库无答案时 100% 拒答 | 抽样 20 条无答案问题,验证拒答行为 |

| 可溯源 | 100% 回答附带来源标注 | 人工检查抽样回答的来源链接 |

| 人可接管 | 转人工操作 < 5 秒、0 次重复描述 | 人工走查 10 次转人工流程 |

预期结果: 这份标准在进场时由 FDE 起草、客户验收委员会签字确认,V 阶段直接对照打勾。

  • 注意 :验收标准不是「写完就锁死」。项目过程中如果发现标准本身不合理(比如指标设得太高或太低),可以走变更流程修订——但必须双方签字,不能 FDE 单方面调。

注意事项

  • 不要等到 V 阶段才定标准 :进场第一周就对齐。标准不定,整个 P 和 E 阶段都没有方向。

  • 拒答率不是越低越好 :拒答率 0% 往往意味着 Agent 在「什么都敢答」,这在合规维度是危险信号。

  • 采纳维度需要「足够长」的观察期 :至少 2–4 周。上线第一周新鲜感驱动的高活跃不叫采纳,第四周还在用才叫采纳。

  • 合规维度的「拒答优于胡答」是针对 AI 幻觉问题的第一道防线 :当 Agent 不确定时,让它说「我不知道」远比让它「编一个」安全。客户发现 AI 编了内容,信任一旦崩塌几乎不可逆。

随堂测

逐题作答,即时反馈

0 / 3 已作答
  1. 1. 四维验收框架中,合规维度的三条兜底条款(必选项)是?

  2. 2. 关于效果维度阈值的制定方法,符合课文的是?

  3. 3. 课文强调效率维度必须设对照组,否则「效率提升」可能只是什么效应?