实战约 15 分钟第 23 / 47 章
AI 产品指标体系:召回率、准确率、幻觉率、拒答率
本课程拆解 AI 产品四大核心指标:召回率、准确率、幻觉率与拒答率的定义与产品含义,厘清模型指标与业务指标的边界,理解指标间的权衡关系,并学会把技术指标翻译成老板听得懂的可汇报语言。
📖 本页目录
先分清:模型指标 vs 业务指标
模型指标(召回率、准确率等)是技术团队做优化用的内部语言;业务指标(留存率、任务完成率、转化率、NPS)才是产品成败的最终裁判。两者不能混用:准确率 95% 不等于用户满意度 95%——用户可能恰恰被那 5% 的高频错误劝退。PM 的职责是建立两者的映射:别在业务汇报里只报模型指标,也别拿业务波动直接指挥模型优化。
四大核心指标
| 指标 | 定义 | 产品含义 |
|---|---|---|
| 召回率(Recall) | 应该找到的内容中,实际找到的比例 | 用户「问不倒」的程度 |
| 准确率(Precision) | 给出的回答中,正确的比例 | 用户「敢不敢信」 |
| 幻觉率 | 回答中编造事实的比例 | 信任风险,直接关联投诉与事故 |
| 拒答率 | 模型有能力却拒绝回答的比例 | 体验损失,「过度谨慎」的信号 |
前两个是一对此消彼长的「质量对」,后两个是一对「安全—体验」跷跷板。
指标间的权衡
- 召回 vs 准确:放宽检索阈值,召回上升、准确下降——搜得全但夹带噪声;收紧则相反。资讯搜索偏召回(宁可多给再筛),医疗法律偏准确(宁缺毋滥)。
- 幻觉 vs 拒答:Prompt 约束越严(「资料没有就答不知道」),幻觉率下降,但拒答率上升——用户感觉「这也不肯、那也不肯」。优化目标不是把某个指标压到零,而是找到适合场景的平衡点。
单看任何一个指标都可能被骗,要组合阅读:准确率高 + 拒答率也高,说明模型「过度保守」——只挑最有把握的问题回答;幻觉率下降但留存也下滑,可能约束过头牺牲了有用性。四个指标放在一起看,才能定位真正的病因。
产品决策提示:指标权衡没有全赢的解,只有「按场景定优先级」。写 PRD 时明确:本场景哪个指标第一优先、哪个是护栏红线——这直接决定技术方案的取向。
把指标变成可汇报的语言
技术指标老板听不懂,也支撑不了资源决策。翻译三步走:
- 技术指标 → 用户可感知:「召回率 78%」→「用户每问 10 个问题,约 8 个能得到答案」;
- 用户可感知 → 业务影响:「答不上的问题导致 12% 用户转人工客服,每月多花 X 万人力」;
- 业务影响 → 行动建议:「把召回率提到 85%,预计人工转接减少三成,需 Y 周优化检索」。
汇报的终点永远是行动建议,而不是指标本身。
本节要点
- 模型指标是内部优化语言,业务指标是最终裁判,两者要建立映射,不可混用。
- 四大指标:召回率管「问不倒」、准确率管「敢不敢信」、幻觉率管信任风险、拒答率管体验损失。
- 召回与准确、幻觉与拒答各是一对跷跷板,按场景定优先级,不存在全赢配置。
- 汇报时把技术指标翻译成「用户可感知 → 业务影响 → 行动建议」三段,指标才有决策价值。
📝
章节小测
3 道题 · 检验一下刚学的内容
Q1.医疗咨询类 AI 产品在「召回 vs 准确」上的合理取舍是?
Q2.收紧「资料未提及即答不知道」的约束后,最可能出现的连带变化是?
Q3.向 CEO 汇报「拒答率从 30% 降到 18%」,最佳的表述方式是?
答题后显示结果
完成这一节了?
打卡记录保存在你的浏览器本地,方便追踪学习进度。
💬
🔒 私密学习留言
写下你的疑问或心得 —— 仅你自己和站长可见
0 / 2000
登录 后可发布私密留言,向站长提问。