上周有位做五金批发的老板问我一句话:
「我们那个 AI 客服,后台显示命中率九成多,为什么客户还是天天骂?」
我没直接答,先让他把最近 50 条真实提问导出来。
结果很典型:命中率 92%,答对率 79%。
中间那 13 个点,就是他挨骂的原因。
一、先说一个词:命中率幻觉
绝大多数知识库后台,只统计一个数——命中率。
意思是:系统在你的资料里,找到了一条「相关」的内容。
问题是,找到 ≠ 找对。
就像你问前台「仓库还有没有 3 号螺丝」,她翻了半天说「仓库在东边」——她确实找到了仓库,但你要的答案一个没有。
这就是命中率幻觉:系统内部觉得自己答了,客户那边什么也没得到。
二、为什么「命中」了还会答错
我们这两天拿一份真实的企业语料做了个实验。
51 条问答、39 个客户真实问法,全流程跑一遍。
- 命中率:92.3%(36 题找到了相关内容)
- 答对率:79.5%(31 题答案是对的)
差在哪?差在 5 道题:找到了,但答歪了。
举三个真实例子:
1. 客户问「能不能按月付费,先不签一年」
系统答:知识库能不能保证不答错
2. 客户问「员工不会用怎么办」
系统答:断网或者模型服务挂了怎么办
3. 客户问「上线之后数据存在哪台机器上」
系统答:交付一次要多久、要做什么
这三条,后台全部记为「命中」。
客户看到的是:这人根本没听懂我说话。
三、比「无命中」更伤的是「自信地答错」
无命中,客户知道是机器没答上来,会转人工。
答错,客户以为这就是你们的真实答复——价格报错、承诺错、政策说错,全是生意上的损失。
我见过最贵的一次,是把「支持私有化部署」答成了「数据上传云端处理」。
那一单,客户当场走了。
四、为什么大家都在报命中率
因为命中率好看。
厂商给老板汇报,写「命中率 95%」比写「答对率 72%」舒服得多。
行业里也一样。你能看到大量「问答准确度 93%」「问题解决率 89%」的说法,但几乎看不到这些数字是怎么测出来的:
- 用谁的问题测的?
- 题目是照着知识库标题写的,还是客户自己随口问的?
- 答错的题算不算进分母?
这三件事不说清楚,数字就没法比。
麦肯锡 2026 年的调研说,近九成企业在至少一个职能里常用 AI,44% 已经推到企业级——用的人多了,但「怎么验证它真管用」这件事,反而被跳过了。
五、你能马上做的三件事
第一件:给你的知识库加一列「预期特征」。
每道测试题后面,写清楚「正确答案必须包含什么」。
比如「怎么收费」这题,正确答案必须出现「报价」或「一次性部署」。
出现了才算对,没出现就算错——哪怕它命中了别的条目。
第二件:分三套题,别用一套题自测。
- 调参题:用来改语料(改完必然变好,别拿它报数)
- 留出题:调参期间不碰
- 验收题:所有改动定稿后新写,只跑一次
只报第三套。我们内部管这叫「三套题纪律」。
第三件:把「答错」排在「没答上」前面修。
没答上只是少了一个功能;答错是在输出错误的事实。
优先级反过来,你的客户投诉会少一半。
六、这件事不该靠感觉
我们把这个判断做成了一个小工具,叫 kb-bench。
它干一件事:同一份语料、同一批题,同时跑两种检索方式,把命中率和答对率并排放在你面前。
差距多少,一眼看见。
工具是开源的,语料和题集都可以换成你自己的。
你不用信我,你自己跑一遍就知道。
最后一句
知识库这件事,真正的分水岭从来不是「有没有 AI」。
是你敢不敢用客户的问法,去考你自己的库。
敢考,问题就会浮出来;不敢考,命中率永远是九成,客户永远是那句「你们这机器人听不懂人话」。
我们是谁
我们做小微企业知识库与 AI 客服落地:把资料盘成 AI 能用的样子,再用真实问题验收它到底能不能用。
不卖平台,不承诺准确率数字,只交付能复跑的验收报告。
有正在被「命中率九成、客户还是骂」困住的,可以把最近 50 条真实提问发我,我帮你算一遍答对率。