知识库里哪些内容不适合让 AI 客服回答?
知识库既决定 AI 客服能回答什么,也决定它会在什么问题上说错话。本文梳理六类不适合入库的内容、三种替代处理方式,以及一套可直接执行的知识库内容分级步骤,帮助企业在扩充知识库的同时守住误答与隐私边界。
快速回答
不适合让 AI 客服回答的内容,主要是内部管理制度、尚未定稿的政策规则、单个客户的个人信息与交易明细、账号与密钥、需要个案判断的争议和责任认定,以及未授权或来源不明的转载内容。这些内容要么可能泄露内部或客户信息,要么容易被 AI 当成企业承诺说出来,处理方式应以改写、抽象成通用规则或只保留人工口径为主,而不是直接入库。
先分清两件事:能不能放进知识库,和该不该让 AI 回答
美橙 AI 客服的回答建立在知识库检索之上:文档需要被索引、需要有与问题相关的内容,AI 才可能给出回答。操作手册中明确提示,出现无知识库、文档尚未索引、无相关内容,或 AI/额度不可用等情况时,应先把对应原因处理掉,问题才能解决。
这说明知识库既是 AI 回答的来源,也直接决定了它会说什么、说到什么程度。但“这份资料有用”和“适合让 AI 讲给客户听”是两个判断。一份文档只要进了知识库,就有可能在某次对话中被检索到,并以客服口吻转述出去。所以入库前真正要问的是:如果 AI 把这份内容原样讲给客户,会不会出问题?
下面几类内容,对这个问题的答案通常是“会”。
六类不建议让 AI 客服直接回答的内容
1. 内部管理制度与员工操作流程
排班规则、审批链路、内部考核方式、后台操作步骤,这些内容客户用不到,AI 却可能在回答时顺便说出来。一旦被复述,轻则让客户困惑,重则暴露内部运作方式。客户确实需要知道的部分,应当另写一份“客户视角”的说明,而不是把内部文档直接放进去。
2. 尚未定稿或尚未审批的政策规则
政策草案、讨论稿、口头承诺、待确认的活动规则,都不适合入库。AI 不会区分“草稿”和“正式版”,它只会照着文本回答。把未确认的内容放进去,等于让 AI 替企业说出尚未确认的承诺。
3. 单个客户的个人信息与交易明细
姓名、电话、地址、订单号、合同条款、聊天记录原文等,属于特定客户的信息,不适合放进所有会话都可能检索到的公共知识库。知识库应当存放“对所有人都成立”的规则与说明,而不是某个客户的档案。
4. 账号、密钥与后台访问凭证
测试账号、后台地址、接口密钥、管理员操作截图等,任何情况下都不应写进知识库文档。这类内容哪怕只被引用一次,后果也很难收回。
5. 需要个案判断的争议与责任认定
赔付金额、责任归属、法律判断、例外审批,答案取决于具体事实,不适合由 AI 下结论。知识库可以写“这类问题会转交人工处理”的口径,但不提供判断标准本身。
6. 未授权转载或来源不明的内容
从网上摘来的行业说法、他人整理的资料、没有出处的数字,一旦被 AI 引用,就等于企业为该说法背书。没有可靠来源的内容,宁可不写。
边界内容不等于直接删掉:三种处理方式
判断出某类内容不适合入库之后,不必把它从所有地方抹掉,而是换一种形态:
- 改写后入库:把内部流程改写成客户能看懂的“你需要做什么、大概什么时候会有回复”,只保留客户视角的部分。
- 抽象成规则:去掉具体数字、具体人名、具体客户信息,只留通用判断标准和适用条件。
- 只保留人工口径:知识库里只写“该问题需要人工核实,会为您转接”,把详细依据留在内部文档里。
这三种方式的共同点是:知识库回答“客户该怎么办”,内部文档记录“我们怎么办”。
操作步骤:给知识库做一次内容分级
如果知识库已经积累了一批文档,可以按下面的顺序做一次清理与分级。
- 列清单:把待入库和已入库的文档全部列出来,标注来源和用途(对外说明、内部制度、客户资料、参考资料)。
- 分四档:逐份判断属于“可直接回答”“改写后可回答”“仅内部留存”“禁止入库”中的哪一档。
- 做脱敏:对“改写后可回答”的文档,删去客户信息、内部人名、未定稿表述和未经确认的数字。
- 定兜底话术:为“仅内部留存”和“禁止入库”涉及的主题准备统一说法,明确什么情况下转人工,避免 AI 在没有相关内容时自行推测。
- 确认已索引:入库后确认文档已被索引,并用真实客户的问法验证一遍。需要注意,聊天测试只说明对话链路是否正常,不能代替网站安装测试。
- 把纠正纳入日常:发现回答偏差时,优先修正来源文档本身,而不只是纠正那一次回答;系统的 AI 学习、答案纠正与知识优化相关能力,应围绕文档质量来使用。
- 按固定周期复核:政策更新、活动结束、流程调整之后,及时回看对应文档是否过期或口径变化。
典型场景:遇到这些情况怎么判断
- 客户问“我这单能赔多少”:答案取决于订单事实。知识库只提供“如何申请”和“多久会有回复”,金额判断转人工。
- 客户问“你们内部审批要多久”:这属于内部制度,不入库。如果客户关心进度,改写为“提交后可在订单页查看处理状态”。
- 客户问“能不能开专用发票”:属于通用规则,适合入库,但口径必须与财务确认一致后再写。
- 客户问“能不能给我一个特殊折扣”:属于个案授权,入库只会让 AI 承诺它做不到的事,应转人工。
- 客户问“我的账号为什么被限制”:需要查具体账号,知识库只提供申诉入口和所需材料的说明。
- 客户问到正在讨论中的新政策:在正式确认之前,AI 只回答现行规则,并说明后续调整会另行通知。
常见误区
误区一:知识库越大越好。 检索范围被大量无关文档稀释后,反而更容易出现答非所问;而当检索不到相关内容时,AI 同样只能表示无法回答。宁可少而准。
误区二:把知识库当成内部 wiki 的镜像。 两者的读者不同。内部文档讲“我们怎么运作”,知识库要讲“客户会得到什么”,中间需要一层改写。
误区三:用一两次对话测试判断内容是否安全。 测试覆盖不到所有问法,也无法替代正式上线前的验证流程。
误区四:忽略检索消耗。 AI 及知识检索消耗依当前套餐与计费规则计算,整理知识库时,值得把检索范围和维护成本一起考虑。
把边界写进入库流程,而不是靠人记
内容边界靠个人记忆很难长期维持,做成检查项更稳妥。每次新增或修改文档,先过一遍:是否面向客户可见、是否有确认过的口径、是否含客户个人信息、是否含未定稿的数字或承诺、出问题时能否转人工兜底。
五项都能通过,再入库;有一项说不清,就先改写或留在内部。知识库的边界清楚了,AI 客服的回答范围才会稳定,企业也更容易解释“为什么这个问题 AI 这样回答”。
常见问题
内部管理制度和员工流程,能不能放进知识库?
不建议直接放入。知识库面向客户,AI 会把检索到的内容以客服口吻转述,内部流程一旦被复述,容易引起误解,也可能暴露内部运作方式。客户确实需要知道的部分,应另写一份客户视角的说明,只讲客户要做什么、会得到什么结果。
政策还没最终确认,可以先放进知识库试运行吗?
不建议。AI 不会区分草稿和正式版本,只会照文本回答,未确认的内容一旦被引用,就等于企业提前做出了承诺。可以先在内部保存草案,等口径确认后再入库;同时准备好现行规则的统一说法,避免客户问到新政策时没有着落。
客户的订单、合同、聊天记录,要不要放进知识库?
不要。知识库是公共检索范围,任何一次会话都可能命中里面的内容。单个客户的姓名、电话、订单号、合同条款属于特定客户信息,应当留在业务系统里,知识库只存放对所有人都成立的规则、流程和说明。
客户问赔偿、责任认定这类问题,AI 该怎么处理?
这类问题依赖具体事实,不适合由 AI 下结论。知识库中只写“该问题需要人工核实,会为您转接”的口径,并说明申请入口和大致处理流程;具体金额、责任归属和例外审批交由人工判断。
知识库文档越多,AI 回答是不是越准?
不一定。回答质量取决于检索到的内容是否与问题相关:文档没有被索引、检索不到相关内容时,AI 同样无法回答;无关文档过多还会稀释检索范围,让回答偏离问题。整理时更应关注内容是否准确、口径是否确认、是否面向客户,而不是数量。
发现 AI 答错了,是改那一次回答,还是改知识库?
优先改知识库。答案偏差通常来自来源文档过期、表述含糊或混入了不适合客户看的内容,只纠正单次回答,同类问题还会再次出现。可以结合系统提供的答案纠正与知识优化相关功能,把修正落到文档上,并顺带检查同类文档是否存在相同问题。