客服 RAG 上线后统计发现约 15% 的回答有问题,主要是两类:一是检索根本没召回相关内容,模型还是硬答;二是召回了多个文档,模型把两篇的内容拼错或混在一起。请分别针对这两类问题给出治理方案,并说明在无法完全消除的情况下,怎么让用户感知到风险。
面试官在考什么
判断候选人能否把幻觉拆成「召回失败」和「生成不忠实」两类可分别定位的问题,并给出分层治理而不是只调 prompt。
回答框架 · 前两步
- 先分因:召回失败导致的幻觉要从检索侧治(提高 recall@k、加混合检索和 rerank、降低拒答阈值),生成不忠实的幻觉要从 prompt 和校验侧治,两者不能用同一招
- prompt 侧应要求结构化输出+逐句引用来源编号,并显式给出「上下文不足以回答时输出固定话术」的出口,光写「只根据上下文回答」缺少可执行的出口
还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「NLP 与大模型」方向页
同一能力域的其他题
- RAG 的完整链路你会怎么搭?文档切分这一步,你会怎么定 chunk 大小和重叠?为什么?
- 大模型幻觉你会怎么治理?请区分"知识型幻觉"和"指令遵循型幻觉"分别怎么处理。
- 向量检索的召回效果不好,你会从哪些环节排查?说一个你实际调过的参数和它的影响。
- 你怎么评测一个 RAG 系统的好坏?请分别说检索侧和生成侧各看什么指标、怎么构造评测集。
- 一份 200 页的 PDF 技术手册要进 RAG 知识库,目录层级清晰,但有跨页表格和一段 3000 字的长章节。业务要求答案能定位到具体小节,同时回答里要保留足够上下文。你打算怎么设计切分策略?请给出 chunk 大小、overlap、切分依据,并说明长章节和表格分别怎么处理。
- 企业知识库要入库一批 200 页左右的产品技术手册(PDF,含大量跨页表格和 3 级标题),同时还有几万条几十字的客服工单。用户 query 大多是「XX 型号的额定功率是多少」这类精确查找,也有「怎么重置设备」这类流程性问题。请给出你的切分方案:chunk 大小和 overlap 怎么定?标题层级要不要拼进 chunk?跨页表格怎么办?工单和手册要不要用同一套策略?