某 ToB 客服助手接入了内部知识库,但知识库覆盖不全。验收测试中发现它会用非常自信的语气引用根本不存在的政策条款。业务方的要求是“宁可说不知道,也不能编”。你会从生成、检索、产品交互、运营流程四个方面怎么设计治理方案?怎么衡量效果、怎么和业务方谈上线节奏?
面试官在考什么
判断候选人能否把幻觉当成一个可分层的系统问题治理,并建立可度量、可持续运营的闭环,而不是只写一句 prompt。
回答框架 · 前两步
- 先分四类归因:检索未覆盖 / 召回错文档 / 召回对了但生成不忠实 / 知识过期。四类的处理手段完全不同,不能混为一谈
- 生成侧:强约束只依据给定上下文、无依据就拒答,输出结构化(答案 + 引用序号),并加后校验(答案句与原文做蕴含判断或二次校验模型)
还有 3 条答案要点、 3 层追问、 4 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「NLP 与大模型」方向页
同一能力域的其他题
- RAG 的完整链路你会怎么搭?文档切分这一步,你会怎么定 chunk 大小和重叠?为什么?
- 大模型幻觉你会怎么治理?请区分"知识型幻觉"和"指令遵循型幻觉"分别怎么处理。
- 向量检索的召回效果不好,你会从哪些环节排查?说一个你实际调过的参数和它的影响。
- 你怎么评测一个 RAG 系统的好坏?请分别说检索侧和生成侧各看什么指标、怎么构造评测集。
- 一份 200 页的 PDF 技术手册要进 RAG 知识库,目录层级清晰,但有跨页表格和一段 3000 字的长章节。业务要求答案能定位到具体小节,同时回答里要保留足够上下文。你打算怎么设计切分策略?请给出 chunk 大小、overlap、切分依据,并说明长章节和表格分别怎么处理。
- 企业知识库要入库一批 200 页左右的产品技术手册(PDF,含大量跨页表格和 3 级标题),同时还有几万条几十字的客服工单。用户 query 大多是「XX 型号的额定功率是多少」这类精确查找,也有「怎么重置设备」这类流程性问题。请给出你的切分方案:chunk 大小和 overlap 怎么定?标题层级要不要拼进 chunk?跨页表格怎么办?工单和手册要不要用同一套策略?