某 RAG 链路加了 cross-encoder Rerank，离线相关性指标明显提升，但线上 P99 从 800ms 涨到 2.4s，业务方不接受；同时有用户反馈“答案引用了不相关的段落”。让你处理这个矛盾：你会怎么改链路、做哪些取舍，用什么证据说服业务方接受你的方案？
面试官在考什么
判断候选人能否在延迟预算硬约束下做分层排序的架构取舍，并把质量收益与延迟代价谈成可验收的标准。
回答框架 · 前两步
- 先拆延迟构成：是候选数过大、模型过大，还是链路串行导致；Rerank 只应作用于 top-N（通常几十到一两百），而不是全库
- 做分级排序：轻量粗排（小 cross-encoder 或双塔+特征）→ 精排，或按 query 类型/业务等级决定是否触发重排
还有 3 条答案要点、 3 层追问、 4 个常见坑， 以及针对你简历的追问路径，在定制报告里。
延伸阅读
想看这个方向的整体准备路线？ 进入「NLP 与大模型」方向页
同一能力域的其他题
- RAG 的完整链路你会怎么搭？文档切分这一步，你会怎么定 chunk 大小和重叠？为什么？
- 大模型幻觉你会怎么治理？请区分"知识型幻觉"和"指令遵循型幻觉"分别怎么处理。
- 向量检索的召回效果不好，你会从哪些环节排查？说一个你实际调过的参数和它的影响。
- 你怎么评测一个 RAG 系统的好坏？请分别说检索侧和生成侧各看什么指标、怎么构造评测集。
- 一份 200 页的 PDF 技术手册要进 RAG 知识库，目录层级清晰，但有跨页表格和一段 3000 字的长章节。业务要求答案能定位到具体小节，同时回答里要保留足够上下文。你打算怎么设计切分策略？请给出 chunk 大小、overlap、切分依据，并说明长章节和表格分别怎么处理。
- 企业知识库要入库一批 200 页左右的产品技术手册（PDF，含大量跨页表格和 3 级标题），同时还有几万条几十字的客服工单。用户 query 大多是「XX 型号的额定功率是多少」这类精确查找，也有「怎么重置设备」这类流程性问题。请给出你的切分方案：chunk 大小和 overlap 怎么定？标题层级要不要拼进 chunk？跨页表格怎么办？工单和手册要不要用同一套策略？