你搭建了一个RAG问答系统,有100条人工标注的问答对。请设计一套评测方案,说明你会用哪些指标、怎么计算,以及如何区分是检索问题还是生成问题。
面试官在考什么
判断是否理解RAG评测要分阶段(检索/生成/端到端),以及能否设计可操作的指标。
回答框架 · 前两步
- 检索指标:召回率@k、MRR、NDCG,看正确答案是否在检索结果中。
- 生成指标:答案正确性(EM/F1)、忠实度(答案是否基于上下文)、相关性。
还有 3 条答案要点、 3 层追问、 4 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「NLP 与大模型」方向页
同一能力域的其他题
- RAG 的完整链路你会怎么搭?文档切分这一步,你会怎么定 chunk 大小和重叠?为什么?
- 大模型幻觉你会怎么治理?请区分"知识型幻觉"和"指令遵循型幻觉"分别怎么处理。
- 向量检索的召回效果不好,你会从哪些环节排查?说一个你实际调过的参数和它的影响。
- 你怎么评测一个 RAG 系统的好坏?请分别说检索侧和生成侧各看什么指标、怎么构造评测集。
- 一份 200 页的 PDF 技术手册要进 RAG 知识库,目录层级清晰,但有跨页表格和一段 3000 字的长章节。业务要求答案能定位到具体小节,同时回答里要保留足够上下文。你打算怎么设计切分策略?请给出 chunk 大小、overlap、切分依据,并说明长章节和表格分别怎么处理。
- 企业知识库要入库一批 200 页左右的产品技术手册(PDF,含大量跨页表格和 3 级标题),同时还有几万条几十字的客服工单。用户 query 大多是「XX 型号的额定功率是多少」这类精确查找,也有「怎么重置设备」这类流程性问题。请给出你的切分方案:chunk 大小和 overlap 怎么定?标题层级要不要拼进 chunk?跨页表格怎么办?工单和手册要不要用同一套策略?