某多语种(中英混合)内部知识检索系统,文档里满是内部产品代号和缩写。当前直接调用第三方 embedding API。业务方反复抱怨“同一个意思换个说法就搜不到”。你手上没有标注数据,只有线上点击日志和一批客服真实 query,且数据合规上对外发有限制。你会怎么决定是继续用 API 模型、换模型还是自建微调?给出判断依据、验证方式和上线路径。
面试官在考什么
判断候选人能否在没有标注数据、有合规与成本约束的真实条件下,把 embedding 选型做成一个有依据、可回滚、成本可控的决策,而不是凭榜单选模型。
回答框架 · 前两步
- 先量化问题:把坏 case 分类,判断是 embedding 区分度不足,还是切分/召回/融合环节丢信息,再决定要不要动模型
- 用真实 query 分布构造 held-out 评测集(点击日志采样 + 少量人工标注),主指标用 recall@k/MRR,禁止用调参同源数据做验收
还有 3 条答案要点、 3 层追问、 4 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「NLP 与大模型」方向页
同一能力域的其他题
- RAG 的完整链路你会怎么搭?文档切分这一步,你会怎么定 chunk 大小和重叠?为什么?
- 大模型幻觉你会怎么治理?请区分"知识型幻觉"和"指令遵循型幻觉"分别怎么处理。
- 向量检索的召回效果不好,你会从哪些环节排查?说一个你实际调过的参数和它的影响。
- 你怎么评测一个 RAG 系统的好坏?请分别说检索侧和生成侧各看什么指标、怎么构造评测集。
- 一份 200 页的 PDF 技术手册要进 RAG 知识库,目录层级清晰,但有跨页表格和一段 3000 字的长章节。业务要求答案能定位到具体小节,同时回答里要保留足够上下文。你打算怎么设计切分策略?请给出 chunk 大小、overlap、切分依据,并说明长章节和表格分别怎么处理。
- 企业知识库要入库一批 200 页左右的产品技术手册(PDF,含大量跨页表格和 3 级标题),同时还有几万条几十字的客服工单。用户 query 大多是「XX 型号的额定功率是多少」这类精确查找,也有「怎么重置设备」这类流程性问题。请给出你的切分方案:chunk 大小和 overlap 怎么定?标题层级要不要拼进 chunk?跨页表格怎么办?工单和手册要不要用同一套策略?