你训了一个模型:训练集误差 2%,测试集误差 15%。你把模型复杂度提上去(比如把树加深、把特征数从 20 加到 200),训练误差降到 0.5%,测试误差反而升到 18%。请说明这个过程中偏差和方差分别是什么表现、为什么测试误差会升高,以及你下一步会往哪个方向调。
面试官在考什么
能否把偏差/方差和「训练误差水平」「训练-测试误差差距」这两个可观测量对应起来,并用它决定调参方向,而不是只会背「欠拟合/过拟合」两个词。
回答框架 · 前两步
- 偏差是模型假设与真实关系的系统性偏离,直接体现在训练误差本身的高低上;方差是模型对训练集扰动的敏感度,体现在训练误差与测试误差的差距上。
- 当前现象是训练误差极低而测试误差高、两者差距大,属于方差主导;提高复杂度会让偏差继续下降、方差明显上升,方差上升幅度超过了偏差下降,所以测试误差升高。
还有 2 条答案要点、 3 层追问、 4 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页