你有 18 个月的付费用户行为日志,要训练'未来 7 天是否流失'的二分类模型并做超参搜索。团队用随机打乱的 5 折 KFold,得到 CV AUC 0.86;上线后第一周真实 AUC 只有 0.71,且同一用户会同时出现在训练折和验证折里。请说明这种 CV 方案为什么高估,并给出你会替换成的验证方案,包括切分方式和折数。
面试官在考什么
能否识别 i.i.d. 假设被破坏(时间顺序 + 用户重复)造成的验证泄漏,并给出可落地的切分方案与折数权衡。
回答框架 · 前两步
- 随机 KFold 破坏样本独立性:同一用户不同时间点的样本跨折,模型等于把用户身份背下来;时间上未来信息也泄漏进训练集。
- 应改为时间序列切分的滚动验证(expanding 或 sliding window),训练段与验证段之间留 embargo/gap,长度至少覆盖 7 天标签窗口。
还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页