你在做设备异常检测:正常样本 500 万条,异常样本只有约 300 条。团队提议用一个 128→32→128 的自编码器,用重构误差当异常分,阈值取正常样本重构误差的 P99。上线后发现:真正出故障前的那批样本,重构误差反而不高。请回答:(1) 为什么会这样,用重构误差当异常分的根本假设是什么、什么条件下不成立;(2) 你会怎么改(损失函数、模型结构,还是整个范式);(3) 只有 300 条异常,你怎么做验证和阈值管理。
面试官在考什么
判断候选人是否理解重构式异常检测的隐含假设及其失效条件,以及能否在异常样本极少的约束下设计出可运维的检测与验证方案。
回答框架 · 前两步
- 根本假设:重构误差小 ≈ 落在训练分布的高密度区域。这个假设只在「异常从未出现在训练集里,且模型容量不足以把异常也记住」时成立;一旦异常模式或它的局部近似在训练集中出现过,AE 会连异常一起重构好,误差反而偏低。
- 具体失效原因有三种:bottleneck 太大或训练轮数太多,AE 退化成近似恒等映射;异常是局部子结构异常(比如单个传感器漂移),AE 靠其他通道的上下文就能把它「补」回来;点式重构误差对时序模式异常不敏感,需要看残差的时间结构。
还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页
同一能力域的其他题
- 你有 500 万条 128 维用户 embedding,要聚成约 2000 个簇,单机 64GB 内存。你会选 MiniBatchKMeans 还是标准 KMeans?n_init、batch_size、tol 分别怎么定,空簇怎么处理,最后怎么判断这次聚类是可信的?
- 推荐系统要对 3000 万条用户 embedding(d=64, float32)做粗聚类分桶,k 在 1000~5000 之间,要求单机 128GB 内存、2 小时内跑完。你会选哪个聚类实现?k 怎么定?聚类质量怎么评估?
- 你负责一个用户 embedding 平台:2 亿用户 × 128 维 float32(单份约 100GB)。业务方要按 5000 个簇做分层运营,要求每晚在固定的 20 台机器(每台 8 核 / 32GB 内存 / 无 GPU)上 4 小时内完成一次重聚类;并且相邻两天的簇 ID 必须能对上,否则昨天的投放归因报表就断了。请回答:(1) 你会选哪种 KMeans 变体、用什么初始化,给一个量级估算说明 4 小时够不够、瓶颈在哪;(2) k=5000 这个数字你打算怎么论证;(3) 跨天的簇 ID 对齐你具体怎么做,代价多大、失败时怎么办。
- 有一维数据集 {1,2,3,10,11,12,50},用 KMeans 聚类,k=3,初始质心为 1、10、50。请写出第一轮簇分配和更新后的三个质心,并说明第二轮 50 还会不会单独成簇。距离使用欧氏距离。
- 8000 个商品 SKU,特征是从标题文本抽的归一化 embedding,你要输出一棵 3~5 层的类目树。如果直接用凝聚层次聚类:linkage 选哪种、为什么;8000 个点的内存和时间开销大概什么样;dendrogram 出来后你切在哪一层、依据什么?
- 商品库有 20 万 SKU、100 维特征,业务要求输出一棵可解释的分类树(不是扁平簇)。直接对 20 万样本跑凝聚层次聚类会怎样?你会怎么在规模与树结构之间取舍?