排序模型的输入里有一块 2048 维稠密 embedding(多个上游模型产出后拼接),训练样本 5 亿行,线上 P99 延迟吃紧,工程团队要求压到 256 维。候选方案有四个:PCA、随机投影、直接砍维度、在下游模型前面接一个可学习的线性层。请回答:(1) 你在什么条件下会选 PCA,判断依据是什么;(2) 如果选了 PCA,在 5 亿行上你怎么拟合,线上一致性怎么保证;(3) 这个场景下 PCA 最容易被忽略的两个失败模式是什么,你用什么验证它没伤害线上效果。
面试官在考什么
判断候选人会不会无条件把 PCA 当降维默认答案,以及在真实训练/线上链路里能否管住拟合成本、版本一致性和分布漂移。
回答框架 · 前两步
- 先问「为什么降维」:如果下游是线性模型,PCA 丢的是方差小的方向,而判别信息可能恰好藏在低方差方向(LDA 或监督降维更合适);如果下游是深层网络,接一个可学习的线性层通常不差而且能端到端优化;如果只是为了省带宽/存储,随机投影(JL 引理)保距更好且不需要拟合。
- PCA 的适用条件:特征稠密、各维同量纲、下游对重构误差而不是判别边界敏感;k=256 的选择要看累计解释方差 + 下游指标,不能只看「保留 95% 方差」这个数字。
还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页
同一能力域的其他题
- 你有 500 万条 128 维用户 embedding,要聚成约 2000 个簇,单机 64GB 内存。你会选 MiniBatchKMeans 还是标准 KMeans?n_init、batch_size、tol 分别怎么定,空簇怎么处理,最后怎么判断这次聚类是可信的?
- 推荐系统要对 3000 万条用户 embedding(d=64, float32)做粗聚类分桶,k 在 1000~5000 之间,要求单机 128GB 内存、2 小时内跑完。你会选哪个聚类实现?k 怎么定?聚类质量怎么评估?
- 你负责一个用户 embedding 平台:2 亿用户 × 128 维 float32(单份约 100GB)。业务方要按 5000 个簇做分层运营,要求每晚在固定的 20 台机器(每台 8 核 / 32GB 内存 / 无 GPU)上 4 小时内完成一次重聚类;并且相邻两天的簇 ID 必须能对上,否则昨天的投放归因报表就断了。请回答:(1) 你会选哪种 KMeans 变体、用什么初始化,给一个量级估算说明 4 小时够不够、瓶颈在哪;(2) k=5000 这个数字你打算怎么论证;(3) 跨天的簇 ID 对齐你具体怎么做,代价多大、失败时怎么办。
- 有一维数据集 {1,2,3,10,11,12,50},用 KMeans 聚类,k=3,初始质心为 1、10、50。请写出第一轮簇分配和更新后的三个质心,并说明第二轮 50 还会不会单独成簇。距离使用欧氏距离。
- 8000 个商品 SKU,特征是从标题文本抽的归一化 embedding,你要输出一棵 3~5 层的类目树。如果直接用凝聚层次聚类:linkage 选哪种、为什么;8000 个点的内存和时间开销大概什么样;dendrogram 出来后你切在哪一层、依据什么?
- 商品库有 20 万 SKU、100 维特征,业务要求输出一棵可解释的分类树(不是扁平簇)。直接对 20 万样本跑凝聚层次聚类会怎样?你会怎么在规模与树结构之间取舍?