有 100 万条 500 维 TF-IDF 稀疏特征,想用 PCA 降到 50 维,但直接对稀疏矩阵调用 PCA 会内存爆炸。你会怎么做?TruncatedSVD 和 PCA 在这里的差别是什么?
面试官在考什么
判断候选人是否理解 PCA 中心化对稀疏矩阵的破坏,以及 TruncatedSVD/随机化 SVD 的工程替代。
回答框架 · 前两步
- PCA 必须先中心化,稀疏矩阵减去均值后会稠密化,100 万×500 的稠密 float64 约 4TB,不可行。
- 稀疏场景用 TruncatedSVD(LSA)或随机化 SVD,只计算前 k 个奇异值/向量,不显式中心化。
还有 3 条答案要点、 3 层追问、 4 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页
同一能力域的其他题
- 你有 500 万条 128 维用户 embedding,要聚成约 2000 个簇,单机 64GB 内存。你会选 MiniBatchKMeans 还是标准 KMeans?n_init、batch_size、tol 分别怎么定,空簇怎么处理,最后怎么判断这次聚类是可信的?
- 推荐系统要对 3000 万条用户 embedding(d=64, float32)做粗聚类分桶,k 在 1000~5000 之间,要求单机 128GB 内存、2 小时内跑完。你会选哪个聚类实现?k 怎么定?聚类质量怎么评估?
- 你负责一个用户 embedding 平台:2 亿用户 × 128 维 float32(单份约 100GB)。业务方要按 5000 个簇做分层运营,要求每晚在固定的 20 台机器(每台 8 核 / 32GB 内存 / 无 GPU)上 4 小时内完成一次重聚类;并且相邻两天的簇 ID 必须能对上,否则昨天的投放归因报表就断了。请回答:(1) 你会选哪种 KMeans 变体、用什么初始化,给一个量级估算说明 4 小时够不够、瓶颈在哪;(2) k=5000 这个数字你打算怎么论证;(3) 跨天的簇 ID 对齐你具体怎么做,代价多大、失败时怎么办。
- 有一维数据集 {1,2,3,10,11,12,50},用 KMeans 聚类,k=3,初始质心为 1、10、50。请写出第一轮簇分配和更新后的三个质心,并说明第二轮 50 还会不会单独成簇。距离使用欧氏距离。
- 8000 个商品 SKU,特征是从标题文本抽的归一化 embedding,你要输出一棵 3~5 层的类目树。如果直接用凝聚层次聚类:linkage 选哪种、为什么;8000 个点的内存和时间开销大概什么样;dendrogram 出来后你切在哪一层、依据什么?
- 商品库有 20 万 SKU、100 维特征,业务要求输出一棵可解释的分类树(不是扁平簇)。直接对 20 万样本跑凝聚层次聚类会怎样?你会怎么在规模与树结构之间取舍?