你要为 200 万个商品建一棵 3 层类目树(一级约 30 类、二级约 300、三级约 3000),给运营人工命名和打标;输入是已 L2 归一化的 256 维商品 embedding。约束:每天新增约 2% 的商品;运营已经命名过的节点不希望天天变;任务要在单机(256GB 内存、无 GPU)上 12 小时内跑完一次。请回答:(1) 你选什么 linkage、是否需要用近似方法,为什么;(2) 三层的切分点怎么定;(3) 每天 2% 的新商品怎么进树而不重建整棵树。
面试官在考什么
判断候选人是否知道经典层次聚类在真实规模下会撞到什么墙,以及能否把「一棵可解释的树」当成要长期维护的产品资产来设计。
回答框架 · 前两步
- 复杂度现实:经典 agglomerative 需要 n² 距离矩阵,200 万×200 万不可做。标准做法是两步——先用 mini-batch KMeans 或 BIRCH 把 200 万压到 1 万~5 万个带权代表点,在代表点上做层次聚类得到骨架,其余商品按最近代表点分配。
- linkage 选择:要让运营能命名,需要紧致且大小较均衡的簇,Ward 最合适;single-link 会 chaining(一条商品链把不同类串起来);average-link 折中但仍受 n² 限制。因为 embedding 已归一化,欧氏距离与余弦单调对应,用欧氏 Ward 合理,但要说清这不是严格意义上的余弦 Ward,需要验证。
还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。
延伸阅读
想看这个方向的整体准备路线? 进入「机器学习基础」方向页
同一能力域的其他题
- 你有 500 万条 128 维用户 embedding,要聚成约 2000 个簇,单机 64GB 内存。你会选 MiniBatchKMeans 还是标准 KMeans?n_init、batch_size、tol 分别怎么定,空簇怎么处理,最后怎么判断这次聚类是可信的?
- 推荐系统要对 3000 万条用户 embedding(d=64, float32)做粗聚类分桶,k 在 1000~5000 之间,要求单机 128GB 内存、2 小时内跑完。你会选哪个聚类实现?k 怎么定?聚类质量怎么评估?
- 你负责一个用户 embedding 平台:2 亿用户 × 128 维 float32(单份约 100GB)。业务方要按 5000 个簇做分层运营,要求每晚在固定的 20 台机器(每台 8 核 / 32GB 内存 / 无 GPU)上 4 小时内完成一次重聚类;并且相邻两天的簇 ID 必须能对上,否则昨天的投放归因报表就断了。请回答:(1) 你会选哪种 KMeans 变体、用什么初始化,给一个量级估算说明 4 小时够不够、瓶颈在哪;(2) k=5000 这个数字你打算怎么论证;(3) 跨天的簇 ID 对齐你具体怎么做,代价多大、失败时怎么办。
- 有一维数据集 {1,2,3,10,11,12,50},用 KMeans 聚类,k=3,初始质心为 1、10、50。请写出第一轮簇分配和更新后的三个质心,并说明第二轮 50 还会不会单独成簇。距离使用欧氏距离。
- 8000 个商品 SKU,特征是从标题文本抽的归一化 embedding,你要输出一棵 3~5 层的类目树。如果直接用凝聚层次聚类:linkage 选哪种、为什么;8000 个点的内存和时间开销大概什么样;dendrogram 出来后你切在哪一层、依据什么?
- 商品库有 20 万 SKU、100 维特征,业务要求输出一棵可解释的分类树(不是扁平簇)。直接对 20 万样本跑凝聚层次聚类会怎样?你会怎么在规模与树结构之间取舍?