拿下技术面上传简历

你要在 8 张 24G 卡上让 SD 1.5 学会一个特定画风,训练集约 200 张图加对应文本描述。有人建议直接全量微调 UNet。请给出你的方案:① 在 LoRA、DreamBooth、Textual Inversion 中你选哪个,依据是什么;② 训练时 VAE 和 text encoder 冻结与否,显存大致由哪些部分构成;③ 推理时 CFG scale 与 LoRA scale 分别控制什么,风格强度和文本对齐冲突时你先改哪个。

CV 与多模态图像生成1-3 年知识点 1 个

面试官在考什么

判断是否理解 SD 的 VAE/Text Encoder/UNet 三段结构、参数高效微调方法的选择边界、显存构成,以及 CFG 与 LoRA scale 在推理端的独立作用。

Stable Diffusion

回答框架 · 前两步

  1. 200 张图的风格学习,LoRA 是稳妥起点:可训练参数少、显存与存储成本低、可插拔、对基座能力破坏小;DreamBooth 更适合主体/身份绑定且需要更强先验注入;Textual Inversion 只学新的 embedding,对画风这类全局分布偏移表达力有限。
  2. VAE 通常冻结,只把图编码到 latent 后训练 UNet;text encoder 可按需冻结或加轻量 LoRA——只学画风且 prompt 用常规词时可冻结,若描述里含新概念或需要更贴 prompt 可训练 text encoder 的 LoRA。全量微调 UNet 在 8×24G 上用 fp16+梯度检查点+8bit Adam 也许跑得动,但 200 张图极易过拟合且存储/回滚成本高。

还有 3 条答案要点、 3 层追问、 5 个常见坑, 以及针对你简历的追问路径,在定制报告里。

上传简历,生成我的题库先看示例报告

延伸阅读

想看这个方向的整体准备路线? 进入「CV 与多模态」方向页

同一能力域的其他题