Skip to content

十四、Diffusion(扩散模型)—— 文生图/视频原理

Diffusion = "从噪点里显影出图"。 和 LLM 是两个物种:语言靠"接龙",图像靠"去噪"。

核心思路(像洗照片显影)

训练:清晰图 ──逐步加噪──► 纯噪点,让模型学会每步"去噪"(还原清晰一点的样子)
生成:纯噪点 ──逐步去噪──► 清晰图 ✨(随机噪点→每次不同)
  • 文字怎么指挥:文字编码成向量,在每一步去噪时当"方向盘",把噪点导向你的描述。
  • Latent Diffusion(潜空间):不在像素级折腾,在压缩的潜空间去噪 → 快很多(Stable Diffusion 就这样,消费级显卡可跑)。

常见概念

概念意思
Steps 步数去噪几步,多=精细慢,少=快糙(常20-50)
CFG 引导强度多听话于文字,高=严格贴描述
Seed 种子初始噪点随机种子,固定可复现同图
Negative Prompt告诉它"别出现什么"(如多余手指)
  • 文生视频:去噪出连续多帧 + 保证帧间连贯(时间一致性是难点)。
  • 局限:细节(手指/文字/结构)易翻车、精确控制难、版权/deepfake争议、角色一致性难。

两大生成范式对照

LLM(文字)Diffusion(图/视频)
怎么生成token接龙(自回归)从噪点整体去噪
文字作用就是内容本身当方向盘引导去噪

© 曹宇春 · 个人学习整理,欢迎交流