smalldiffusion 技术文档索引

smalldiffusion 是一个轻量级扩散模型库,用不到 100 行核心代码实现了扩散模型的训练与采样。 本文档对项目进行全面技术解读,从整体架构到每个函数的实现细节。

文件内容
01_overview.md项目总览:架构设计、模块关系、扩散模型数学基础
02_diffusion.md核心模块:噪声调度、训练循环、采样算法 (diffusion.py)
03_data.md数据模块:数据集工具、玩具数据集 (data.py)
04_model_base.md模型基础:ModelMixin、预测模式修饰器、注意力机制、嵌入层 (model.py)
05_model_dit.mdDiffusion Transformer 模型 (model_dit.py)
06_model_unet.mdU-Net 模型 (model_unet.py)
07_examples.md实战示例:从玩具模型到 Stable Diffusion

smalldiffusion 项目总览

smalldiffusion 是一个教学与实验导向的扩散模型库,核心训练和采样代码不到 100 行。它的设计目标是:

  • 提供可读、可理解的扩散模型实现
  • 支持从 2D 玩具数据到 Stable Diffusion 级别的预训练模型
  • 方便研究者快速实验新的采样算法和模型架构

论文参考:Permenter and Yuan, arXiv:2306.04848