DDIM
DDIM
基于DDPM[1],DDIM(Denoising Diffusion Implicit Models)[2]的采样过程是通过一个确定性的更新规则逐步去噪,将DDPM数千步的采样减少到数十步.
DDIM的采样公式
DDIM的采样公式可以表示为:
zs=αsx^θ(zt)+σszt−αtx^θ(zt)σt\mathbf{z}_{s} = \alpha_{s} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t}) + \sigma_{s} \frac{\mathbf{z}_{t} - \alpha_{t} \hat{\mathbf{x}}_{\theta}(\mathbf{z}_{t})}{\sigma_{t}}
zs=αsx^θ(zt)+σsσtzt−αtx^θ(zt)
其中:
zt\mathbf{z}_{t}zt:当前步骤的噪声数据.
zs\mathbf{z}_{s}zs:下一步的噪声数据(s<ts < ts<t).
αt\alpha_{t}αt 和 σt\sigma_{t}σt:与时间步 ttt ...
Stable Diffusion
Stable Diffusion
基于DDPM[1],Stable Diffusion[2]在Latent Space上进行扩散,使得在扩散前可以对latent space进行操作并且加快样本生成.
1. Latent Space(潜在空间)
潜在空间是指图像通过某种编码器(如 VAE)映射到的低维空间。相比原始的像素空间,潜在空间的维度较低,计算量较小,便于模型进行高效的学习和生成。
DDPM 在图像的像素空间中进行生成,逐步添加噪声并去噪。而 Stable Diffusion 通过变分自编码器(VAE)先将图像编码到潜在空间,再在潜在空间中进行扩散(去噪)。这样做的好处是,潜在空间中的噪声表示更加紧凑和易于处理,从而使得生成过程更加高效。
2. 基于潜在空间的条件生成(Conditional Generation in Latent Space)
Stable Diffusion 引入了条件生成的概念,主要是通过文本条件生成与之相对应的图像。在这种方法中,文本描述通过 CLIP [3]模型被映射到潜在空间中,从而与图像的潜在表示进行匹配。
相比于 DDPM 中仅仅在无条件下生成图像 ...
DDPM
DDPM
DDPM(Denoising Diffusion Probabilistic Model)[1] 通过逐步添加噪声和去噪过程生成样本.DDPM 的训练过程主要分为前向扩散过程(Forward Diffusion Process) 和 反向生成过程(Reverse Diffusion Process).
1. 前向扩散过程
前向扩散是一个逐步添加噪声的过程.给定一个真实数据分布x0∼q(x0)x_0 \sim q(x_0)x0∼q(x0),通过一系列的马尔科夫链,将数据逐渐添加高斯噪声直到变成纯噪声.
噪声添加公式:
q(xt∣xt−1)=N(xt;1−βtxt−1,βtI), q(x_t \mid x_{t-1}) = \mathcal{N}(x_t; \sqrt{1-\beta_t} x_{t-1}, \beta_t \mathbf{I}),
q(xt∣xt−1)=N(xt;1−βtxt−1,βtI),
其中βt\beta_tβt是一个小正数,表示第ttt步的噪声强度.
简化公式:
通过数学推导,可以直接从x0x_0x0采样任意时间步ttt的噪声样本: ...
Linux云计算简明实录
Linux云计算简明实录
Linux基础右转菜鸟
Linux命令右转此处
.bash四文件
.bash_history
.bash_history顾名思义,就是在命令行里曾经运行过的指令
.bash_logout
.bash_logout也顾名思义,就是在命令行里输出的日志
.bahsrc&.bash_profile
.bahsrc和.bash_profile就不是很顾名了.
.bahsrc是在可交互式界面运行后第一个运行的脚本,而.bash_profile是在登入用户后第一个运行的脚本,而且.bash_profile的优先级更高.
但实际上两者用处差不多,一般别名和环境变量都会放在.bashrc文件里.
或者新建一个.bash_path和.bash_aliases文件来储存别名和环境变量,而.bashrc则分别调用两个文件..bashrc命令如下
123456if [ -f "$HOME/.bash_path" ]; then . "$HOME/.bash_path" fiif [ -f "$HOME/. ...
Hexo配置博客简明实录
Hexo配置博客简明实录
Hexo基础
Hexo框架
以下操作请先安装node.js,并配置环境变量.
建立项目需要魔法,速度较慢,需要重复尝试.
123cd <folder>Hnpx hexo initnpm install
Butterfly主题
以下操作请先提前配置好git.
安装主题以butterfly为例,如果失败可以删除./themes,重复尝试.
1git clone -b master https://github.com/jerryc127/hexo-theme-butterfly.git themes/butterfly
渲染器安装
1npm install hexo-renderer-pug hexo-renderer-stylus --save
渲染器_config.yml文件配置
1234# Extensions## Plugins: https://hexo.io/plugins/## Themes: https://hexo.io/themes/theme: butterfly
建议新建_config.butterfly.yml文件,此文件会覆 ...
Hello World!
Hello World!
记录最初的文章
自己建立博客也算是艰辛,成功立站,故写一篇博文作为贺文.
大一参加了ACM,本意是像大佬一样记录成果,结果博客还没建立,反而在大二就想草草退役,因此这篇文章也对我逝去的ACM生涯做一个吊唁,在博客中大约也不会对算法竞赛赘述,重心会放在记载科研与项目的学习与过程.
博文大多数都会以总结和感想为主,不会涉及详细具体的教程,大多数博文都是事后撰写,可能有谬误,望轻喷.
Hello, World! Dream starts here.