什么是变分自编码器 (VAEs)？

变分自编码器 (VAE) 是一种生成式神经网络，擅长学习数据集的底层结构。它由两个主要部分组成：一个编码器和一个解码器。编码器将输入数据（如图像）压缩到一个低维、连续的潜在空间中。与标准自编码器不同，VAE 将输入映射到该潜在空间中的一个概率分布（通常是高斯分布）。然后，解码器从该分布中采样，以生成与原始训练数据相似的新数据。这种概率方法不仅使 VAE 能够重建输入，还能创造出新颖而合理的变体。

主要特点

生成能力： VAEs 可以通过从学习到的潜在空间中采样来生成类似于训练数据的新数据样本。
连续且结构化的潜在空间： 潜在空间是平滑的，这意味着潜在向量中的微小变化对应于输出中微小而有意义的变化。这允许在数据点之间进行插值（例如，将一张脸平滑地变成另一张脸）。
概率编码： 编码器不是将输入映射到单个点，而是输出一个概率分布，这使得模型更具鲁棒性，并且能更好地捕捉数据的不确定性。
训练稳定： 与 GANs 等其他生成模型相比，VAEs 通常更容易、更稳定地训练，因为它们优化一个明确定义的损失函数（证据下界，或 ELBO）。
无监督学习： VAEs 无需显式标签即可从数据中学习有意义的特征，使其成为强大的无监督特征提取工具。

应用场景

图像和视频生成： 创建新颖的人脸、手写数字或其他物体的图像。
数据压缩： 编码器可用作一种强大的非线性降维技术。
异常检测： 通过测量重建误差，VAEs 可以识别与训练分布显著不同的数据点。
药物发现和分子生成： 通过从现有分子数据库中学习，生成具有所需性质的新分子结构。
去噪和图像修复： 通过基于学习到的数据分布填充缺失部分来重建损坏或不完整的图像。

入门指南

这是一个使用 PyTorch 的 VAE 简化版“Hello World”示例，在 MNIST 手写数字数据集上进行训练。

```python import torch import torch.nn as nn import torch.optim as optim from torchvision import datasets, transforms from torch.utils.data import DataLoader

定义 VAE 模型

class VAE(nn.Module): def init(self): super(VAE, self).init() # 编码器 self.fc1 = nn.Linear(784, 400) self.fc21 = nn.Linear(400, 20) # 均值 self.fc22 = nn.Linear(400, 20) # 对数方差 # 解码器 self.fc3 = nn.Linear(20, 400) self.fc4 = nn.Linear(400, 784) self.relu = nn.ReLU() self.sigmoid = nn.Sigmoid()

def encode(self, x):
    h1 = self.relu(self.fc1(x))
    return self.fc21(h1), self.fc22(h1)

def reparameterize(self, mu, logvar):
    std = torch.exp(0.5 * logvar)
    eps = torch.randn_like(std)
    return mu + eps * std

def decode(self, z):
    h3 = self.relu(self.fc3(z))
    return self.sigmoid(self.fc4(h3))

def forward(self, x):
    mu, logvar = self.encode(x.view(-1, 784))
    z = self.reparameterize(mu, logvar)
    return self.decode(z), mu, logvar

损失函数

def loss_function(recon_x, x, mu, logvar): BCE = nn.functional.binary_cross_entropy(recon_x, x.view(-1, 784), reduction=’sum’) KLD = -0.5 * torch.sum(1 + logvar - mu.pow(2) - logvar.exp()) return BCE + KLD

— 训练 (简化) —

1. 加载 MNIST 数据集

2. 初始化 VAE 模型和优化器

3. 遍历 epoch 和 batch:

a. 将数据传入模型

b. 计算损失

c. 反向传播并更新权重

4. 训练后，你可以从潜在空间采样 (例如, torch.randn(1, 20))

并将其传递给解码器以生成新的数字图像。

定价

变分自编码器是一个开源的算法概念。在所有主流的深度学习框架（如 TensorFlow、PyTorch 和 JAX）中都有广泛的免费实现。使用 VAE 架构本身不涉及任何许可费用。

VAEs vs. GANs

一个常见的比较点是 VAEs 和生成对抗网络 (GANs)。

训练稳定性： VAEs 通常训练起来更稳定。GANs 涉及生成器和判别器之间的微妙双人博弈，这可能难以平衡。
输出质量： GANs 以生成清晰、高保真的图像而闻名，而 VAEs 通常产生稍显模糊、更平滑的结果。这是因为 VAEs 优化的是像素级重建损失，这倾向于平均各种可能性。
潜在空间： VAE 的潜在空间在设计上是连续且结构良好的，使其非常适合插值等任务。GAN 中的潜在空间可能不那么平滑，纠缠更严重。
评估： VAEs 有一个明确的目标函数 (ELBO) 来优化和跟踪。GANs 缺乏类似的目标函数，使得在训练期间更难量化其进展。

Variational Autoencoders (VAEs)