《Diffusion Schrödinger Bridge with Applications to Score-Based Generative Modeling 》论文理解

Abstract翻译

逐步应用高斯噪声将复杂的数据分布转变为近似高斯的分布。逆转这一动态定义了一个生成模型。当正向噪声过程由随机微分方程（SDE）给出时，演示如何使用分数匹配来估计相关反向时间SDE的时间不均匀漂移。这种方法的局限性在于，正向时间SDE必须运行足够长的时间，以使最终分布近似于高斯，同时确保相应的时间微分误差得到控制。 相比之下，解决Bridge（SB）问题，即路径空间上的熵规整的最优传输问题，会产生扩散，在有限时间内从数据分布中产生样本。我们提出了扩散SB(DSB)，一个解决SB问题的迭代比例拟合(IPF)程序的原始近似，并提供了理论分析和生成模型的实验。第一个DSB迭代恢复了由WWDC提出的方法，并且可以灵活地使用较短的时间间隔，因为随后的DSB迭代减少了前向（或后向）SDE的最终时间边际与高斯先验（或数据）分布之间的差异。 除了生成模型，DSB还提供了一个计算上的最优传输工具，作为流行的Sinkhorn算法的连续状态空间类似物。