SCORENF: Score-based Normalizing Flows for Sampling Unnormalized distributions
Vikas Kanaujia, Vipul Arora
不规范化的概率分布是跨各种科学领域复杂物理系统建模的核心。 传统的采样方法,如马尔可夫链蒙特卡洛(MCMC),经常受到缓慢收敛,临界减速,不良模式混合和高自相关性的影响。 相比之下,基于可能性和对抗性的机器学习模型虽然有效,但在很大程度上是数据驱动的,需要大型数据集,并且经常遇到覆盖模式和模式崩溃。 在这项工作中,我们提出了ScoreNF,一个基于标准化流程(NF)架构的基于分数的学习框架,与独立大都会 - 哈斯丁(IMH)模块集成,可实现从非标准化目标分布中进行高效和无偏见的采样。 我们表明,即使使用小型训练集成,ScoreNF也能保持高性能,从而减少对计算昂贵的MCMCM生成训练数据的依赖。 我们还介绍了一种评估模式覆盖和模式崩溃行为的方法。 我们验证了合成2D分布(MOG-4和MOG-8)和高维 φ^4 晶格场理论分布的方法,证明了其对采样任务的有效性。
Unnormalized probability distributions are central to modeling complex physical systems across various scientific domains. Traditional sampling methods, such as Markov Chain Monte Carlo (MCMC), often suffer from slow convergence, critical slowing down, poor mode mixing, and high autocorrelation. In contrast, likelihood-based and adversarial machine learning models, though effective, are heavily data-driven, requiring large datasets and often encountering mode covering and mode collapse. In this ...