-
\"drbayes\"是一个用于贝叶斯深度学习子空间推理的代码库
资源介绍
贝叶斯深度学习的子空间推理
该存储库包含本文介绍的子空间推断方法的PyTorch代码
( ,( ,( ,( ,( Dmitry Vetrov)和安德鲁·戈登·威尔逊(Andrew Gordon Wilson)
介绍
对于深度神经网络模型,精确的贝叶斯推理是难于处理的,并且现有的近似推理方法存在许多局限性,这在很大程度上是由于参数空间的高维性所致。 在子空间推理中,我们通过在参数空间的低维子空间中执行推理来解决此问题。 在本文中,我们展示了如何构建非常低维的子空间,其中可以包含各种高性能模型。 与原始参数空间相比,此类子空间中的贝叶斯推断要容易得多,并且会产生很强的结果。
在较高的层次上,我们的方法进行如下:
我们构造参数空间的低维子空间
我们对该子空间中的参数进行后验分布近似
我们从子空间中的近似后验中采样并执行贝叶斯模型平均。
例如,通过仅在5维子空间中执行近似推理,我们
- 上一篇: 贝叶斯网络学习推理与应用-[目录版]
- 下一篇: 注释分析都非常详细的c++ 源代码 基础篇