EBP_Matlab_Code下载

EBP_Matlab_Code 这是基于即将发布的NIPS论文的期望反向传播算法的第一版：“期望反向传播：具有连续或离散权重的多层神经网络的无参数训练”，作者：D.Soudry，I.Hubara和R.Meir 论文摘要：多层神经网络（MNN）通常使用基于梯度下降的方法（例如，反向传播（BP））进行训练。 概率图形模型中的推论通常使用变型贝叶斯方法（例如，期望传播（EP））进行。 我们展示了基于EP的方法如何也可以用于训练确定性MNN。 具体来说，我们在在线设置中使用“平均场”因式分解的分布来给定权重的后验值。 使用在线EP和中心极限定理，我们找到该后验的Bayes更新的解析近似，以及由此产生的权重和输出的Bayes估计。 尽管起源不同，但最终的算法Expectation BackPropagation（EBP）在形式和效率上与BP非常相似。 但是，它还有其他一些优点：（1）在给定初始条