深度学习的实现与发展——从神经网络到机器学习.md下载

**深度学习（Deep Learning）**是建立在**计算机神经网络理论和机器学习理论**上的**系统科学**，它使用建立在复杂的机器结构上的**多处理层**，结合**非线性转换**方法算法，对**高层复杂数据模型**进行抽象。 本文笔记收获以下重点： “深度学习是**建立在深度结构神经网络上的复杂思维模式机器学习**”的认识(**按：重点认知**)。 **RBM 的结构比BM 的网络拓扑结构更简单**，因为**各层内部神经元之间没有连接**，很大程度上**提高了网络训练与学习的效率**。构造**深度置信网络（DBN）**时都是**先构造出RBM，再将某些RBM 堆栈起来得到DBN**。 目前（**按：重点**）**关于数据表示，有局部表示、分布表示和稀疏分布表示**。那么是否有**新的表示思路来更新数据模型**，如**加入不同的稀疏惩罚对RBM 和EA 训练进行改进**。 **特征提取**，范例有 高斯伯努利模型；算法研究关注自适应的特征提取和自动编码机制；泛化结构不仅包括树、图结构，还要更多;预训练和判别微调方法还有待进一步改进和提升 **学习可控性** 是机器学习需要关注的一个问题，即**到底赋予机器多少权限和思维能力**。**机器学习的最大隐患**—“**学习失控**”。