受限玻尔兹曼机(Restricted Boltzmann machine | RBM)
百科介绍
百度百科(详情)
受限玻尔兹曼机(英语:restricted Boltzmann machine, RBM)是一种可通过输入数据集学习概率分布的随机生成神经网络。RBM最初由发明者保罗·斯模棱斯基于1986年命名为簧风琴(Harmonium),但直到杰弗里·辛顿及其合作者在2000年代中叶发明快速学习算法后,受限玻兹曼机才变得知名。受限玻兹曼机在降维、分类、协同过滤、特征学习和主题建模中得到了应用。根据任务的不同,受限玻兹曼机可以使用监督学习或无监督学习的方法进行训练。
维基百科(详情)
受限波尔兹曼机(RBM)是一种生成 随机 的人工神经网络,可以学习的概率分布在其组输入。
RBM最初是由Paul Smolensky于1986年以Harmonium的名称发明的,并且在Geoffrey Hinton和合作者在2000年中期为他们发明快速学习算法之后突显出来。RBM已经在降维,分类,协同过滤,特征学习和主题建模中找到了应用。根据任务的不同, 他们可以通过监督或无人监督的方式接受培训。
顾名思义,RBM是Boltzmann机器的变体,其限制是它们的神经元必须形成二分图:来自两组单元中的每一组的一对节点(通常称为“可见”和“隐藏”)单元)可以在它们之间具有对称连接; 并且组内的节点之间没有连接。相比之下,“不受限制的”Boltzmann机器可能在隐藏单元之间有连接。这种限制允许比一般类别的玻尔兹曼机器更有效的训练算法,特别是基于梯度的 对比发散算法。
受限制的玻尔兹曼机器也可用于深度学习网络。特别地,深度置信网络可以通过“堆叠”RBM并且可选地通过梯度下降和反向传播来微调所得到的深度网络来形成。