文献类型：期刊文章

作　　者：沈卉卉[1,2,3] 李宏伟[1,3]

SHEN Hui-hui;LI Hong-wei(School of Mathematics and Physics,China University of Geosciences,Wuhan,Hubei 430074,China;School of Statistics & Information Management,Hubei University of Economics,Wuhan,Hubei 430205,China;Hubei Subsurface Multi-scale Imaging Key Laboratory,China University of Geosciences,Wuhan,Hubei 430074,China)

机构地区：[1]中国地质大学数理学院,湖北武汉430074 [2]湖北经济学院信息管理与统计学院,湖北武汉430205 [3]中国地质大学(武汉)地球内部多尺度成像湖北省重点实验室,湖北武汉430074

出　　处：《电子学报》

基　　金：湖北省教育厅科技处重点项目(No.20182203);湖北省高等学校优秀中青年创新团队计划项目(No.T201516)

年　　份：2019

卷　　号：47

期　　号：1

起止页码：176-182

语　　种：中文

收录情况：BDHX、BDHX2017、CAS、CSA、CSA-PROQEUST、CSCD、CSCD2019_2020、EI、IC、JST、RCCSE、RSC、SCOPUS、ZGKJHX、核心刊

摘　　要：深度学习给模式识别与机器学习带来了巨大的变化,已成功应用于语言处理、图像处理、信号处理、商业经济等方面.受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)是一个表示能力强、很好的生成模型,多个RBM堆叠而构成的深度信念网络模型(Deep Belief Nets,DBN)的学习时间会较长.为加快整个DBN网络的学习时间和提高分类效果,本文提出基于动量方法 RBM的一种有效算法.该算法在RBM预训练阶段,结合梯度上升算法特点采取快速上升的动量方式;以及BP算法微调阶段,为了能精确的找到最优点,结合梯度下降算法特点,相应的引入缓慢下降式的动量项,即在梯度上升和梯度下降过程中都使用不同的动量方式.本文算法在MNIST手写数字体和CMU-PIE人脸数据库上进行了实验,结果表明,提出的改进算法能够有效地增强图像特征的表达能力,提高图像的分类效果和实验效率.

关 键 词：深度学习  受限玻尔兹曼机  Kullback-Leibler  (KL)距离  蒙特卡罗思想  动量

分 类 号：TP391]