文献类型：期刊文章

作　　者：刘威[1,2] 刘尚[1,2] 白润才[3] 周璇[1,2] 周定宁[1,2]

LIU Wei LIU Shang BAI Run-Cai ZHOU Xuan ZHOU Ding-Ning(institute of Mathematics and Systems Science, Liaoning Technical University, Fuxin, Liaoning 123000 institute of Intelligence Engineering and Mathematics, Liaoning Technical University, Fuxin, Liaoning 123000 College of Mining Engineering, Liaoning Technical University, Fuxin, Liaoning 123000)

机构地区：[1]辽宁工程技术大学数学与系统科学研究所,辽宁阜新123000 [2]辽宁工程技术大学智能工程与数学研究院,辽宁阜新123000 [3]辽宁工程技术大学矿业学院,辽宁阜新123000

出　　处：《计算机学报》

基　　金：国家自然科学基金(51304114;71371091)资助~~

年　　份：2017

卷　　号：40

期　　号：6

起止页码：1291-1308

语　　种：中文

收录情况：BDHX、BDHX2014、CSCD、CSCD2017_2018、EI、IC、JST、MR、RCCSE、SCOPUS、ZGKJHX、核心刊

摘　　要：由于BP神经网络具有表达能力强,模型简单等特点,经过近30年的发展,在理论和应用研究上都取得了巨大的进步,然而容易陷入局部最优和泛化能力差等问题却限制了神经网络的发展.同时,大数据的出现和深度学习算法的提出与应用,为神经网络向更类脑的方向发展提出了新的要求.针对上述问题,该文从模拟生物双向认知能力的角度出发,构造了一种新的神经网络模型——互学习神经网络模型,该模型在标准正向神经网络的基础上,引入了与其具有结构对称性的负向神经网络,利用正、负向神经网络分别模拟生物的顺向和逆向认知过程,并在此基础上提出了一种新的神经网络训练方法——互学习神经网络训练方法,该方法通过网络连接权值转置共享,正、负双向交替训练的方式对互学习神经网络模型进行训练,从而实现输入数据和输出标签之间的相互学习,使网络具有双向认知能力.实验表明,互学习神经网络训练方法可以同时训练正、负两个神经网络,并使网络收敛.同时,在此基础上提出了"互学习预训练+标准正向训练"的两阶段学习策略和相应的转换学习方法,这种转换学习方法起到了和"无监督预训练+监督微调"相同的效果,能够使网络训练效果更好,是一种快速、稳定、泛化能力强的新型神经网络学习方法.

关 键 词：神经网络 互学习  权值共享  BP算法 双向认知  分类识别  人工智能

分 类 号：TP18]