文献类型：期刊文章

作　　者：余萍[1] 赵继生[1] 张洁[2]

机构地区：[1]华北电力大学电子与通信工程系,保定071003 [2]鞍山师范学院物理科学与技术学院,鞍山114007

出　　处：《科学技术与工程》

年　　份：2015

卷　　号：35

期　　号：34

起止页码：221-225

语　　种：中文

收录情况：BDHX、BDHX2014、RCCSE、ZGKJHX、核心刊

摘　　要：为了解决深度学习中使用线性修正函数Re LUs对于模型的表达能力欠缺,而柔性光滑函数Softplus无稀疏表达能力的问题。基于Re LUs和Softplus函数各自的优点,将Re LUs函数的稀疏表达能力和Softplus函数的光滑特性结合起来,提出一种使用非线性修正函数作为神经元激励的方法。分析了不同激活函数的性能,并且用卷积神经网络在MNIST和CIFAR-10标准数据库上进行图像分类识别实验。实验结果表明,使用非线性修正激活函数,不仅可以加快网络收敛速度,也可以提高识别准确率;同时还不依赖于池化方法的选择。

关 键 词：深度学习  卷积神经网络 模式识别 非线性修正函数  

分 类 号：TP391]