期刊文章详细信息
权值初始化与激励函数调整相结合的学习算法
Learning Algorithm based on the Combination of Weight Initialization and Activation Function Adjustment
文献类型:期刊文章
机构地区:[1]同济大学计算机科学与工程系,上海200092 [2]同济大学半导体与信息技术研究所
基 金:国家自然科学基金项目(编号:60135010)
年 份:2004
卷 号:40
期 号:30
起止页码:23-25
语 种:中文
收录情况:AJ、BDHX、BDHX2000、CSA、CSA-PROQEUST、CSCD、CSCD2011_2012、IC、INSPEC、JST、RCCSE、ZGKJHX、核心刊
摘 要:提出了一种基于独立元分析(ICA)方法的权值初始化方法和动态调整S型激励函数的斜率相结合的神经网络学习算法。该方法利用ICA从输入数据中提取显著的特征信息来初始化输入层到隐含层权值。而且通过使神经网络的输出位于激励函数的活动区域,对隐含层到输出层的权值进行初始化。在学习过程中,再对每个隐单元和输出单元的激励函数的斜率进行自动调整。最后通过计算机仿真实际的基准问题,验证了论文提出的方法的有效性。实验结果表明,所提出的方法能有效地加快多层前向神经网络的训练过程。
关 键 词:前向神经网络 权值初始化 独立元分析 激励函数
分 类 号:TP183]
参考文献:
正在载入数据...
二级参考文献:
正在载入数据...
耦合文献:
正在载入数据...
引证文献:
正在载入数据...
二级引证文献:
正在载入数据...
同被引文献:
正在载入数据...