采用调整函数优化梯度的BP算法改进Improvement of BP Algorithm with Adjustment Function Optimized Gradient
梅冬芳
摘要(Abstract)：
针对基于梯度下降法的BP算法提出一种改进方法:AF法。即在权值修正中,引入一个调整函数优化梯度。调整函数作用在激活函数的导数上,用于平缓和优化激活函数的导数运算。并就4元校验码和Feigenbaum函数逼近问题进行算法比较。实验显示,应用本方法的单隐层BP网就能迅速有效地解决异或问题和4元校验码问题。
关键词(KeyWords)： 调整函数;BP算法;激活函数;导数
基金项目(Foundation):
作者(Author): 梅冬芳
参考文献(References)：
- [1]Cerqueira J J F,Palhares A G B,Madrid M K.A Simple A-daptive Back propagation Algorithm for Multilayered Feed-forward Perceptrons[C].IEEE.International Conference onSystems,Man and Cybernetics,6 9.2002.
- [2]杨安华,彭清娥,刘光中.BP算法固定学习率不收敛原因分析及对策[J].系统工程理论与实践,2002(12):22 25.
- [3]Chien Chengyu,Yun Chingtang,Bin Daliu,et al.An Adap-tive Activation Function for Multilayer Feedforward NueralNetworks[C].Proceedings of IEEE Tencon,2002:649 650.
- [4]吴佑寿,赵明生.激活函数可调的神经元模型及其有监督学习与应用[J].中国科学(E辑),2001,31(8):263 272.
- [5]沈艳军,汪秉文.激活函数可调的神经元网络的一种快速算法[J].中国科学(E辑),2003,33(8):733 740.
- [6]徐春晖,徐向东.前馈型神经网络新学习算法的研究[J].清华大学学报(自然科学版),1999,39(3):1 3.
- [7]阎平凡,张长水.人工神经网络与模拟进化计算[M].2版.北京:清华大学出版社,2002.
- [8]张剑湖,叶峰.人工神经网络的模型、特征及其发展方向[J].现代电子技术,2004,27(12):57 60.