6.5.2 Elman与BP、RBF网络预测模型对比
因为Elman网络是以BP网络为基础建立起来的,因此Elman网络的权值学习算法可以参考BP网络的改进权值算法。BP网络常用的改进方法是基于数值优化理论的改进算法,包括三种: 共轭梯度法、高斯-牛顿法和Levenberg_Marquardt法[30]。
(1) 有动量项和自适应学习率的梯度下降法 (traingdx)
该法采用动量项和学习速率自适应调整的两种策略,加速了网络的收敛速度,动量项法降低了误差曲面局部细节的敏感性,有效抑制了网络陷于局部最小,自适应学习率有效地加速网络收敛速度,增加稳定性,提高速度和精度。调整原理如下:
其中Φ>1,δ<1,△E=E (t) -E(t-1),ζ表示动量项调整的系数,η表示网络学习速率。
(2) ...... (共1689字) [阅读本文]>>