2.793

2018影响因子

(CJCR)

  • 中文核心
  • EI
  • 中国科技核心
  • Scopus
  • CSCD
  • 英国科学文摘

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于改进差分进化和回声状态网络的时间序列预测研究

许美玲 王依雯

许美玲, 王依雯. 基于改进差分进化和回声状态网络的时间序列预测研究. 自动化学报, 2019, 45(x): 1−9. doi: 10.16383/j.aas.c180549
引用本文: 许美玲, 王依雯. 基于改进差分进化和回声状态网络的时间序列预测研究. 自动化学报, 2019, 45(x): 1−9. doi: 10.16383/j.aas.c180549
Xu Mei-Ling, Wang Yi-Wen. Time series prediction based on improved differential evolution and echo state network. Acta Automatica Sinica, 2019, 45(x): 1−9. doi: 10.16383/j.aas.c180549
Citation: Xu Mei-Ling, Wang Yi-Wen. Time series prediction based on improved differential evolution and echo state network. Acta Automatica Sinica, 2019, 45(x): 1−9. doi: 10.16383/j.aas.c180549

基于改进差分进化和回声状态网络的时间序列预测研究


DOI: 10.16383/j.aas.c180549
详细信息
    作者简介:

    东北大学智能工业数据解析与优化教育部重点实验室讲师, 大连理工大学电子信息与电气工程学部博士后. 主要研究方向为神经网络和多元时间序列预测. E-mail: xuml@dlut.edu.cn

    大连理工大学电子信息与电气工程学部硕士生. 主要研究方向为时间序列预测. E-mail: wangyiwen0802@163.com

  • 基金项目:  国家自然科学基金(61702077), 中央高校基本科研业务费(DUT16RC(3)123)资助

Time Series Prediction Based on Improved Differential Evolution and Echo State Network

More Information
  • Fund Project:  Supported by National Natural Science Foundation of China(61702077), Fundamental Research Funds for the Central Universities (DUT16RC(3)123)
  • 摘要: 针对回声状态网络无法根据不同的时间序列有效地选择储备池参数的问题, 本文提出一种新型预测模型, 利用改进的差分进化算法来优化回声状态网络. 其中差分进化算法的缩放因子F、交叉概率CR和变异策略自适应调整, 以提高算法的寻优性能. 为验证本文方法的有效性, 对Lorenz时间序列、大连月平均气温 − 降雨量数据集进行仿真实验. 由实验结果可知, 本文提出的模型可以提高时间序列的预测精度, 且具有良好的泛化能力及实际应用价值.
  • 图  1  ESN结构示意图

    Fig.  1  Structure of ESN

    图  2  IDE-ESN算法流程图

    Fig.  2  Flow chart for IDE-ESN

    图  3  Lorenz-x(t)序列: IDE-ESN的预测曲线及误差曲线

    Fig.  3  Lorenz-x(t) series: prediction and error curves obtained by IDE-ESN

    图  4  Lorenz-x(t)序列: 不同模型的适应度曲线

    Fig.  4  Lorenz-x(t) series: the curves of Fitness for different models

    图  5  大连月平均气温: IDE-ESN的预测曲线及误差曲线

    Fig.  5  Dalian monthly average temperature series: prediction and error curves obtained by IDE-ESN

    图  6  大连月平均气温: 不同模型的适应度曲线

    Fig.  6  Dalian monthly average temperature series: the curves of Fitness for differential models

    表  1  Lorenz-x(t)序列: IDE-ESN模型参数

    Table  1  Lorenz-x(t) series: parameters in IDE-ESN

    储备池参数取值
    储备池规模50
    稀疏度0.0210
    谱半径0.9589
    输入变化因子0.0600
    下载: 导出CSV

    表  2  Lorenz-x(t) 序列: 测试集仿真结果

    Table  2  Lorenz-x(t) time series: prediction results on the test dataset

    模型RMSENRMSESMAPE
    AF-ESN2.0850e-061.8571e-072.7992e-07
    PSO-ESN1.0139e-061.0211e-071.3613e-07
    ELM1.8422e-036.6638e-042.1061e-04
    TLBO-ESN7.7210e-071.6737e-071.0528e-07
    IDE-ESN3.2156e-079.8008e-084.3089e-08
    下载: 导出CSV

    表  3  Lorenz-x(t) 序列: 不同模型的运行时间

    Table  3  Lorenz-x(t) series: run time of different models

    模型AF-ESNPSO-ESNTLBO-ESNIDE-ESN
    时间1405.4289 s47.6972 s168.3124 s102.8856 s
    下载: 导出CSV

    表  4  大连月平均气温: IDE-ESN模型参数

    Table  4  Dalian monthly average temperature-rainfall series: parameters in IDE-ESN

    储备池参数取值
    储备池规模47
    稀疏度0.0206
    谱半径0.9802
    输入变化因子0.0459
    下载: 导出CSV

    表  5  大连月平均气温: 测试集仿真结果

    Table  5  Dalian monthly average temperature series: prediction results for the test dataset

    模型RMSENRMSESMAPE
    AF-ESN1.80420.29020.1820
    PSO-ESN1.65110.29560.1666
    ELM5.42350.67040.5520
    TLBO-ESN1.67260.20880.1708
    IDE-ESN1.42150.27410.1440
    下载: 导出CSV

    表  6  大连月平均气温: 不同模型的运行时间

    Table  6  Dalian monthly average temperature series: run time of different models

    模型AF-ESNPSO-ESNTLBO-ESNIDE-ESN
    时间347.1955 s10.5115 s31.1971 s15.1921 s
    下载: 导出CSV
  • [1] 1 Su C H, Cheng C H. A hybrid fuzzy time series model based on ANFIS and integrated nonlinear feature selection method for forecasting stock. Neurocomputing, 2016, 205: 264−273 doi:  10.1016/j.neucom.2016.03.068
    [2] 2 Haidar A, Verma B. A novel approach for optimizing climate features and network parameters in rainfall forecasting. Soft Computing, 2018, 22(24): 8119−8130 doi:  10.1007/s00500-017-2756-7
    [3] 3 Arthun M, Eldevik T, Viste E, Drange H, Furevik T, Johnson H L, et al. Skillful prediction of northern climate provided by the ocean. Nature Communications, 2017, 8: 15875 doi:  10.1038/ncomms15875
    [4] 4 Wang X, Jiang R, Li L, Lin Y, Zheng X, Wang F. Capturing car-following behaviors by deep learning. IEEE Transactions on Intelligent Transportation Systems, 2018, 19(3): 910−920 doi:  10.1109/TITS.2017.2706963
    [5] 周平, 刘记平. 基于数据驱动多输出ARMAX建模的高炉十字测温中心温度在线估计. 自动化学报, 2018, 44(3): 552−561

    5 Zhou Ping, Liu Ji-Ping. Data-driven multi-output ARMAX model for online estimation of central temperatures for cross temperature measuring in blast furnace ironmaking. Acta Automatica Sinica, 2018, 44(3): 552−561
    [6] 张颜颜, 唐立新. 改进的数据驱动子空间算法求解钢铁企业能源预测问题. 控制理论与应用, 2012, 29(12): 1616−1622

    6 Zhang Yan-Yan, Tang Li-Xin. Improved data-driven subspace algorithm for energy prediction in iron and steel industry. Control Theory and Application, 2012, 29(12): 1616−1622
    [7] 郑念祖, 丁进良. 基于Regression GAN的原油总氢物性预测方法. 自动化学报, 2018, 44(5): 915−921

    7 Zheng Nian-Zu, Ding Jin-Liang. Regression GAN based prediction for physical of total hydrogen in crude oil. Acta Automatica Sinica, 2018, 44(5): 915−921
    [8] 8 Hearst M A, Dumais S T, Osuna E, Platt J, Scholkopf B. Support vector machines. IEEE Intelligent Systems and Their Applications, 1998, 13(4): 18−28 doi:  10.1109/5254.708428
    [9] 9 Trappey A J, Hsu F C, Trappey C V, Lin C I. Development of a patent document classification and search platform using a back-propagation network. Expert Systems with Applications, 2006, 31(4): 755−765 doi:  10.1016/j.eswa.2006.01.013
    [10] 10 Huang G B, Zhu Q Y, Siew C K. Extreme learning machine: Theory and application. Neurocomputing, 2006, 70: 489−502 doi:  10.1016/j.neucom.2005.12.126
    [11] 11 Jaeger H, Haas H. Harnessing nonlinearity: Predicting chaotic systems and saving energy in wireless communication. Science, 2004, 304(5667): 78−80 doi:  10.1126/science.1091277
    [12] 12 Han Min, Ren Wei-Jie, Xu Mei-Ling. An improved echo state network via L1-norm regularization. Acta Automatica Sinica, 2014, 40(11): 2428−2435
    [13] 伦淑娴, 林健, 姚显双. 基于小世界回声状态网的时间序列预测. 自动化学报, 2015, 41(9): 1669−1679

    13 Lun Shu-Xian, Lin Jian, Yao Xian-Shuang. Time series prediction with an improved echo state network using small world network. Acta Automatica Sinica, 2015, 41(9): 1669−1679
    [14] 14 Han M, Xu M. Laplacian Echo State Network for Multivariate Time Series Prediction. IEEE Transactions on Neural Networks and Learning Systems, 2018, 29(1): 238−244 doi:  10.1109/TNNLS.2016.2574963
    [15] 李德才, 韩敏. 基于鲁棒回声状态网络的混沌时间序列预测研究. 物理学报, 2011, 60(10): 108903 doi:  10.7498/aps.60.108903

    15 Li De-Cai, Han Min. Chaotic time series prediction based on robust echo state network. Acta Physica Sinica, 2011, 60(10): 108903 doi:  10.7498/aps.60.108903
    [16] 韩敏, 王亚楠. 基于Kalman滤波的储备池多元时间序列在线预报器. 自动化学报, 2010, 36(1): 169−173 doi:  10.3724/SP.J.1004.2010.00169

    16 Han Min, Wang Ya-Nan. Multivariate time series online predictor with Kalman filter trained reservoir. Acta Automatica Sinica, 2010, 36(1): 169−173 doi:  10.3724/SP.J.1004.2010.00169
    [17] Xu D, Lan J, Principe J C. Direct adaptive control: an echo state network and genetic algorithm approach[C]. in Proceedings of the IEEE International Joint Conference on Neural Networks. Montreal, Canada: IEEE, 2005. 3: 1483−1486
    [18] 18 Wang J S, Han S, Guo Q P. Echo state networks based predictive model of vinyl chloride monomer convention velocity optimized by artificial fish swarm algorithm. Soft Computing, 2014, 18(3): 457−468 doi:  10.1007/s00500-013-1068-9
    [19] 19 Chouikhi N, Ammar B, Rokbani N, Alimi A M. PSO-based analysis of echo state network parameters for time series forecasting. Applied Soft Computing, 2017, 55: 211−225 doi:  10.1016/j.asoc.2017.01.049
    [20] 孙晓燕, 陈姗姗, 巩敦卫, 张勇. 基于区间适应值交互式遗传算法的加权多输出高斯过程代理模型. 自动化学报, 2014, 40(2): 172−184

    20 Sun Xiao-Yan, Chen Shan-Shan, Gong Dun-Wei, Zhang Yong. Weighted multi-output Gaussian process-based surrogate of interactive genetic algorithm with individual's interval fitness. Acta Automatica Sinica, 2014, 40(2): 172−184
    [21] 21 Du W, Ying W, Yan G, Zhu Y, Cao X. Heterogeneous strategy particle swarm optimization. IEEE Transactions on Circuits and Systems II: Express Briefs, 2017, 64(4): 467−471 doi:  10.1109/TCSII.2016.2595597
    [22] 22 Mavrovouniotis M, Muller F M, Yang S. Ant colony optimization with local search for dynamic traveling salesman problems. IEEE Transactions on Cybernetics, 2017, 47(7): 1743−1756 doi:  10.1109/TCYB.2016.2556742
    [23] 23 Zhang Z, Wang K, Zhu L, Wang Y. A Pareto improved artificial fish swarm algorithm for solving a multi-objective fuzzy disassembly line balancing problem. Expert Systems with Applications, 2017, 86: 165−176 doi:  10.1016/j.eswa.2017.05.053
    [24] 胡蓉, 钱斌. 一种求解随机有限缓冲区流水线调度的混合差分进化算法. 自动化学报, 2009, 35(12): 1580−1586

    24 Hu Rong, Qian Bin. A hybrid differential evolution algorithm for stochastic flow shop scheduling with limited buffers. Acta Automatica Sinica, 2009, 35(12): 1580−1586
    [25] 25 Rao R V, Savsani V J, Vakharia D P. Teaching-learning-based optimization: A novel method for constrained mechanical design optimization problems. Computer-Aided Design, 2011, 43: 303−315 doi:  10.1016/j.cad.2010.12.015
    [26] 26 Xu M L, Han M, Lin H F. Wavelet-denoising multiple echo state networks for multivariate time series prediction. Information Sciences, 2018, 465: 439−458 doi:  10.1016/j.ins.2018.07.015
    [27] 周晓根, 张贵军, 郝小虎. 局部抽象凸区域剖分差分进化算法. 自动化学报, 2015, 41(7): 1315−1327

    27 Zhou Xiao-Gen, Zhang Gui-Jun, Hao Xiao-hu. Differential evolution algorithm with local abstract convex region partition. Acta Automatica Sinica, 2015, 41(7): 1315−1327
    [28] 丁进良, 杨翠娥, 陈立鹏, 柴天佑. 基于参考点预测的动态多目标优化算法. 自动化学报, 2017, 43(2): 313−320

    28 Ding Jin-Liang, Yang Cui-E, Chai Tian-You. Dynamic multi-objective optimization algorithm based on reference point prediction. Acta Automatica Sinica, 2017, 43(2): 313−320
    [29] 29 Zhang J Q, Sanderson A C. JADE: adaptive differential evolution with optional external archive. IEEE Transactions on Evolutionary Computation, 2009, 13(5): 945−958 doi:  10.1109/TEVC.2009.2014613
    [30] 30 Zhao S Z, Suganthan P N, Das S. Self-adaptive differential evolution with multi-trajectory search for large-scale optimization. Soft Computing, 2011, 15: 2175−2185 doi:  10.1007/s00500-010-0645-4
  • [1] 栗三一, 乔俊飞, 李文静, 顾锞. 污水处理决策优化控制[J]. 自动化学报, doi: 10.16383/j.aas.2018.c170257
    [2] 陈龙, 刘全利, 王霖青, 赵珺, 王伟. 基于数据的流程工业生产过程指标预测方法综述[J]. 自动化学报, doi: 10.16383/j.aas.2017.c170136
    [3] 丁进良, 杨翠娥, 陈立鹏, 柴天佑. 基于参考点预测的动态多目标优化算法[J]. 自动化学报, doi: 10.16383/j.aas.2017.c150811
    [4] 周晓根, 张贵军, 郝小虎. 局部抽象凸区域剖分差分进化算法[J]. 自动化学报, doi: 10.16383/j.aas.2015.c140680
    [5] 张英杰, 龚中汉, 陈乾坤. 基于免疫离散差分进化算法的复杂网络社区发现[J]. 自动化学报, doi: 10.16383/j.aas.2015.c140018
    [6] 许美玲, 韩敏. 多元混沌时间序列的因子回声状态网络预测模型[J]. 自动化学报, doi: 10.16383/j.aas.2015.c140604
    [7] 韩敏, 任伟杰, 许美玲. 一种基于L1范数正则化的回声状态网络[J]. 自动化学报, doi: 10.3724/SP.J.1004.2014.02428
    [8] 乔俊飞, 薄迎春, 韩广. 基于ESN的多指标DHP控制策略在污水处理过程中的应用[J]. 自动化学报, doi: 10.3724/SP.J.1004.2013.01146
    [9] 黄淼, 王昕, 王振雷. 一类非线性系统的基于时间序列的多模型自适应控制[J]. 自动化学报, doi: 10.3724/SP.J.1004.2013.00581
    [10] 韩敏, 王新迎. 一种有效的储备池在线稀疏学习算法[J]. 自动化学报, doi: 10.3724/SP.J.1004.2011.01536
    [11] 朱腾, 王京春, 熊智华. 基于改进DE-NMPC的酸碱中和反应pH值控制[J]. 自动化学报, doi: 10.3724/SP.J.1004.2010.00159
    [12] 韩敏, 王亚楠. 基于Kalman滤波的储备池多元时间序列在线预报器[J]. 自动化学报, doi: 10.3724/SP.J.1004.2010.00169
    [13] 胡蓉, 钱斌. 一种求解随机有限缓冲区流水线调度的混合差分进化算法[J]. 自动化学报, doi: 10.3724/SP.J.1004.2009.01580
    [14] 郜传厚, 渐令, 陈积明, 孙优贤. 复杂高炉炼铁过程的数据驱动建模及预测算法[J]. 自动化学报, doi: 10.3724/SP.J.1004.2009.00725
    [15] 刘颖, 赵珺, 王伟, 吴毅平, 陈伟昌. 基于数据的改进回声状态网络在高炉煤气发生量预测中的应用[J]. 自动化学报, doi: 10.3724/SP.J.1004.2009.00731
    [16] 玄兆燕, 杨公训. 经验模态分解法在大气时间序列预测中的应用[J]. 自动化学报, doi: 10.3724/SP.J.1004.2008.00097
    [17] 王永利, 周景华, 徐宏炳, 董逸生, 刘学军. 时间序列数据流的自适应预测[J]. 自动化学报, doi: 10.1360/aas-007-0197
    [18] 贺国光, 马寿峰, 李宇. 基于小波分解与重构的时间序列预测法[J]. 自动化学报
    [19] 陈仲永, 钱鸣奇, 伍文凯, 童勤业. 涨落复杂性在EEG时间序列分析中的应用[J]. 自动化学报
    [20] 龚正发. 多变量时间序列的建模预报及其应用[J]. 自动化学报
  • 加载中
图(6) / 表(6)
计量
  • 文章访问数:  273
  • HTML全文浏览量:  105
  • PDF下载量:  7
  • 被引次数: 0
出版历程
  • 网络出版日期:  2019-12-28

基于改进差分进化和回声状态网络的时间序列预测研究

doi: 10.16383/j.aas.c180549
    作者简介:

    东北大学智能工业数据解析与优化教育部重点实验室讲师, 大连理工大学电子信息与电气工程学部博士后. 主要研究方向为神经网络和多元时间序列预测. E-mail: xuml@dlut.edu.cn

    大连理工大学电子信息与电气工程学部硕士生. 主要研究方向为时间序列预测. E-mail: wangyiwen0802@163.com

基金项目:  国家自然科学基金(61702077), 中央高校基本科研业务费(DUT16RC(3)123)资助

摘要: 针对回声状态网络无法根据不同的时间序列有效地选择储备池参数的问题, 本文提出一种新型预测模型, 利用改进的差分进化算法来优化回声状态网络. 其中差分进化算法的缩放因子F、交叉概率CR和变异策略自适应调整, 以提高算法的寻优性能. 为验证本文方法的有效性, 对Lorenz时间序列、大连月平均气温 − 降雨量数据集进行仿真实验. 由实验结果可知, 本文提出的模型可以提高时间序列的预测精度, 且具有良好的泛化能力及实际应用价值.

English Abstract

  • 时间序列广泛存在于人类社会生活的方方面面, 比如经济领域的生产总值、商品的销售量、股票的增长幅度等[1]; 天气领域中城市的降雨量、平均气温等[2-3]; 社会领域中城市交通流量、外来人口迁徙量及汽车能量消耗值等[4]; 工业领域中高炉炼铁的中心温度[5]、钢铁企业能源预测[6]和原油物性预测[7]等.

    随着人工智能研究的不断发展, 人工神经网络、支持向量机[8]等机器学习方法逐渐成为非线性时间序列建模和预测的主要工具. 但是传统的人工神经网络如BP(Back Propagation)神经网络[9]存在训练算法复杂、网络结构难以确定、易陷入局部最优和收敛速度慢等问题. 支持向量机模型若训练样本过大, 存在训练时间过长且效果不佳的问题. 极限学习机(Extreme Learning Machine, ELM)[10]是针对单层前馈神经网络设计的新型学习算法, 学习速度快, 泛化性能好, 但其静态前馈结构不适用于动态时间序列的建模. 随着学者们的不断研究, 发现回声状态网络(Echo State Network, ESN)[11]在时间序列预测方面存在一定的优势, 其训练算法简单, 计算快速, 且能保证解的全局最优性. 虽然回声状态网络具有以上优点, 但是也存在一些问题, 例如储备池的适应性问题、稳定性问题及病态解的出现会影响网络的泛化能力, 容易产生过拟合等.

    近年来, 众多学者们针对回声状态网络存在的问题进行一些改进. 文献[12]提出一种基于L1范数正则化的改进回声状态网络, 将L1范数作为惩罚项, 防止模型出现过拟合现象, 提高模型的稳定性. 文献[13]利用改进的小世界网络优化泄露积分型回声状态网络, 有效地改进了储备池神经元的连接方式, 减少了稀疏连接的随机性, 提高了储备池的适应性. 文献[14]提出拉普拉斯回声状态网络解决了由于实际训练样本的数量小于隐藏层节点数存在的不适定问题并获得低维的输出权重. 文献[15]提出一种鲁棒回声状态网络预测模型, 采用更具鲁棒性的拉普拉斯分布代替高斯分布对数据的噪声进行描述, 消除了异常点对模型泛化能力的影响. 文献[16]结合回声状态网络和Kalman滤波, 利用Kalman滤波直接对网络的输出权值进行在线更新, 扩展了算法的适用范围, 提高预测精度. 文献[17]利用遗传算法直接优化ESN, 实现自适应非线性动力系统的控制. 文献[18]采用人工鱼群算法优化回声状态网络, 满足了聚氯乙烯聚合过程的实时控制要求. 文献[19]利用粒子群优化算法对ESN中未经训练的权重进行优化, 提高网络的预测性能.

    虽然已有学者采用智能优化方法优化回声状态网络参数, 但由于回声状态网络的储备池包含节点较多、搜索空间较大, 优化效果还有待改善. 遗传算法(Genetic Algorithm, GA)[17, 20]通过模拟自然进化过程搜索最优解, 但容易过早收敛, 存在早熟现象. 粒子群算法(Particle Swarm Optimization, PSO)[21]的鲁棒性较差而且容易陷入局部最优解, 参数的初始化对粒子群算法的性能影响较大. 蚁群算法(Ant Colony Optimization)[22]尽管具有较强的鲁棒性, 但是有明显的经验性, 收敛慢, 对实际问题适用性不强. 人工鱼群算法(Artificial Fish, AF)[23]虽然不易陷入局部最优, 但不适合同时优化不同范围或者范围相差较大的参数, 而且人工鱼群算法本身较为复杂, 效率低. 研究中发现差分进化算法[24]简单, 具有较强的全局搜索能力, 寻优速度快, 且能平衡局部及全局的信息来进行搜索, 更具实用性, 鲁棒性. 教与学优化算法 (Teaching-learning-based optimization, TLBO)[25]原理简单、易实现, 需要调优的参数极少, 且计算效率比传统的方法计算效率高. 该算法自提出以来, 已被广泛用于函数优化、神经网络优化、工程优化等领域. 然而, 每种算法都不是万能的, 教与学优化算法也存在早熟收敛现象. 综上, 本文选用全局性较强的差分进化算法.

    为使差分算法可以更加准确的找到最优解及适用性更强. 本文提出一种改进的差分算法, 一方面对缩放因子(Scale Factor, F)和交叉概率(Cross Rate, CR)采用自适应, 另一方面对变异策略采用自适应. 综上所述, 本文利用改进的差分进化算法来优化回声状态网络中储备池的四个重要参数, 对每个个体都分配一个适合的FCR和变异策略, 使个体变异更加趋向于适应度好的个体, 从而加快该算法的收敛速度, 更准确地找到最优解, 提高预测精度.

    • Jaeger[11, 26]提出的回声状态网络(Echo State Network, ESN)是一种简化的递归神经网络, 用稀疏连接的储备池代替全连接的隐含层, 增强了对动态系统的建模能力, 避免一般神经网络基于梯度下降原理的收敛速度慢、易陷入局部最优的问题.

    • 图1所示, 回声状态网络是一种三层递归神经网络, 由输入层、隐含层和输出层三部分组成, 隐含层又称储备池, 含有成百上千个稀疏递归连接的神经元, 神经元之间的连接权值随机生成且固定不变.

      图  1  ESN结构示意图

      Figure 1.  Structure of ESN

      ESN的状态方程和输出方程如下:

      $$ \begin{array}{l} {{x}}(t) = \varphi {\rm{\{ }}{{{W}}_{in}}{{u}}(t) + {{{W}}_x}{{x}}(t - 1) + {{{b}}_x}{\rm{\} }} \end{array} $$ (1)
      $$ \begin{array}{l} {{{y}}(t) = {{{w}}^{\rm{T}}}{{x}}(t) + {{b}}} \end{array} \hspace{92pt} $$ (2)

      上式中$ {{{u}}(t) \in {{\bf{R}}^{M \times 1}}} $M元输入向量, ${{y}}(t) \in $$ {{\bf{R}}^{M \times 1}}$M元输出向量, $ {{{{b}}_x} \in {{\bf{R}}^{{ N} \times 1}}} $为输入偏置, $ { {{{b}}} \in {{\bf{R}}^{{ M} \times 1}}} $为输出偏置. 由当前时刻t的输入$ {{{u}}(t)} $和前一时刻t−1的储备池内部状态$ {{{x}}(t - 1)} $通过激活函数的映射得到当前时刻的状态$ {{{x}}(t) \in {{\bf{R}}^{{ N} \times 1}}} $. $ {\varphi ( \cdot )} $为神经元的激活函数, 可以选取Sigmod函数或者tanh函数. 输入连接矩阵$ {{{{W}}_{in}} \in {{\bf{R}}^{{ N} \times { M}}}} $的元素在区间[−1, 1]取值. $ {{{{W}}_x} \in {{\bf{R}}^{{ N} \times {N}}}} $为储备池内部连接矩阵, 稀疏连接. 通过伪逆求得输出连接矩阵$ {{{w}} \in {{\bf{R}}^{{ N} \times { M}}}} $. 输入连接矩阵$ {{{{W}}_{in}}} $和内部的连接矩阵$ {{{{W}}_x}} $随机生成, 且在回声状态网络的训练阶段始终保持不变. 网络只需求输出连接矩阵$ {{{w}}} $, 因此降低了计算复杂度.

    • 回声状态网络的核心是储备池, 储备池性能的好坏取决于四个重要的参数: 储备池规模N、储备池的谱半径R、稀疏度D以及输入变换因子S, 如何选取这四个参数至关重要. 下面介绍储备池的参数选择对模型性能的影响.

      1) 储备池规模

      储备池的规模N即为储备池中神经元数目, 是影响ESN预测性能最重要的参数. N的值过大, 造成过拟合; N的值过小, 造成欠拟合.

      2) 储备池的谱半径

      谱半径R为内部连接矩阵$ {{{{W}}_x}} $的最大特征值的绝对值. R的取值范围一般为[0, 1]之间, 但对于不同的时间序列其取值将视情况而定.

      3) 稀疏度

      储备池内部神经元连接的稀疏程度称为稀疏度D. 储备池的神经元之间不是全连接, 而是少部分连接. 具体实现方法是使储备池的连接权值$ {{{{W}}_x}} $中的大多数元素等于零. Jaeger等认为稀疏度$ {D \in [0, 0.1]}$即可保证储备池具有足够的动力特性.

      4) 输入变换因子

      输入变换因子S是指在信号输入储备池前缩放的比例因子, 表征输入连接权值的取值范围. 根据公式(1)可知, 其大小决定激活函数的工作区间, 也决定了输入对储备池的状态变量作用的强度. 其取值范围通常在[0,1]之间.

      回声状态网络参数的选择往往会针对数据的不同特性而变化, 因此如何选择适合不同数据的储备池参数是本文研究的重点. 本文采用差分进化算法来自动选择适合当前数据的储备池的参数, 提高网络的预测性能.

    • 差分进化算法(Differential evolution, DE)是基于群体智能的优化算法[24]. 由于算法简单易于实现、鲁棒性好、搜索能力强等优点被广泛应用于电力、炼油、工业及科学研究等领域[27, 28].

    • 一般来说, 常常选用差分进化算法解决模型参数优化问题. 标准的差分进化算法包括四个操作: 初始化、变异、交叉和选择. 下面介绍这四个操作的具体实现.

      1) 随机初始化个体数量为NP, 迭代次数为G的一个种群, 记${{X}} = ({{{X}}_{1,G}},{{{X}}_{2,G}},\cdots,{{{X}}_{i,G}},\cdots, $${{{X}}_{NP,G}})$, 其中${{{{X}}_{i,G}} = (x_{i,G}^1,x_{i,G}^2,\cdots,x_{i,G}^j,\cdots,x_{i,G}^Q)}$, Q为待优化问题的维数, 初始化公式:

      $$ {{X}} = ({{{X}}_{\max}} - {{{X}}_{\min}}) \times rand(NP,Q) + {{{X}}_{\min}} $$ (3)

      ${{{{X}}_{\max}}}$$ {{{{X}}_{\min}}}$分别为种群个体范围的上限和下限, rand()函数表示生成范围在(0, 1)之间的随机数.

      2) 变异操作则是利用变异策略来产生新的个体, 有利于后代进行搜索以便找到最好的解. 变异策略有:

      $$ {{{V}}_{i,G}} = {{{X}}_{r1,G}} + {F} \times ({X_{r2,G}} - {{{X}}_{r3,G}}) \hspace{12pt} $$ (4)
      $$ \begin{split} {{{V}}_{i,G}} =\;& {{{X}}_{{{r}}1,G}} + {F} \times ({{{X}}_{r2,G}} - {{{X}}_{r3,G}})+\\& {F} \times ({{{X}}_{r4,G}} - {{{X}}_{r5,G}}) \end{split} \hspace{5pt}$$ (5)
      $$ {{{V}}_{i,G}} = {{{X}}_{best,G}} + {F} \times ({{{X}}_{r1,G}} - {{{X}}_{r2,G}}) \hspace{10pt}$$ (6)
      $$ \begin{split} {{{V}}_{i,G}} =\;& {{{X}}_{best,G}} + {F} \times ({{{X}}_{r1,G}} - {{{X}}_{r2,G}})+\\ & {F} \times ({{{X}}_{r3,G}} - {{{X}}_{r4,G}}) \end{split} $$ (7)
      $$ \begin{split} {{{V}}_{i,G}} =\;& {{{X}}_{i,G}} + {F} \times ({{{X}}_{best,G}} - {{{X}}_{i,G}})+\\ & {F} \times ({{{X}}_{r1,G}} - {X_{r2,G}}) \end{split} \hspace{10pt}$$ (8)
      $$ \begin{split} {{{V}}_{i,G}} =\;& {{\bf{X}}_{r1,G}} + {F} \times ({{{X}}_{pbest,G}} - {{{X}}_{r2,G}})+\\& {F} \times ({{{X}}_{r3,G}} - {{{{X}}'}_{r4,G}}) \end{split} $$ (9)

      得到变异种群${{{V}}_G} = ({{{V}}_{1,G}},{{{V}}_{2,G}},\cdots,{{{V}}_{i,G}},\cdots, $${{{V}}_{NP,G}}),$其中${{{{V}}_{i,G}} = (v_{i,G}^1,v_{i,G}^2,\cdots,v_{i,G}^j,\cdots,v_{i,G}^Q)}$, 代表变异的新个体, ${i=1,2,\cdots,NP}$, ${j=1,2,\cdots,Q}$. ${{r_1},{r_2},{r_3},{r_4},{r_5}}$为随机生成的数, 代表不同于i的个体, ${{{{X}}_{best,G}}}$代表当前种群适应度最好的个体, F为缩放因子. 变异策略“DE/current-to-pbest/1”由Zhang和Sanderson提出[29], 如公式(9), 将当前种群按适应度排序, 选择出适应度较好的前${p\% }$个个体, ${{{{X}}_{pbest,G}}}$从中随机选择. 该变异策略带有小范围的外部存档arch来存储迭代时竞争失败的父代个体, 大小为NP. 若外部存档arch的个体数大于NP, 则随机删除多余的个体. ${{{{X}}'_{r4,G}}}$从当前种群和外部arch中随机选择, 提高种群多样性. ${F}$为缩放因子, 其决定着每个个体变异的尺度来得到新的个体, 因此它对差分算法的性能有着决定性影响.

      3) 交叉操作的交叉公式为:

      $$ {{{u}}_{i,G}^j = \left\{ \begin{aligned}& v_{i,G}^j, \;\;if \;rand \le CR\; or \; j = {j_{rand}}\\& x_{i,G}^j,\;\; otherwise \end{aligned} \right.} $$ (10)

      其中${i=1,2,\cdots,NP}$, ${j=1,2,\cdots,Q}$, 生成的试验向量为${{{{U}}_G} = ({{{U}}_{1,G}},{{{U}}_{2,G}},\cdots,{{{U}}_{i,G}},\cdots,{{{U}}_{NP,G}})}$, 每个试验个体为${{{{U}}_{i,G}} = (u_{i,G}^1,u_{i,G}^2,\cdots,u_{i,G}^Q)}$, CR为交叉概率因子.

      4) 选择操作就是对新旧个体进行淘汰制操作, 规则就是比较新旧个体的适应度, 适应度好的个体顺利进入下一代, 适应度差的就被淘汰, 以此来获得适应度较好的种群. 选择公式:

      $$ {{{{X}}_{i,G + 1}} = \left\{ \begin{aligned}& {{{X}}_{i,G}}, \;\;if \;f({{{X}}_{i,G}}) \le f({{{U}}_{i,G}})\\ &{{{U}}_{i,G}}, \;\;if \;f({{{X}}_{i,G}}) > f({{{U}}_{i,G}}) \end{aligned} \right.} $$ (11)

      式中${{{{X}}_{i,G}}}$为第G代的第i个个体, 如果目标矢量${{{{X}}_{i,G}}}$的适应度比实验矢量${{{{U}}_{i,G}}}$适应度好, 则${{{{X}}_{i,G}}}$进入下一代成为${{{X}}_{i,G + 1}}$, 反之, ${{{{U}}_{i,G}}}$进入下一代成为${{{X}}_{i,G + 1}}$.

    • 在标准的差分进化算法中, 缩放因子F和交叉概率CR是一个确定值, 意味着种群中的每个个体都是用同样的FCR来进行后面的变异和交叉操作, 但是合适的参数选择通常与个体成员相关, 不同的个体对应着不同的控制参数. 为了使参数FCR的选择适合每一个个体, 本文采用自适应方法, 控制参数在进化的过程中根据个体适应度之间的关系自适应变化.

      1) 缩放因子${F}$的自适应

      从变异策略方程式可知, 差分矢量实际上是对基向量各维的扰动, ${F}$则控制扰动量的大小. 如果生成差分矢量的两个个体${{{{X}}_{p,G}}}$${{{{X}}_{q,G}}}$在搜索空间中离得很远, 则生成的差分矢量比较大, 此时${F}$应减小, 否则对基向量${{{{X}}_{b,G}}}$的各维的扰动量太大, 将会使变异个体超出整个搜索空间, 不利于局部搜索. 如果${{{{X}}_{p,G}}}$${{{{X}}_{q,G}}}$在搜索空间中的位置相近, 则生成的差分矢量的值${({{{X}}_{p,G}} - {{{X}}_{q,G}})}$就会很小, 此时F应增大, 否则基向量${{{{X}}_{b,G}}}$的各维的扰动量太小, 就起不到变异的作用, 不利于在进化初期的全局搜索. 因此, 本文采用自适应策略为每个个体选择合适的缩放因子${F_i}$, 在全局搜索和局部搜索之间取得平衡.

      $$ {F_i} = {F_l} + ({F_u} - {F_l})\frac{{{f_p} - {f_b}}}{{{f_q} - {f_b}}} $$ (12)

      式中, ${{f_b},{f_p},{f_q}}$分别为个体${{{{X}}_{b,G}},{{{X}}_{p,G}},{{{X}}_{q,G}}}$的适应度, ${{F_l}}$${{F_u}}$分别为${{F_i}}$给定的最小值和最大值. 上式表明如果${{{{X}}_{p,G}}}$${{{{X}}_{q,G}}}$的适应度相差很小, 说明这两个个体在搜索空间里离得很近, 则${{F_i}}$取值大, 以防止对基向量的各维扰动过小; 如果${{{{X}}_{p,G}}}$${{{{X}}_{q,G}}}$的适应度相差很大, 说明这两个个体在搜索空间里位置离得很远, 则${{F_i}}$取值小, 以限制扰动量过大.

      2) 交叉概率${CR}$的自适应

      从交叉策略方程式可知, ${CR}$是来控制变异矢量${{{{V}}_{i,G}}}$对试验矢量${{{{U}}_{i,G}}}$的贡献的. 如果${CR}$过大, 则控制变异矢量${{{{V}}_{i,G}}}$对试验矢量${{{{U}}_{i,G}}}$的贡献越多, 对目标矢量的破坏也就越大, 从而使原本适应度很好的个体结构遭到破坏, 不利于种群的进化. 如果${CR}$过小, 则不易产生新的个体, 会使整个搜索过程缓慢甚至停止, 不利于种群后代的搜索. 因此, ${CR}$的取值应该根据个体的适应度的变化而变化, 对适应度很好的个体, 此时${CR}$应减小, 避免对该个体造成破坏, 使其进入下一代的机会更大; 对适应度差的个体, 此时${CR}$应增大, 有利于改变该个体的结构则使产生适应度好的个体的可能更大. 每个个体的交叉概率${CR_i}$计算如下:

      $$ {C{R_i} = \left\{ \begin{aligned}& C{R_l} + (C{R_u} - C{R_l})\frac{{{f_i} - {f_{\min }}}}{{{f_{\max }} - {f_{\min }}}},\;\;{f_i} \ge \bar f\\ &C{R_l},{f_i} < \bar f \end{aligned} \right.} $$ (13)

      式中, ${C{R_u}, C{R_l}}$${C{R_i}}$给定的最大值和最小值, ${{f_i},\bar f,{f_{\min }}}$${{f_{\max }}}$分别代表第i个个体的适应度、种群适应度的平均值、最优个体的适应度和最差个体的适应度. 上式表明如果当前第i个个体的适应度 大于当前种群适应度的平均值, 说明该个体不好, 此时${CR}$应增大; 如果该个体的适应度小于当前种群适应度的平均值, 说明该个体性能好, 此时${CR}$应减小, 使该个体更可能进入下一代.

    • 在标准的差分进化算法中, 变异策略只使用一种, 意味着种群中的每个个体都使用同样的变异策略进行变异, 但是合适的变异策略选择通常与问题和初始的种群息息相关, 不同的优化问题对应着不同的变异策略, 且初始化具有随机性. 为了使变异策略的选择独立于优化问题和初始化, 根据文献[30], 本文采用自适应方法, 使变异策略在进化的过程中, 在指定的策略池中内自适应地选择, 策略池包括的策略: “DE/rand/1”、“DE/rand/2”、“DE/target-to-best/1”和“DE/current-to-pbest/1”[29],如公式(4)、(5)、(8)、(9).

      首先在LP代及LP代之前, 策略池中的每个策略被选择的概率是一样的, 假设策略池有M个策略, 那么初始时每个变异策略被选择的概率是${1/M}$. 每次迭代时, 将通过第m个策略生成进入下一代个体的数量记作${n_{s,G}^m}$, 将通过第m个策略生成的个体没有成功进入下一代的个体数量记作${n_{f,G}^m}$. 从LP + 1代开始, 根据之前${ n_{s,G}^m}$${n_{s,G}^m}$的记忆, 来更新策略池中每个策略被选择的概率. 例如, 在G代时, 第m个策略被选择的概率为:

      $$ p_G^m = \frac{{S_G^m}}{{\displaystyle\sum\nolimits_{m = 1}^M {S_G^m} }} \hspace{90pt}$$ (14)
      $$ S_G^m = \frac{{\displaystyle\sum\nolimits_{g = LP}^{G - 1} {n_{s,g}^m} }}{{\displaystyle\sum\nolimits_{g = LP}^{G - 1} {n_{s,g}^m} + \sum\nolimits_{g = LP}^{G - {\rm{1}}} {n_{f,g}^m} }} + \varepsilon $$ (15)

      在式中${m = 1,2,\cdots,M}$, ${G> LP}$, ${S_G^m}$表征当前G代中第m个策略生成的试验矢量成功进入下一代的可能性大小. 为了使每个策略被选择的概率和为1, 则将${S_G^m}$除以各个策略的成功率的和. 为避免变异策略生成进入下一代个体的成功率为0, 本文中${\varepsilon }$的值设为0.01.

    • ESN优点在于网络学习过程中仅需调节储备池到输出层之间的输出连接权值, 而其他连接权值一般都随机赋值后保持不变. 储备池参数设置直接影响ESN的预测性能, 人工调节参数既费时又不能选择出最适合的参数值, 所以本文提出基于改进的差分进化算法优化回声状态网络(Improved Differential Evolution-Echo State Network, IDE-ESN)的参数. 本文将实验数据分为训练集、测试集两部分, 目标函数为训练集误差最小. 具体阐述如算法1所示, 流程图如图2所示.

      图  2  IDE-ESN算法流程图

      Figure 2.  Flow chart for IDE-ESN

    • 为验证本文所提模型的有效性, 本文选择Lorenz时间序列、大连月平均气温 − 降雨量数据集进行仿真实验.同时, 在相同的数据集上, 与人工鱼群[18]优化ESN(AF-ESN)、粒子群[19]优化ESN(PSO-ESN)、教与学优化算法[25]优化ESN(TLBO-ESN) 和极限学习机预测模型(ELM)[10]的仿真结果进行比较. 模型预测性能好坏的评价指标为均方根误差(Root Mean Square Error, RMSE)、平均对称绝对误差 (Symmetric Mean Absolute Percentage Error, SMAPE) 和标准化均方根误差(Normalized Root Mean Squared Error NRMSE). RMSESMAPENRMSE的计算公式定义如下:

      $$ RMSE = \sqrt {\frac{1}{n}\sum\nolimits_{t = 1}^n {{{(y'(t) - y(t))}^2}} } \hspace{10pt}$$ (16)
      $$ SMAPE=\frac{1}{n}\sum\nolimits_{t=1}^{n}{\frac{\left| {y}'(t)-y(t) \right|}{{}^{1}\!\!\diagup\!\!{}_{2}\;\left| {y}'(t)+y(t) \right|}}$$ (17)
      $$ NRMSE = \sqrt {\frac{{\displaystyle\sum\nolimits_{t = 1}^n {{{[y'(t) - y(t)]}^2}} }}{{\displaystyle\sum\nolimits_{t = 1}^n {{{[\bar y(t) - y(t)]}^2}} }}} \hspace{10pt}$$ (18)

      式中${y(t)}$为测试数据的真实值, ${y'(t)}$为网络预测值, ${\bar y(t)}$为真实值的平均值, ${n}$为测试集的大小.

    • Lorenz系统方程描述如下:

      $$ {\left\{ \begin{aligned}& {{dx} / {dt}} = a( - x + y)\\ &{{dy} / {dt}} = bx - y - xz\\ &{{dz} / {dt}} = xy - cz \end{aligned} \right.} $$ (19)

      a = 10、b = 28和c = 8/3时, 系统是具有混沌特性. 采用龙格库塔方法产生2 500组离散时间序列.

      算法 1 改进差分进化回声状态网络

      步骤 1: 随机初始化种群${{X}} = ({{{X}}_{1,G}}, {{{X}}_{2,G}},\cdots,$${{{X}}_{i,G}},\cdots,{{{X}}_{NP,G}})$, NP为种群个体数, G = 0为初始代数. 种群个体的每一维代表储备池的一个参数, 每一个参数都有选择范围, 因此对个体的每一维进行约束.

      步骤 2: 将个体的每一维分别赋值给储备池对应的参数: 储备池规模N, 稀疏度D, 谱半径R和输入变换因子S, 进行适应度评价, 选出最优个体. 适应度评价为计算ESN模型在训练集上的均方根误差.

      步骤 3: 根据公式(12)来选择每个个体对应的缩放因子${{F_i}}$.

      步骤 4: 当迭代次数$G \le LP$时, 在变异策略池中随机选择变异策略, 生成变异个体${{V_{i,G}}}$. 当迭代次数${ G>LP }$时, 根据前${G-LP}$代得出的${n_{s,G}^m}$${n_{f,G}^m}$, 依公式(14)和(15)计算每个变异策略被选择的概率${p_G^m}$, 并选择概率最大的变异策略来产生变异个体${{{{V}}_{i,G}}}$.

      步骤 5: 用公式(13)为每个目标个体选择${C{R_i}}$, 通过交叉策略, 即公式(10)来生成试验个体${{{{U}}_{i,G}}}$.

      步骤 6: 通过对原个体与试验个体进行适应度评价比较, 选出适应度好的个体来进行种群更新. 即若${f({{{X}}_{i,G}}) > f({{{U}}_{i,G}})}$, 则${{{X}}_{i,G + 1}} ={ {{{U}}_{i,G}}} $, $n_{s,G}^m = $${ n_{s,G}^m + 1}$. 若${f({{{X}}_{i,G}}) \le f({{{U}}_{i,G}})}$, 则${{{{X}}_{i,G + 1}} = {{{X}}_{i,G}}}$, ${n_{f,G}^m = n_{f,G}^m + 1}$. 并更新最优个体.

      步骤 7: 在迭代的过程中, 种群中的个体慢慢趋于相同, 为了增加种群的多样性, 避免陷入局部最优, 在迭代次数大于5时, 随机选取NP/5个体, 根据Logistic混沌映射产生与原个体差异较大的新的个体. 若迭代次数G大于最大迭代次数Max Iteration, 执行步骤8; 反之执行步骤3.

      步骤 8: 输出最优个体, 在测试集数据上进行验证.

      改进的差分进化算法优化ESN模型参数的范围设定: 储备池规模N范围设为[20, 100]、稀疏度D范围设为[0.01, 0.5]、谱半径$\rho $范围设为[0.1, 1]及输入变换因子S范围设为[0.0001, 0.1]; 种群大小NP设为25, 最大迭代次数设为30. 缩放因子F的范围设为[0.1, 0.9], 交叉概率CR的范围设为[0.1, 0.9]. 前${70\,{\text{%}}}$数据用于训练, ${30\,{\text{%}} }$数据用于测试, 其中训练样本中舍弃前50个样本产生的状态以消除初始暂态的影响. 人工鱼群优化ESN模型及粒子群优化ESN模型的参数设置同改进差分优化ESN模型. 表1给出了对于Lorenz序列IDE-ESN选出的最好的参数值.

      表 1  Lorenz-x(t)序列: IDE-ESN模型参数

      Table 1.  Lorenz-x(t) series: parameters in IDE-ESN

      储备池参数取值
      储备池规模50
      稀疏度0.0210
      谱半径0.9589
      输入变化因子0.0600

      表2给出了不同模型对Lorenz-x(t)的单步预测结果, 可以看出本文所提模型在RMSESMAPENRMSE方面均好于其他对比模型, 更具优势. 其中, 人工鱼群优化ESN模型的预测精度不及粒子群优化ESN模型, 可以看出同时优化多个范围不同的参数时, 人工鱼群优化ESN模型存在局限性. 图3给出了IDE-ESN对Lorenz-x(t)测试数据的预测曲线和误差曲线. 从图中可以看出, 预测误差很小, IDE-ESN能够很好的拟合Lorenz-x(t)序列. 得到各个算法误差指标如表2所示.

      表 2  Lorenz-x(t) 序列: 测试集仿真结果

      Table 2.  Lorenz-x(t) time series: prediction results on the test dataset

      模型RMSENRMSESMAPE
      AF-ESN2.0850e-061.8571e-072.7992e-07
      PSO-ESN1.0139e-061.0211e-071.3613e-07
      ELM1.8422e-036.6638e-042.1061e-04
      TLBO-ESN7.7210e-071.6737e-071.0528e-07
      IDE-ESN3.2156e-079.8008e-084.3089e-08

      图  3  Lorenz-x(t)序列: IDE-ESN的预测曲线及误差曲线

      Figure 3.  Lorenz-x(t) series: prediction and error curves obtained by IDE-ESN

      表3给出对于Lorenz序列不同模型在30次迭代次数下运行时间, 可以看出AF-ESN模型运行时间最长, 该模型的时间复杂度最大. PSO-ESN的时间复杂度最小, 本文所提模型IDE-ESN运行时间虽然比PSO-ESN长, 但是预测精度高, 综合来看, IDE-ESN模型更具优势. 图4给出对于Lorenz时间序列, 本文所提出的改进的差分进化算法优化ESN(IDE-ESN)、粒子群优化ESN(PSO-ESN)、人工鱼群优化ESN(AF-ESN)及教与学优化算法优化ESN(TLBO-ESN)在迭代过程中的适应度值(Fitness)的变化曲线图. 为更能清楚的显示各个模型适应度曲线的差别, 对适应度的值取以30为底的对数. 从图中可以看出IDE-ESN算法在迭代的过程中, 误差越来越小, 收敛速度较快并最终稳定于较小的适应度值.

      表 3  Lorenz-x(t) 序列: 不同模型的运行时间

      Table 3.  Lorenz-x(t) series: run time of different models

      模型AF-ESNPSO-ESNTLBO-ESNIDE-ESN
      时间1405.4289 s47.6972 s168.3124 s102.8856 s

      图  4  Lorenz-x(t)序列: 不同模型的适应度曲线

      Figure 4.  Lorenz-x(t) series: the curves of Fitness for different models

    • 大连市月平均气温和月降雨量数据集包括从1951年1月到2001年12月的数据记录值, 采样间隔为月. 大连月降雨量序列作为实验数据的第二维, 来辅助大连月平均气温的预测. ${70\,{\text{%}}}$的数据用于训练, ${30\,{\text{%}}}$数据用于测试, 其中训练样本中舍弃前50个样本产生的状态以消除初始暂态的影响. 储备池规模N范围设为[20, 100]、稀疏度D范围设为[0.01, 0.5]、谱半径R范围设为[0.1, 1]及输入变换因子S范围设为[0.0001, 0.1]; 种群大小NP设为25, 最大迭代次数设为30. 缩放因子F的范围设为[0.1, 0.9], 交叉概率CR的范围设为[0.1, 0.9]. 为证明本文所提模型有效性, 对于PSO-ESN、AF-ESN模型, 设置同样的储备池参数范围、种群大小及迭代次数. 表4给出本文所提出的模型选出的最适合大连月平均气温 − 降雨量序列的储备池参数.

      表 4  大连月平均气温: IDE-ESN模型参数

      Table 4.  Dalian monthly average temperature-rainfall series: parameters in IDE-ESN

      储备池参数取值
      储备池规模47
      稀疏度0.0206
      谱半径0.9802
      输入变化因子0.0459

      图5给出了IDE-ESN模型对大连月平均气温 − 降雨量序列测试数据的预测曲线和误差曲线. 从图中可以看出, 本文模型能够很好的拟合大连月平均气温 − 降雨量序列曲线, 绝对误差较小. 表5给出了不同模型对大连月平均气温 − 降雨量序列的单步预测结果, 可以看出本文所提模型在RMSESMAPENRMSE方面均好于其他对比模型. 从表5可以看出虽然PSO-ESN模型的RMSE小于AF-ESN, 但是SMAPE却很大, 说明PSO-ESN模型不能很好地预测出大连月平均气温的序列趋势. 而AF-ESN虽然能够较好的拟合出序列的变化趋势, 但是在RMSENRMSE方面误差较大, 说明在某些点上的预测上存在较大偏差. 本文所提IDE-ESN模型无论在RMSENRMSE方面还是SMAPE方面都小于其他对比模型, 具有明显优势.

      图  5  大连月平均气温: IDE-ESN的预测曲线及误差曲线

      Figure 5.  Dalian monthly average temperature series: prediction and error curves obtained by IDE-ESN

      表 5  大连月平均气温: 测试集仿真结果

      Table 5.  Dalian monthly average temperature series: prediction results for the test dataset

      模型RMSENRMSESMAPE
      AF-ESN1.80420.29020.1820
      PSO-ESN1.65110.29560.1666
      ELM5.42350.67040.5520
      TLBO-ESN1.67260.20880.1708
      IDE-ESN1.42150.27410.1440

      图6给出对于大连月平均气温数据集, IDE-ESN、PSO-ESN、AF-ESN及TLBO-ESN在迭代过程中的适应度值的变化曲线图, 从图中可以看出IDE-ESN算法较快收敛, 且误差较小. 表6给出对于大连月平均气温数据集不同模型在30次迭代次数下的运行时间, 可以看出AF-ESN模型运行时间最长, 该模型的时间复杂度最大. IDE-ESN模型运行时间略大于PSO-ESN模型, TLBO-ESN模型运行时间是本文提出模型运行时间的两倍. PSO-ESN模型虽然运行时间最短, 但预测精度较差.

      图  6  大连月平均气温: 不同模型的适应度曲线

      Figure 6.  Dalian monthly average temperature series: the curves of Fitness for differential models

      表 6  大连月平均气温: 不同模型的运行时间

      Table 6.  Dalian monthly average temperature series: run time of different models

      模型AF-ESNPSO-ESNTLBO-ESNIDE-ESN
      时间347.1955 s10.5115 s31.1971 s15.1921 s
    • 本文针对不同的时间序列, 利用改进的差分进化算法来动态选择回声状态网络的参数, 以适应于不同时间序列的动力学特性, 从而提高预测精度和泛化性能. 对于标准的差分进化主要有两方面的改进, 一是对于算法的控制参数的自适应选择, 主要包括缩放因子F和交叉概率CR; 二是变异策略的自适应选择. 对两组时间序列进行预测, 仿真实验结果表明, 本文所提出的模型较其他预测模型有了很大的改善, 既具有较高的预测精度, 又具有较快的收敛速度和运行速度, 在时间序列预测分析中具有实用性和有效性、普遍性.

参考文献 (30)

目录

    /

    返回文章
    返回