2.845

2023影响因子

(CJCR)

  • 中文核心
  • EI
  • 中国科技核心
  • Scopus
  • CSCD
  • 英国科学文摘

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于相似历史信息迁移学习的进化优化框架

张勇 杨康 郝国生 巩敦卫

黄鑫, 张家俊, 宗成庆. 基于跨模态实体信息融合的神经机器翻译方法. 自动化学报, 2023, 49(6): 1170−1180 doi: 10.16383/j.aas.c220230
引用本文: 张勇, 杨康, 郝国生, 巩敦卫. 基于相似历史信息迁移学习的进化优化框架. 自动化学报, 2021, 47(3): 652-665 doi: 10.16383/j.aas.c180515
Huang Xin, Zhang Jia-Jun, Zong Cheng-Qing. Neural machine translation method based on cross-modal entity information fusion. Acta Automatica Sinica, 2023, 49(6): 1170−1180 doi: 10.16383/j.aas.c220230
Citation: Zhang Yong, Yang Kang, Hao Guo-Sheng, Gong Dun-Wei. Evolutionary optimization framework based on transfer learning of similar historical information. Acta Automatica Sinica, 2021, 47(3): 652-665 doi: 10.16383/j.aas.c180515

基于相似历史信息迁移学习的进化优化框架

doi: 10.16383/j.aas.c180515
基金项目: 

国家自然科学基金 61876185

国家自然科学基金 61573364

国家自然科学基金 61573362

详细信息
    作者简介:

    张勇  中国矿业大学信息与控制工程学院教授. 2009年获控制理论与控制工程专业博士学位. 主要研究方向为群体智能和机器学习. E-mail: yongzh401@126.com

    杨康  中国矿业大学硕士研究生. 主要研究方向为群体智能和机器学习. E-mail: zgkydxyk@sina.com

    巩敦卫  中国矿业大学信息与控制工程学院教授. 1999年在中国矿业大学获博士学位. 主要研究方向为进化计算与应用. E-mail: dwgong@vip.163.com

    通讯作者:

    郝国生  江苏师范大学计算机学院教授. 2009年获得控制理论与控制工程专业博士学位. 主要研究方向为进化计算和大数据应用. 本文通信作者. E-mail: hgskd@jsnu.edu.cn

Evolutionary Optimization Framework Based on Transfer Learning of Similar Historical Information

Funds: 

National Natural Science Foundation of China 61876185

National Natural Science Foundation of China 61573364

National Natural Science Foundation of China 61573362

More Information
    Author Bio:

    ZHANG Yong  Professor at the School of Information and Control Engineering, China University of Mining and Technology. He received his Ph. D. degree of control theory and control engineering from China University of Mining and Technology in 2009. His research interest covers swarm intelligence and machine learning

    YANG Kang  Master student of information and control engineering at China University of Mining and Technology. His research interest covers swarm intelligence and machine learning

    GONG Dun-Wei  Professor at the School of Information and Control Engineering, China University of Mining and Technology. He received his Ph. D. degree from China University of Mining and Technology in 1999. His research interest covers evolutionary computation and its applications

    Corresponding author: HAO Guo-Sheng  Professor at the School of Computer Science and Technology, Jiangsu Normal University. He received his Ph. D. degree of control theory and control engineering from China University of Mining and Technology in 2009. His research interest covers evolutionary algorithms and the application of big data. Corresponding author of this paper
  • 摘要: 现有进化算法大都从问题的零初始信息开始搜索最优解, 没有利用先前解决相似问题时获得的历史信息, 在一定程度上浪费了计算资源.将迁移学习的思想扩展到进化优化领域, 本文研究一种基于相似历史信息迁移学习的进化优化框架.从已解决问题的模型库中找到与新问题匹配的历史问题, 将历史问题对应的知识迁移到新问题的求解过程中, 以提高种群的搜索效率.首先, 定义一种基于多分布估计的最大均值差异指标, 用来评价新问题与历史模型之间的匹配程度; 接着, 将相匹配的历史问题的知识迁移到新问题中, 给出一种基于模型匹配程度的进化种群初始化策略, 以加快算法的搜索速度; 然后, 给出一种基于迭代聚类的代表个体保存策略, 保留求解过程中产生的优势信息, 用于更新历史模型库; 最后, 将自适应骨干粒子群优化算法嵌入到所提框架, 给出一种基于相似历史信息迁移学习的骨干粒子群优化算法.针对多个改进的典型测试函数, 实验结果表明, 所提迁移策略可以加速粒子群的搜索过程, 显著提高算法的收敛速度和搜索效率.
    Recommended by Associate Editor WEI Qing-Lai
  • 随着社会经济的迅速发展, 工业生产能力增强, 便利了我们的生活. 但与此同时, 工业生产、汽车尾气、食品加工等所产生的废气也带来了严重的环境污染问题. 其中的挥发性有机化合物(Volatile organic compounds, VOCs)是导致酸雨、雾霾等的主要原因[1], 也给人的生理健康带来了极大的危害. 杨威[2]结合国内外的VOCs研究现状, 对大连市的VOCs排放及治理对策进行了详细阐述. 指出了VOCs污染的治理刻不容缓, 对VOCs种类和浓度的监测成为首要问题. 此外在医疗健康[3]、食品行业[4]和智能家居[5]等行业, VOCs 的痕量检测也起着至关重要的作用.

    长期以来, 半导体传感器由于方案成熟、灵敏度高、响应速度快且制作简单, 在VOCs 检测方面得到了广泛的应用[6]. 在半导体传感器领域, 气敏响应是判断气体的种类和浓度的重要指标. 然而, 除了少数仅对某种气体响应的传感器之外, 大多数传感器可以同时对多种气体产生响应. 在不同种类不同浓度气体中有相同的气敏响应, 即具有较差的选择性[7], 这成为制约其发展的瓶颈. 即便是具有良好选择性的只对某种气体响应的传感器, 也无法适应复杂环境多种气体的检测. 为此, 我们尝试使用动态测试方法[8]来提高选择性, 并利用传感器对多种气体都有响应的特性, 增加输出信号的信息量, 从而辨别不同种类不同浓度的气体. 但从目前动态测试的发展水平来看, 由于半导体气体传感器的敏感机理和建模研究一直是一个难点, 而温度调制下的气体传感器的动态响应信号和提取的特征参数的物理意义不明确, 导致气体传感器响应模型的建立和温度调制模式的优化困难[9]. 基于目前的研究现状, 以及对静态性能指标的研究, 阐述了静态性能指标与动态测试信号的对应关系, 提出了在动态测试中选取合适传感器的方法.

    目前的动态测试方法主要是周期性循环加热波方法[10-13], 有部分文献在周期性循环加热波方法的基础上研究了多级伪随机序列[14-15]、自适应式温度调制[16-17 ]方法. 在周期性循环加热波方法中, 使用调制波形以矩形波[18-20]为主. 为此本文探究了静态响应时间、最佳工作温度指标、不同温度的气敏响应和传感器的复现性与动态响应信号的关系, 提出了适合于动态测试的半导体传感器的选择方法; 以矩形波为例研究了周期、占空比、工作温度范围对动态响应信号的影响, 在不降低动态响应信号品质的前提下, 缩短在实际应用中的响应时间和功耗; 结合支持向量机(Support vector machine, SVM)算法[21]实现了对不同浓度的丙酮、甲醛、甲酸、乙酸丁酯和乙醇的分类识别.

    用电子天平称取0.267 g SnCl2·2H2O与0.30 g的NaOH放入20 ml的无水乙醇和20 ml的去离子水的混合液中并用磁力搅拌器搅拌20 min, 然后将得到的溶液装入反应釜中, 在170 ℃条件下加热24 h. 待加热结束后自然冷却至室温, 用无水乙醇和去离子水交替清洗3次, 获得沉淀物后在60 ℃条件下干燥. 将干燥后的材料进行研磨, 然后在500 ℃条件下煅烧2 h获得SnO2纳米材料.

    传感器主要由底座、Ni-Cr加热丝、陶瓷管构成, 如图1(a)所示. 将少量SnO2纳米材料与无水乙醇3 : 1混合. 然后在超声机中超声处理得到粘稠状膏体. 将带有金电极的陶瓷管蘸取少量膏体后在表面形成一层敏感膜. 再将陶瓷管放入马弗炉中在300 ℃下煅烧2 h以去除乙醇, 在表面形成一层致密的氧化膜. 冷却后将Ni-Cr加热丝插入陶瓷管中焊接, 最终放在老化平台上在400 ℃下老化7天[22].

    图 1  传感器结构示意图和气敏测试装置示意图
    Fig. 1  Schematic diagram of sensor structure and Schematic diagram of gas sensing test device

    本实验气敏测试装置的示意图如图1(b)所示. 气敏测试装置由干燥空气气瓶、反应气室、可编程直流电源、数字源表和计算机组成, 同时通过Labview开发环境实现对传感器阻值的读取, 以及对可编程电源实施远程控制. 气瓶内的气体为纯净干燥合成空气(79%氮气、21%氧气、0%湿度), 打开气瓶的气阀, 气体通入气室之中, 可以将反应气室内的空气送往屋外; 气室中央底座和六角传感器直插连接; 气室一侧接可编程直流电源, 通过调节电源的电压使传感器达到需要的工作温度, 或者按照规定的波形变化; 另一侧接数字源表, 用于测试工作状态下传感器的阻值; 计算机通过Labview虚拟仪表采集信息, 以数据形式, 记录传感器的阻值情况.

    首先进行静态测试, 获得传感器的基础数据. 先定义传感器的气敏响应为

    $$ \small S=\frac{{R}_{{\rm{air}}}}{{R}_{{\rm{gas}}}}=\frac{{I}_{{\rm{gas}}}}{{I}_{{\rm{air}}}} $$ (1)

    式中, RairRgas分别表示半导体传感器在空气中和待测气体中的电阻值, 相应地, IairIgas分别代表空气中和待测气体中的电流值[23]. 定义传感器的响应时间T90为从Iair上升到平衡信号值Igas的90%所需要的时间. 气敏响应测试中, 本文共测试了5种气体, 分别为丙酮(CH3COCH3)、甲醛(HCHO)、甲酸(HCOOH)、乙酸丁酯(CH3COO(CH2)3CH3)和乙醇(C2H5OH). 分别做了最佳工作温度、浓度梯度、长期稳定性测试. 根据之前的文献研究, SnO2传感器的最佳工作温度在200 ~ 280 ℃[24-25]. 将测试回路电压设置为10 V, 在100 ppm的不同气体环境, 150 ~ 350 ℃的温度范围内进行测试. 先在以50 ℃为温度梯度做气敏响应测试, 然后在最佳温度区间内逐渐缩小梯度得出最佳工作温度. 在最佳工作温度区间内, 对5 ~ 400 ppm的不同气体进行了浓度梯度测试, 以获得其选择性. 按照5天的间隔, 进行了为期一个月的长期稳定性测试. 根据静态测试结果评价传感器的性能, 并在周期为80 s, 施加电压3 ~ 7 V的三角波下进行了动态测试分析, 描述静态性能指标与动态响应信号的对应关系.

    随后研究了矩形波的周期和占空比改变对动态响应信号的影响, 分别测试了周期30 s占空比50%、周期75 s占空比60%和周期50 s占空比60%的矩形波. 研究了矩形波的温度范围的改变对动态响应信号的影响, 分别使用了90 ~ 350 ℃、120 ~ 350 ℃、150 ~ 350 ℃和180 ~ 350 ℃的矩形波对待测气体进行测试, 研究低温段的改变对动态响应信号的影响; 分别使用了120 ~ 320 ℃、120 ~ 350 ℃和120 ~380 ℃的矩形波对待测气体进行测试, 研究高温段的改变对动态响应信号的影响. 并在最佳波形下收集多组不同种类不同浓度的样本, 通过支持向量机算法定量的分析不同的气体. 说明在之前的测试中, 降低温度范围, 缩短周期并没有影响动态响应信号的品质.

    SnO2的气敏现象大都采用表面控制型敏感材料的传感机理来解释. 当接触到VOCs时, 会在敏感材料表面发生气体的吸附和脱附现象, 由于在此过程中有电子的交换, 所以纳米材料的电导率也随之发生变化, 其变化大小与传感器温度、气体种类、浓度大小等因素有关. 在SnO2半导体材料表面, 主要存在${{\rm{O}}}^{2-} $${{\rm{O}}}_2^- $${{\rm{O}}}^- $三种吸附态离子. 在室温或温度较低时, 吸附的氧主要以 ${{\rm{O}}}_2^- $为主, 材料表面的氧离子吸附处于动态平衡; 当敏感材料处于温度较高(即处于加热工作状态)的情况下, 吸附态的${{\rm{O}}}_2^- $夺得电子转变为 ${{\rm{O}}}^{2-} $${{\rm{O}}}^- $. 致使材料表面形成正电荷层, 于是其晶界势垒宽度 L变窄, 敏感材料电导率升高, 电阻下降. 当处于加热工作状态下, 敏感材料表面接触到VOCs时, 气体会与吸附态的氧离子发生反应, 并释放电子使材料表面势垒宽度 L 进一步变窄, 电导率快速上升. 当上述吸附过程达到平衡态时, 敏感材料的表面电阻也随之达到稳定态. 温度调制是打破在静态测试中恒定温度下的氧离子种类的动态平衡, 使其晶界势垒宽度 L成周期性变化, 表面吸附离子形态也会发生周期性变化. 在这个过程中又伴随着测试气体与不同吸附态的氧离子反应, 当氧离子态活性与测试气体匹配时就会产生响应曲线的峰值变化$. $

    对传感器进行最佳工作温度、浓度梯度、长期稳定性等的测试是判断传感器性能的优劣以及动态测试前期工作的重要步骤. 因此, 我们首先研究了在150 ~ 350 ℃温度范围内100 ppm不同气体下的传感器传感行为, 以获取最佳工作温度. 图2为丙酮、甲醛、甲酸、乙酸丁酯、乙醇在不同温度下的气敏响应. 得出丙酮、甲醛、甲酸、乙酸丁酯和乙醇的最佳工作温度分别为280 ℃、240 ℃、170 ℃、220 ℃、260 ℃. 上述气体在其最佳工作温度下的静态响应曲线如图3所示. 得出丙酮、甲醛、甲酸、乙酸丁酯和乙醇的响应时间(T90) 分别为116 s、98 s、81 s、111 s、72 s, 因为SnO2没有添加催化剂, 响应时间较长, 但稳定性好, 我们选定250 ℃做了浓度梯度测试, 结果如图4(a)所示. 可以很明显地看出不同的气体在浓度不同的情况下也可以获得相同的气敏响应, 选择性差. 传感器的长期稳定性稳定是传感器的测试以及使用的基础, 我们将100 ppm的不同气体, 以5天为间隔, 在一个月内做了长期稳定性测试结果如图4(b)所示. 在一个月的时间内, 气敏响应差距不大, 显示了SnO2优异的稳定性.

    图 2  丙酮、甲醛、甲酸、乙酸丁酯和乙醇在不同温度下的气敏响应
    Fig. 2  Gas sensing response of acetone, formaldehyde, formic acid, butyl acetate, and ethanol at different temperatures
    图 3  丙酮、甲醛、甲酸、乙酸丁酯和乙醇在最佳工作温度下的静态响应曲线
    Fig. 3  Static response curve of acetone, formaldehyde, formic acid, butyl acetate, and ethanol at the optimum operating temperature
    图 4  丙酮、甲醛、甲酸、乙酸丁酯、乙醇在不同浓度下的气敏响应和SnO2的长期稳定性测试
    Fig. 4  Gas sensitive response of acetone, formaldehyde, formic acid, butyl acetate, and ethanol at different concentrations and long term stability test of SnO2

    图2图3中可以看出不同气体的最佳工作温度不同, 这是导致不同气体动态响应信号的最高点出现在不同时刻的重要原因. 静态测试中的气敏响应是在恒定功率作用下经过100 s左右读取的数值. 此时温度已经被恒定的加热到某一固定的值, 敏感材料表面吸附的离子之间的反应也达到一种平衡状态. 但在动态测试中, 实际上我们是通过调节电压来间接调节温度的. 某一时刻的温度并不能利用静态测试中的功率—温度对应关系来衡量, 而是受到前置功率的影响. 例如在三角波中, 当电压增加时, 温度与静态测试中同功率的温度相比偏低, 反之亦然. 对于上述气体, 在施加3 ~ 7 V电压、周期为80 s的三角波时, 动态响应信号如图5所示. 明显地看出对于不同的气体有不同的动态响应信号, 且最高峰出现的时刻不一致. 丙酮、甲醛、甲酸、乙酸丁酯、乙醇的最高峰出现时刻分别为第32 s、28 s、25 s、27 s、29 s. 与之前的最佳工作温度测试相对应, 最佳工作温度越低, 最高峰出现的时刻越早. 在之后的模式识别过程中, 最高点出现时刻不同是定性分类的一个重要依据. 受实验设备的限制, 只能测出静态测试中稳定的加热功率对应的温度值. 但可以确定的是, 在动态测试中, 我们要选取对于待测气体有不同的最佳工作温度的传感器, 然后施加温度缓慢变化的加热波形(例如: 三角波、正弦波等), 就可以读取到最高点出现在不同时刻的动态响应信号.

    图 5  在施加3 ~ 7 V电压、周期为80 s的三角波时, 丙酮、甲醛、甲酸、乙酸丁酯和乙醇的动态响应信号
    Fig. 5  Dynamic response signals of acetone, formaldehyde, formic acid, butyl acetate, and ethanol under the triangular wave with a period of 80 s and a voltage of 3 ~ 7 V

    图2展示了传感器在不同温度下的气敏响应, 这也与动态响应信号的复杂响应瞬变有着密切的关系. 由于不同气体在不同温度下有不同的气敏响应, 也就是说, 在静态测试时, 不同的温度下吸附气体之后的输出电流不同. 这种现象反应在动态测试中, 由于温度的变化, 导致动态响应信号的波形改变. 如图5所示, 不同气体在动态测试时产生不同的动态响应信号. 但由于静态测试的气敏响应需要一定的反应时间, 动态测试中的响应信号与不同温度的气敏响应值不是一一对应的关系.

    为了研究复现性与动态响应信号的关系, 以100 ppm乙醇为例, 在400 ℃下做了复现性测试, 结果如图6所示, 复现性主要的影响因素是传感器的脱附性能. 又知, 对同一个传感器而言, 温度越高, 脱附性越好. 测试高温时而不是最佳工作温度时的复现性, 主要是因为在动态测试时, 周期可重复性的原因除了传感器的稳定之外, 较长的高温区间可以增加吸附脱附速度. 之所以选择矩形波进行动态测试, 也是考虑到了矩形波相对于其他波形而言, 有一个稳定的高温时段, 有利于吸附和脱附. 这也是矩形波经常用来当做加热波形的主要原因.

    图 6  100 ppm乙醇在400 ℃下的复现性测试结果
    Fig. 6  Reproducibility test results of 100 ppm ethanol at 400 ℃

    在周期和占空比的选择中, 均以100 ppm乙醇为例进行绘图展示结果. 先使用了周期为30 s、占空比为50%、温度范围为150 ~ 350 ℃的矩形波进行温度调制. 动态响应信号如图7(a)所示, 不能发现明显的特征来区分气体. 随后改进加热波形, 每个周期增加30 s的高电平, 15 s的低电平, 总周期为75 s, 占空比为60%, 温度范围仍然为150 ~ 350 ℃. 结果如图7(b)所示, 可以明显地发现特征峰, 但同时也发现由于高温下响应速度快, 动态响应信号在20 s之后便稳定在某一输出电流. 因为在实际应用中, 动态测试的加热周期相当于静态测试的响应时间, 响应时间越短, 可实用性越高, 本着这一原则, 缩短高、低电平中无效的加热时间, 尽可能地缩短周期信号. 将高电平缩短15 s, 低电平缩短10 s, 总周期50 s, 占空比60%, 温度范围为150 ~ 350 ℃的动态响应信号如图7(c)所示. 与图7(b)相比, 特征峰并没有明显的变化. 基于响应时间的考虑, 最终选用周期50 s、占空比60%的矩形波作为加热波形.

    图 7  不同周期和占空比的矩形波的动态响应信号
    Fig. 7  Dynamic response signal of rectangular wave with different period and different duty cycle

    在工作温度的选择中, 均以100 ppm乙醇为例进行绘图展示结果. 在之前对占空比和周期的调制过程中, 使用的是150 ~ 350 ℃的温度范围. 现研究工作温度范围对动态响应信号的影响, 首先对低温段进行分析. 在周期为50 s、 占空比60%的矩形波的基础上, 分别测试了当低温段为90 ℃、120 ℃、150 ℃、180 ℃, 高温段为350 ℃时的动态响应信号. 结果如图8所示, 90 ℃时低温段特征峰较小, 120 ℃、150 ℃、180 ℃时区别不大. 本着低功耗的原则, 选择120 ℃的低温段进行动态测试. 然后对于高温段的选择, 分别测试了当高温段为320 ℃、350 ℃、380 ℃, 低温段为120 ℃时的动态响应信号. 并且从前文的理论中可知, 高温段的不同, 可能导致周期可重复性的不同, 为此, 我们做了周期重复性的测试. 结果如图9所示, 从波形变化的角度分析, 随着温度的增加, 动态响应信号中的最高峰在增加. 从周期可重复性考虑, 明显地由于温度的降低, 在图9(a)中, 320 ℃时周期可重复性明显不如其他两组. 温度升高, 在图9(c)中, 380 ℃周期可重复性也不会有太大的提高. 基于功耗的考虑, 最终采用的温度范围为120 ~ 350 ℃.

    图 8  温度范围分别为90 ~ 350 ℃, 120 ~ 350 ℃, 150 ~ 350 ℃, 180 ~ 350 ℃的矩形波的动态响应信号
    Fig. 8  Dynamic response signals of rectangular wave with temperature range of 90 ~ 350 ℃, 120 ~ 350 ℃, 150 ~ 350 ℃, and 180 ~ 350 ℃, respectively
    图 9  温度范围分别为120 ~ 320 ℃, 120 ~ 350 ℃和120 ~ 380 ℃的矩形波的动态响应周期重复性信号
    Fig. 9  Dynamic response periodic repetitive signal of rectangular wave with temperature range of 120 ~ 320 ℃, 120 ~ 350 ℃, and 120 ~ 380, respectively

    根据之前的分析, 最终采用了周期为50 s、占空比60%、 温度范围为120 ~ 350 ℃的矩形波进行测试. 5 ppm、10 ppm、50 ppm、100 ppm、200 ppm、300 ppm、400 ppm的丙酮、甲醛、甲酸、乙酸丁酯和乙醇的动态响应梯度信号如图10所示(图中曲线所代表的浓度随箭头方向依次递增). 对于不同的气体之间, 它们响应曲线特征峰出现的位置不同; 对于同种气体在不同浓度下的响应, 它们响应曲线走势相同但有不同的幅值. 特征峰出现的位置以及幅值即为判断气体的种类和浓度的重要特征. 在浓度梯度的测试中, 共获得了831组样本. 由于支持向量机基于不同的数学理论, 对高维数据的识别率较高. 所以并不需要对数据进行特征提取, 降低维度. 将未特征化的数据导入到支持向量机算法中. 为了避免过度拟合, 在支持向量机训练中采用5次交叉验证将数据划分为递归训练集和验证集. 训练识别的准确性可以从平均5个训练结果中获得. 测试结果如图11所示, 识别率达到100%.

    图 10  丙酮、甲醛、甲酸、乙酸丁酯和乙醇的动态响应梯度信号
    Fig. 10  Dynamic response gradient signals of acetone, formaldehyde, formic acid, butyl acetate, and ethanol
    图 11  支持向量机的预测结果
    Fig. 11  Prediction results of SVM

    采用化学沉淀法制备了SnO2气体传感器. 首先对静态性能指标进行分析, 得出了根据静态测试结果选取适合动态测试传感器的一般特点: 具有较快的静态响应时间、不同的气体有不同的最佳工作温度、不同气体在相同温度下气敏响应相差大、具有良好的复现性等. 并得出了最佳工作温度与动态响应信号的最高峰的出现时刻的隐含关系; 不同温度的气敏响应对动态响应波形的影响; 静态测试中的重复性和动态测试中的周期复现性的对应关系. 通过对矩形波周期、占空比和工作温度范围的调整, 最终选取周期50 s、占空比60%、工作温度范围为120 ~ 350 ℃. 在不降低动态响应信号的品质的情况下, 降低了动态测试在实际应用中的响应时间和功耗. 并使用支持向量机验证了动态响应信号的品质, 当样本量为831 (训练集为731)时, 精度高达100%.


  • 本文责任编委  魏庆来
  • 图  1  所提基于迁移学习的进化算法框架

    Fig.  1  Evolutionary algorithm framework based on transfer learning

    图  2  优化第1组测试函数时ABPSO和TL-ABPSO算法的收敛曲线

    Fig.  2  Convergence curves of ABPSO and TL-ABPSO algorithms for the first set of test functions

    图  3  优化第1组测试函数时DE和TL-DE算法的收敛曲线

    Fig.  3  Convergence curves of DE and TL-DE algorithms for the first set of test functions

    图  4  在不同参数ck取值下, TL-ABPSO找到问题最优解所需平均迭代次数

    Fig.  4  The average iteration time required by TL-ABPSO to find the optimal solution under different ck value

    表  1  源域中保存的历史优化函数

    Table  1  optimization functions saved in the source domain

    函数名称 表达式 定义域 最优解 维数
    Sphere $f(x) = \sum\limits_{i = 1}^n{x_i^2}$ $[-100, 100]$ 0 30
    Rastrigin $f(x) = \sum\limits_{i = 1}^n {(x_i^2 - 10\cos (2\pi{x_i}) + 10)}$ $[-5.12, 5.12]$ 0 30
    Ackley ${f(x) = - 20\exp ( - 0.2\sqrt {\frac{{\rm{1}}}{{{\rm{30}}}}\sum\limits_{i = 1}^n {x_i^2} } ){\kern 1pt} - \exp (\frac{1}{{30}}\sum\limits_{i = 1}^n {\cos 2\pi {x_i}} ) + 20 + e{\kern 1pt} }$ $[-32, 32]$ 0 30
    Griewank $f(x) = \frac{1}{{4\, 000}}\sum\limits_{i = 1}^n{x_i^2} - \prod\limits_{i = 1}^n {\cos(\frac{{{x_i}}}{{\sqrt i }}) +1}$ $[-600, 600]$ 0 30
    Rosenbrock $f(x) = \sum\limits_{i = 1}^n {(100{{({x_{i +1}} - x_i^2)}^2} + {{({x_i} - 1)}^2})}$ $[-30, 30]$ 0 30
    下载: 导出CSV

    表  2  目标域中新的优化函数

    Table  2  New optimization functions in the target domain

    函数名称 表达式 定义域 最优解 维数
    F1: 修改后Sphere $f(x) = \sum\limits_{i = 1}^n {x_i^{10}} $ $[-100, 100] $ 0 30
    F2:修改后Rastrigin $f(x) = \sum\limits_{i = 1}^n {(x_i^{10} - 10\sin(2\pi {x_i}))} $ $[-5.12, 5.12]$ 0 30
    F3: 修改后Ackley $\begin{array}{*{20}{c}} {f(x) = - 20\exp \left( { - 0.2 \times \sqrt[{10}]{{\frac{1}{{30}}\sum\limits_{i = 1}^n {x_i^{10}} }}} \right) - }\\ {\exp \left( {\frac{1}{{30}}\sum\limits_{i = 1}^n {\sin } 2\pi {x_i}} \right) + 20 + 1} \end{array}$ $[-32, 32]$ 0 30
    F4: 修改后Griewank $f(x) = \frac{1}{{4\, 000}}\sum\limits_{i = 1}^n {x_i^{10}} - \prod\limits_{i = 1}^n {{{\sin}}(\frac{{{x_i}}}{{\sqrt i }})} $ $[-600, 600] $ 0 30
    F5: 修改Rosenbrock $f(x) = \sum\limits_{i = 1}^n {(100{{({x_{i + 1}} - x_i^{10})}^2} + {{({x_i} - 1)}^{10}})} $ $[-30, 30] $ 0 30
    F6: Shifted Sphere 文献[32] $[-100, 100]$ $-450$ 30
    F7: Shifted rotated Rastrigin 文献[32] $[-5, 5]$ $-330$ 30
    F8: Shifted rotated Ackley 文献[32] $[-32, 32]$ $-140$ 30
    F9: Shifted rotated Griewank 文献[32] $[-600, 600]$ $-180$ 300
    F10: Shifted Rosenbrock 文献[32] $[-100, 100]$ 390 30
    下载: 导出CSV

    表  3  比较算法优化第1组测试函数所得实验结果

    Table  3  Experimental results obtained by comparison algorithm for the first set of test functions

    优化函数 比较算法 指标SR (%) 指标Fave 指标Time (s) 指标AC
    SPSO 100 2.635 ×103 1.539 0
    BBPSO-MC 66.67 - 2.960 1.8241×10-5
    函数F1 BBJ 63.33 - 7.614 8.6800×10-6
    ABPSO 100 3.730×103 3.150 0
    TL-ABPSO 100 1.574×103 1.860 0
    SPSO 0 - 9.722 5.169×101
    BBPSO-MC 26.67 - 12.761 1.824×10-0
    {函数F2} BBJ 0 - 20.169 8.680×10-6
    ABPSO 72 - 21.083 7.067×10-5
    TL-ABPSO 100 1.283×104 20.183 0
    SPSO 0 - 12.769 1.494×100
    BBPSO-MC 100 2.815×104 13.185 0
    函数F3 BBJ 0 - 22.356 1.350 ×10-2
    ABPSO 100 3.568×103 17.514 0
    TL-ABPSO 100 2.214×103 7.9190 0
    SPSO 0 - 8.726 3.312×10-4
    BBPSO-MC 100 1.163×103 3.820 0
    函数F4 BBJ 0 - 9.947 2.366×10-5
    ABPSO 100 8.110×102 4.706 0
    TL-ABPSO 100 2.310×102 3.370 0
    SPSO 0 - 10.154 2.908×101
    BBPSO-MC 0 - 15.651 2.277×101
    函数F5 BBJ 0 - 25.425 1.861×101
    ABPSO 0 - 31.817 1.281×101
    TL-ABPSO 0 - 49.476 1.253×101
    下载: 导出CSV

    表  4  比较算法优化第2组测试函数所得实验结果

    Table  4  Experimental results obtained by comparison algorithm for the second set of test functions

    优化函数 比较算法 指标SR (%) 指标Fave 指标Time (s) 指标AC
    SPSO 100 3.525×103 10.105 0
    BBPSO-MC 66.67 - 12.132 0
    函数F6 BBJ 0 - 14.835 0
    ABPSO 100 1.066×103 7.451 0
    TL-ABPSO 100 1.421×102 7.160 0
    SPSO 0 - 36.853 4.279×101
    BBPSO-MC 33.33 - 62.168 3.800×10-3
    函数F7 BBJ 50 - 57.679 1.893×100
    ABPSO 72 - 39.707 0
    TL-ABPSO 100 7.467×103 22.704 0
    SPSO 0 - 33.796 1.329×102
    BBPSO-MC 26.67 - 61.905 2.095×101
    函数F8 BBJ 0 - 62.813 2.094×101
    ABPSO 44.33 - 166.905 8.231×10-2
    TL-ABPSO 63.33 - 214.023 1.709×10-4
    SPSO 0 - 39.021 5.483×102
    BBPSO-MC 0 - 62.722 7.901×10-3
    函数F9 BBJ 0 - 54.329 1.040×101
    ABPSO 0 - 125.621 5.286×101
    TL-ABPSO 0 - 183.422 9.567×10-4
    SPSO 0 - 36.927 2.908×101
    BBPSO-MC 0 - 61.933 2.674×101
    函数F10 BBJ 0 - 51.946 3.597×101
    ABPSO 0 - 122.359 1.922×101
    TL-ABPSO 0 - 180.816 1.347×101
    下载: 导出CSV
  • [1] 李元诚, 李宗圃, 杨立群, 王蓓. 基于改进量子差分进化的含分布式电源的配电网无功优化. 自动化学报, 2017, 43(7): 1280-1288 doi: 10.16383/j.aas.2017.e150304

    Li Yuan-Cheng, Li Zong-Pu, Yang Li-Qun, Wang Bei. Reactive power optimization of distribution network with distributed power supply based on improved quantum difference evolution. Acta Automatica Sinica, 2017, 43(7): 1280- 1288 doi: 10.16383/j.aas.2017.e150304
    [2] 余伟伟, 谢承旺, 闭应洲, 夏学文, 李雄, 任柯燕, 赵怀瑞, 王少峰. 一种基于自适应模糊支配的高维多目标粒子群算. 自动化学报, 2018, 44(12): 2278-2289 doi: 10.16383/j.aas.2018.c170573

    Yu Wei-Wei, Xie Cheng-Wang, Bi Ying-Zhou, Xia Xue-Wen, Li Xiong, Ren Ke-Yan, Zhao Huai-Rui, Wang Shao-Feng. Many-objective particle swarm optimization based on adaptive fuzzy dominance. Acta Automatica Sinica, 2018, 44(12): 2278-2289 doi: 10.16383/j.aas.2018.c170573
    [3] 王东风, 孟丽. 粒子群优化算法的性能分析和参数选择. 自动化学报, 2016, 42(10): 1552-1561 doi: 10.16383/j.aas.2016.c150774

    Wang Dong-Feng, Meng Li. Performance analysis and parameter selection of PSO algorithms. Acta Automatica Sinica, 2016, 42(10): 1552-1561 doi: 10.16383/j.aas.2016.c150774
    [4] Tang L, Wang X. A hybrid multiobjective evolutionary algorithm for multiobjective optimization problems. IEEE Transactions on Evolutionary Computation, 2013, 17(1): 20 -45 doi: 10.1109/TEVC.2012.2185702
    [5] 田梦楚, 薄煜明, 陈志敏, 吴盘龙, 赵高鹏. 萤火虫算法智能优化粒子滤波. 自动化学报, 2016, 42(1): 89-97 doi: 10.16383/j.aas.2016.c150221

    Tian Meng-Chu, Bo Yu-Ming, Chen Zhi-Min, Wu Pan-Long, Zhao Gao-Peng. Firefly algorithm intelligence optimized particle filter. Acta Automatica Sinica, 2016, 42(1): 89-97 doi: 10.16383/j.aas.2016.c150221
    [6] 徐茂鑫, 张孝顺, 余涛. 迁移蜂群优化算法及其在无功优化中的应用. 自动化学报, 2017, 43(1): 83-93 doi: 10.16383/j.aas.2017.c150791

    Xu Mao-Xin, Zhang Xiao-Shun, Yu Tao. Transfer bees optimizer and its application on reactive power optimization. Acta Automatica Sinica, 2017, 43(1): 83-93 doi: 10.16383/j.aas.2017.c150791
    [7] Zhang X Y, Tian Y, Cheng R, Jin Y C. An efficient approach to nondominated sorting for evolutionary multiobjective optimization. IEEE Transactions on Evolutionary Computation, 2015, 19(2): 201-213 doi: 10.1109/TEVC.2014.2308305
    [8] Patvardhan C, Bansal S, Srivastav A. Quantum-inspired evolutionary algorithm for difficult knapsack problems. Memetic Computing, 2015, 7(2): 135-155 doi: 10.1007/s12293-015-0162-1
    [9] Pan S J, Yang Q. A survey on transfer learning. IEEE Transactions on Knowledge and Data Engineering, 2010, 22(10): 1345-1359 doi: 10.1109/TKDE.2009.191
    [10] Murre J M J. Transfer of learning in backpropagation and in related neural network models. Connectionist Models of Memory and Language, London: UCL Press, 1995. 73-93
    [11] Pratt L Y. Discriminability-based transfer between neural networks. Advances in Neural Information Processing Systems, 1992, 5: 204-211 http://dl.acm.org/citation.cfm?id=668046
    [12] Mihalkova L, Huynh T, Mooney R J. Mapping and revising Markov logic networks for transfer learning. In: Proceedings of the 22nd Conference on Artificial Intelligence (AAAI-07). Vancouver, Canada: AAAI, 2007. 608-614
    [13] Mihalkova L, Mooney R J. Transfer learning with Markov logic networks. In: Proceedings of the ICML-06 Workshop on Structural Knowledge Transfer for Machine Learning, Pittsburgh, PA, USA: 2006.
    [14] Gupta R, Ratinov L. Text categorization with knowledge transfer from heterogeneous data sources. In: Proceedings of the 23rd AAAI Conference on Artificial Intelligence, Chicago, Illinois, USA: AAAI, 2008. 842-847
    [15] Ling X, Xue G R, Dai W Y, Jiang Y, Yang Q, Yu Y. Can Chinese web pages be classified with English data source? In: Proceedings of the 17th International Conference on World Wide Web, Beijing, China: WWW, 2008. 969-978
    [16] Dinh T T H, Chu T H, Nguyen Q U, Transfer learning in genetic programming. In: Proceedings of the 2015 IEEE Congress on Evolutionary Computation (CEC), Sendai, Japan: IEEE, 2015. 1145-1151
    [17] Koçer B, Arslan A. Genetic transfer learning. Expert Systems with Applications, 2010, 37(10): 6997-7002 doi: 10.1016/j.eswa.2010.03.019
    [18] Feng L, Ong Y S, Tan A H, Tsang Z W. Memes as building blocks: A case study on evolutionary optimization + transfer learning for routing problems. Memetic Computing, 2015, 7(3): 159-180 doi: 10.1007/s12293-015-0166-x
    [19] Jiang M, Huang Z Q, Qiu L M, Huang W Z, Yen G G. Transfer learning based dynamic multiobjective optimization algorithms. IEEE Transactions on Evolutionary Computation, 2018, 22(4): 501-514 doi: 10.1109/TEVC.2017.2771451
    [20] Rosenstein M T, Marx Z, Pack Kaelbling L, Dietterich T G. To transfer or not to transfer. In: Proceedings of the NIPS 2005 Workshop on Transfer Learning, 2005. % Rosenstein M T. To transfer or not to transfer. NIPS-2005 Workshop on Inductive Transfer: 10 Years Later. 2005, S20
    [21] Shi Y H, Eberhart R C. A modified particle swarm optimizer. In: Proceedings of the 1998 IEEE International Conference on Evolutionary Computation, Anchorage, AK, USA: IEEE, 1998. 69-73
    [22] 韩红桂, 卢薇, 乔俊飞. 一种基于多样性信息和收敛度的多目标粒子群优化算. 电子学报, 2018, 46(2): 315-324 doi: 10.3969/j.issn.0372-2112.2018.02.009

    Han Hong-Gui, Lu Wei, Qiao Jun-Fei. A multi-objective particle swarm optimization algorithm based on diversity information and convergence, Chinese Journal of Electronics, 2018, 46(2): 315-324 doi: 10.3969/j.issn.0372-2112.2018.02.009
    [23] 张倩, 李明, 王雪松, 程玉虎, 朱美强. 一种面向多源领域的实例迁移学习. 自动化学报, 2014, 40(6): 1176-1183 doi: 10.3724/SP.J.1004.2014.01176

    Zhang Qian, Li Ming, Wang Xue-Song, Cheng Yu-Hu, Zhu Mei-Qiang. An example of migration learning for multi-sources. Acta Automatica Sinica, 2014, 40(6): 1176-1183 doi: 10.3724/SP.J.1004.2014.01176
    [24] 王俊, 李石君, 杨莎, 金红, 余伟. 一种新的用于跨领域推荐的迁移学习模型. 计算机学报, 2017, 40(10): 2367-2380 doi: 10.11897/SP.J.1016.2017.02367

    Wang Jun, Li Shi-Jun, Yang Sha, Jin Hong, Yu Wei. A new migration learning model for cross-domain recommendation. Chinese Journal of Computers, 2017, 40(10): 2367-2380 doi: 10.11897/SP.J.1016.2017.02367
    [25] 姜海燕, 刘昊天, 舒欣, 徐彦, 伍艳莲, 郭小清. 基于最大均值差异的多标记迁移学习算法. 信息与控制, 2016, 45(4): 463-478 https://www.cnki.com.cn/Article/CJFDTOTAL-XXYK201604015.htm

    Jiang Hai-Yan, Liu Hao-Tian, Shu Xin, Xu Yan, Wu Yan-Lian, Guo Xiao-Qing. Multi-label migration learning algorithm based on large mean difference. Information and Control, 2016, 45(4): 463-478 https://www.cnki.com.cn/Article/CJFDTOTAL-XXYK201604015.htm
    [26] Zhang Y, Gong D W, Sun X Y, Geng N. Adaptive bare-bones particle swarm optimization algorithm and its convergence analysis. Soft Computing, 2014, 18(7): 1337-1352 doi: 10.1007/s00500-013-1147-y
    [27] Clerc M, Kennedy J. The particle swarm-explosion, stability, and convergence in a multidimensional complex space. IEEE Transactions on Evolutionary Computation, 2002, 6(1): 58-73 doi: 10.1109/4235.985692
    [28] Omran M G H, Engelbrecht A P, Salman A. Bare bones differential evolution. European Journal of Operational Research, 2009, 196(1): 128-139 doi: 10.1016/j.ejor.2008.02.035
    [29] Shi Y H, Eberhart R C. Empirical study of particle swarm optimization. In: Proceedings of the 2002 IEEE Conference on Evolutionary Computation, Washington DC, USA: IEEE, 2002. 320-324
    [30] Zhang H, Kennedy D D, Rangaiah G P, Bonilla-Petriciolet A. Novel bare-bones particle swarm optimization and its performance for modeling vapor——liquid equilibrium data. Fluid Phase Equilibria, 2011, 301(1): 33-45 doi: 10.1016/j.fluid.2010.10.025
    [31] Blackwell T. A study of collapse in bare bones particle swarm optimization. IEEE Transactions on Evolutionary Computation, 2012, 16(3): 354-372 doi: 10.1109/TEVC.2011.2136347
    [32] Suganthan P N, Hansen N, Liang J J, Deb K, Chen Y P, Auger A, Tiwari S. Problem Definitions and Evaluation Criteria for the CEC 2005 Special Session on Real-parameter Optimization. Technical Report for CEC 2005 Special Session, 2005. [Online], available: http://www3.ntu.edu.sg/home/EPNSugan, April 1, 2018
    [33] Qin A K, Huang V L, Suganthan P N. Differential evolution algorithm with strategy adaptation for global numerical optimization. IEEE Transactions on Evolutionary Computation, 2009, 13(2): 398-417 doi: 10.1109/TEVC.2008.927706
  • 期刊类型引用(7)

    1. 王子赟,史伟杰,王艳,纪志成. 双编码动态培育遗传聚类算法及其在电池定制化配组中的应用. 控制理论与应用. 2025(01): 118-126 . 百度学术
    2. 吉建娇,王殿辉. 基于区间边界探测的进化随机配置网络. 控制理论与应用. 2024(10): 1913-1922 . 百度学术
    3. 伍洲,杨寒石,邬俊俊,张海军,宋晴. 进化迁移优化算法综述. 计算机工程. 2023(01): 1-14 . 百度学术
    4. 周平,张天娇. 基于隐性记忆的非平稳时变污水处理过程多目标运行优化. 控制与决策. 2023(08): 2389-2400 . 百度学术
    5. 李晰,李帅,冯艳红,李明亮. 基于联合分布适配的单向迁移差分进化算法. 郑州大学学报(工学版). 2023(05): 24-31 . 百度学术
    6. 刘军伟,谭贤四,曲智国,于海成,崔迪. 基于卷积神经网络+迁移的飞机目标分类方法. 空天预警研究学报. 2023(03): 175-180 . 百度学术
    7. 郭广颂,高海荣,张勇. 基于迁移学习灰支持向量回归机的交互式进化计算. 控制与决策. 2021(10): 2399-2408 . 百度学术

    其他类型引用(13)

  • 加载中
  • 图(4) / 表(4)
    计量
    • 文章访问数:  1583
    • HTML全文浏览量:  467
    • PDF下载量:  320
    • 被引次数: 20
    出版历程
    • 收稿日期:  2018-07-27
    • 录用日期:  2019-03-25
    • 刊出日期:  2021-04-02

    目录

    /

    返回文章
    返回