2.845

2023影响因子

(CJCR)

  • 中文核心
  • EI
  • 中国科技核心
  • Scopus
  • CSCD
  • 英国科学文摘

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于时序图推理的设备剩余使用寿命预测

刘雨蒙 郑旭 田玲 王宏安

刘雨蒙, 郑旭, 田玲, 王宏安. 基于时序图推理的设备剩余使用寿命预测. 自动化学报, 2024, 50(1): 76−88 doi: 10.16383/j.aas.c230014
引用本文: 刘雨蒙, 郑旭, 田玲, 王宏安. 基于时序图推理的设备剩余使用寿命预测. 自动化学报, 2024, 50(1): 76−88 doi: 10.16383/j.aas.c230014
Liu Yu-Meng, Zheng Xu, Tian Ling, Wang Hong-An. Remaining useful life estimation of facilities based on reasoning over temporal graphs. Acta Automatica Sinica, 2024, 50(1): 76−88 doi: 10.16383/j.aas.c230014
Citation: Liu Yu-Meng, Zheng Xu, Tian Ling, Wang Hong-An. Remaining useful life estimation of facilities based on reasoning over temporal graphs. Acta Automatica Sinica, 2024, 50(1): 76−88 doi: 10.16383/j.aas.c230014

基于时序图推理的设备剩余使用寿命预测

doi: 10.16383/j.aas.c230014
基金项目: 四川省科技计划(重点研发) (2021YFG0018, 2022YFG0038), 国防基础研究计划 (JCKY2020903B002)资助
详细信息
    作者简介:

    刘雨蒙:中国科学院软件研究所高级工程师. 2017年获得美国南加利福尼亚大学硕士学位. 主要研究方向为数据挖掘, 数据库技术. E-mail: yumeng@iscas.ac.cn

    郑旭:电子科技大学计算机科学与工程学院副教授. 2018年获得美国佐治亚州立大学计算机科学系博士学位. 主要研究方向为物联网, 人工智能. 本文通信作者. E-mail: xzheng@uestc.edu.cn

    田玲:电子科技大学计算机科学与工程学院教授. 2010年获得电子科技大学博士学位. 主要研究方向为人工智能. E-mail: ruan052@126.com

    王宏安:中国科学院软件研究所研究员. 1998年获得中国科学院软件研究所博士学位. 主要研究方向为人机交互, 实时智能. E-mail: hongan@iscas.ac.cn

Remaining Useful Life Estimation of Facilities Based on Reasoning Over Temporal Graphs

Funds: Supported by Sichuan Science and Technology Program (Key Research and Development Program) (2021YFG0018, 2022YFG0038) and National Defense Basic Scientific Research Program of China (JCKY2020903B002)
More Information
    Author Bio:

    LIU Yu-Meng Senior engineer at the Institute of Software, Chinese Academy of Sciences. He received his master degree from University of Southern California in 2017. His research interest covers data mining and database technology

    ZHENG Xu Associate professor at the School of Computer Science and Engineering, University of Electronic Science and Technology of China. He received his Ph.D. degree in computer science from Georgia State University in 2018. His research interest covers internet of things and artificial intelligence. Corresponding author of this paper

    TIAN Ling Professor at the School of Computer Science and Engineering, University of Electronic Science and Technology of China. She received her Ph.D. degree from University of Electronic Science and Technology of China in 2010. Her main research interest is artificial intelligence

    WANG Hong-An Researcher at the Institute of Software, Chinese Academy of Sciences. He received his Ph.D. degree from the Institute of Software, Chinese Academy of Sciences in 1998. His research interest covers human-computer interaction and real-time intelligence

  • 摘要: 剩余使用寿命(Remaining useful life, RUL)预测是大型设备故障预测与健康管理(Prognostics and health management, PHM)的重要环节, 对于降低设备维修成本和避免灾难性故障具有重要意义. 针对RUL预测, 首次提出一种基于多变量分析的时序图推理模型(Multivariate similarity temporal knowledge graph, MSTKG), 通过捕捉设备各部件的运行状态耦合关系及其变化趋势, 挖掘其中蕴含的设备性能退化信息, 为寿命预测提供有效依据. 首先, 设计时序图结构, 形式化表达各部件不同工作周期的关联关系. 其次, 提出联合图卷积神经网络(Convolutional neural network, CNN)和门控循环单元 (Gated recurrent unit, GRU)的深度推理网络, 建模并学习设备各部件工作状态的时空演化过程, 并结合回归分析, 得到剩余使用寿命预测结果. 最后, 与现有预测方法相比, 所提方法能够显式建模并利用设备部件耦合关系的变化信息, 仿真实验结果验证了该方法的优越性.
  • 随着高新技术的发展和生产工艺的进步, 一大批科技含量高、结构复杂的设备已经投入到我国工业和国防等领域. 但设备中某些部件在运行过程中由于疲劳磨损、腐蚀、老化等原因, 设备性能的退化将无法避免, 一旦因性能退化造成设备失效, 可能会引起事故和不必要的人员伤亡, 造成灾难性的后果以及重大的经济损失[1-2]. 剩余使用寿命(Remaining useful life, RUL)预测作为设备故障预测与健康管理(Prognostics and health management, PHM)的关键技术之一[3-5], 可以在设备性能退化初期对其RUL进行精确的预测, 为运维人员的预防性维修和备件订购等活动提供指导性依据[6], 较大程度上减少不必要的停机时间, 避免事故的发生, 进而有效保障设备的安全性和可靠性, 并提高任务的完成率[4, 6].

    当前, 对RUL预测技术的分类包括基于机理模型的预测方法、基于数据驱动的预测方法以及基于机理模型和数据混合驱动的预测方法[7-8]. 传统的以专家经验为主的机理模型RUL预测方法通过设备的失效机理, 结合设备先验知识构建数学模型, 并利用实时采集的监测数据, 实现对设备的RUL预估[9]. 常见的用于RUL预测的机理模型包括Paris模型、Forman模型以及在两个模型基础上进行各种改进的模型[10]. 但随着设备或系统的结构复杂性变高以及设备运行环境的多样性, 故障模式和失效机理也变得更为复杂, 导致难以建立精确的机理模型.

    近年来, 随着传感器技术的革新, 获取设备的状态监测数据变得愈发容易[11-12]. 这也给数据驱动的RUL预测方法提供了契机, 可以缓解机理模型对复杂设备建模困难的问题[13-14]. 同时, 由于深度学习技术迅速发展, 在各个领域的数据分析任务中都展示出超越性. 采用深度学习的RUL预测方法可以不依赖设备或系统的机理知识, 实现退化特征的自动提取, 进而实现端到端的RUL预测[15]. 目前, 普遍采用的深度学习方法进行RUL预测主要包括以下几类: 卷积神经网络(Convolutional neural network, CNN)、循环神经网络(Recurrent neural network, RNN)、时间卷积网络(Temporal convolutional network, TCN)及Transformer模型[16].

    具体而言, 卷积神经网络基于不同大小的感受野组合, 学习同一时间段内不同感知节点间的关联关系, 从中发现设备退化状态, 进而预测其RUL[17]. Babu等[18]首次提出基于CNN的RUL预测模型, 通过卷积层和池化层来捕获传感器信号特征, 结合多层感知机(Multilayer perceptron, MLP) 对轴承RUL进行预测. Li等[19]进一步采用时间维度的卷积层和池化层自动学习多维时间序列特征, 并利用前馈神经网络对RUL进行预测. 卷积神经网络能够关注不同传感器节点间的关联关系, 发现其退化特征信息, 但对时序特征的提取能力不足, 不利于预测设备RUL这一具有显著时序特性的任务.

    为此, 大量研究人员[20-21]采用RNN模型或长短时记忆网络 (Long short-term memory, LSTM)[22-25]等改进方法进行设备的RUL预测. 例如, Zheng等[22]提出了LSTM-FNN模型用于预测航空发动机RUL, 模型在LSTM层上新增了一个前馈神经网络用于提升模型预测性能. 康守强等[25]提出了SAE-LSTM滚动轴承RUL预测模型, 利用改进SAE对滚动轴承振动信号实现无监督的特征提取, 并将提取出的深层特征作为滚动轴承的性能退化特征. 同时, 通过引入Bi-LSTM以实现滚动轴承过去和未来信息的充分利用, 从而完成滚动轴承当前寿命预测. 然而, LSTM或者门控循环单元 (Gated recurrent unit, GRU)等循环神经网络模型处理较长历史数据效率较低. 针对此类问题, 部分研究人员[26-28]利用TCN中的因果卷积来学习更深层的特征, 获得更大的感受野, 以便模型能够更好地学习序列的时间相关性. 如Chen等[26]采用TCN对航空发动机RUL进行预测, 性能得到了提升.

    为了更好捕获时间序列数据中的长期依赖关系, 并自主发现设备发生退化的关键时间点, 部分学者[29-31]采用Transformer模型实现对设备的RUL预测. 例如, Mo等[29]提出了一种基于预训练模型的预测框架, 以Transformer模型中的编码器作为模型主干, 通过自注意力机制, 挖掘不同传感器的感知数据规律关联, 以及与RUL的关联关系, 实验结果表明该方法能够显著降低预测误差. 然而, Transformer模型仍未能利用设备在运行过程中的各部件的状态变化趋势, 其具体体现为无法学习不同传感器关联关系的变化规律. 从而为图神经网络特别是基于时序图神经网络的RUL预测模型提供了动机.

    综上所述, 当前深度学习模型主要关注各传感器局部时间范围的关联, 未考虑在一个较长周期内各传感器之间的关联关系模式及其影响、变化情况. 实际上, 不同传感器节点之间的感知数据存在一定的关联, 如正关联、负关联、传递关联等. 而在设备运行的不同阶段, 关联性也会随之改变, 预示着设备性能的退化. 以飞行器工作为例, 在其运行早期, 相近的部件之间可以保持振动模式的一致性、传递性; 而随着工作架次的累积、部件的老化和结合部的松动, 这种一致性会逐步减弱, 并预示着潜在的设备故障的出现. 为此, 利用不同传感器节点间关联关系的模式规律、演变趋势, 同样能够反映出设备的稳定性变化, 进而为设备RUL预测提供更加充分的佐证.

    为此, 本文提出一种基于多变量分析的时序图推理模型(Multivariate similarity temporal knowledge graph, MSTKG), 能够充分利用传感器运行状态耦合关系及其变化趋势, 挖掘其中蕴含的设备性能退化信息, 用于设备RUL精确预测. 通过构建多个连续时间切片内的传感器节点关系图, 并基于连续的图结构进行表示学习, 充分发现设备各部件间的状态时空关联, 刻画不同传感器节点间关联关系的变化过程. 该模型能够预测未来时刻的节点属性、关联以及整体信息, 从而作为设备RUL预测的分析依据.

    本文主要贡献如下:

    1) 提出一种基于图推理的剩余使用寿命预测框架, 能够利用不同传感器关联关系的变化趋势, 发现设备性能退化, 从而预测RUL;

    2) 设计一个时序图卷积神经网络, 通过聚合不同传感器节点的特征值, 实现节点关系的表征学习, 该结果可以用于寿命预测、节点相关性预测等多个任务;

    3) 基于基线数据的大量实验分析表明, 所提出的方法能够更加准确地预测设备的RUL.

    本文内容组织如下: 第1节介绍RUL预测的任务描述和问题定义; 第2节介绍用于感知数据表示和RUL预测的多变量分析时序图推理模型; 第3节介绍实验设置与结果分析; 第4节为本文总结.

    本节对RUL预测任务进行描述, 包括运行设备的基础系统设定以及寿命预测的问题形式化定义.

    本文所提出的模型主要面向具备多种工况、在不同部件集成了多个传感器的设备进行剩余寿命预测. 具体地, 假设运行中的设备在不同部分共集成了$ N $个传感器, 定义为$ \{S_1, S_2, \cdots, S_N\} $. 每个传感器以$ t_0 $频率进行数据采集, 记录其所在部件的工作状态参数, 如振动幅度、温度、风速等. 所有的感知数据形成数据集合$\{\{d_{11}, d_{12}, \cdots\}, \{d_{21}, d_{22}, \cdots\}, \cdots,$ $ \{d_{i1}, d_{i2}, \cdots\}, \cdots, \{d_{N1}, d_{N2}, \cdots\}\} $, 其中, $ d_{ij} $表示第$ i $个传感器在第$ j $个运行时刻采集的感知数据. 一般地, 本文所提出的预测模型允许感知数据属于不同类型, 也允许传感器节点拥有不同的采集频率. 针对不同类型的感知数据、不同采集频率, 采用归一化分析与数据对齐方法, 实现数据预处理.

    传感器节点将采集到的感知数据传输至中央节点, 进行数据分析. 具体地, 假设设备在工作$ T $个运行时刻后出现故障, 则在任意轮次$ T_0 $, 设备的RUL记为$ \left| T-T_0 \right| $.

    RUL预测问题定义为: 通过对多个传感器的感知数据进行分析, 估计设备可以正常运行的时间长度.

    问题输入: 感知数据集合$D_{T_0} = \{\{d_{11}, d_{12}, \cdots, d_{1 T_0}\},\cdots,$ $ \{d_{N1}, d_{N2}, \cdots, d_{N T_0}\}\} $, 其中$ T_0 $为当前时刻.

    问题输出: $ \hat{T} $, 即在$ T_0 $时刻对设备RUL时间的预测值.

    优化目标: 假设$ \hat{T} = F(D_{T_0}) $, 其中$F( \cdot)$为预测模型, 则优化目标为最小化$|\hat{T} - T|$, 即, 针对给定的设备, 寻找模型$F (\cdot)$, 使其最小化预测剩余寿命与真实剩余寿命的差值.

    本节创新性地提出了用于设备RUL预测的多变量分析时序图推理模型, 能够充分挖掘多传感器时序特征和传感器间关联关系的演变趋势. 主要介绍传感器节点关联关系时序图构建、关联特征学习网络设计、感知数据时序特征编码以及RUL预测损失函数设计.

    提出基于多变量分析的时序图推理模型, 用于RUL预测. 模型整体结构如图1 所示, 主要由3个部分组成. 时序图构建模块将每个传感器的感知数据划分为若干时间片, 每个时间片对应一个关联图, 图中节点间的关联关系由该时间片内的感知数据决定. 多个时间片形成按时序排列的节点关联图序列. 节点关联特征学习模块采用局部循环编码网络, 分别针对传感器节点时空关联演变特征和原始感知数据信息进行建模与表示学习, 从前一模块输出的关联图序列中学习设备的状态特征. 最后, 采用回归模型将设备状态特征映射到连续空间中, 实现RUL预测.

    图 1  MSTKG模型结构图
    Fig. 1  Structure of MSTKG model

    布置在设备各部分的传感器节点, 可以通过数据感知的方式, 记录设备不同部分的运行状态. 而不同时段、相近传感器节点的感知数据关联关系, 能够刻画设备各部分间的耦合状态. 这一状态本身及其变化, 隐含着设备稳定性、性能退化情况, 可以作为设备健康情况的评估依据. 为此, 设计时序图结构, 实现不同时段下传感器节点的关联表示. 具体而言, 时序图结构定义如下:

    定义 1. 假设$ G = \{G_1, G_2, \cdots, G_K\} $为一个时序图序列, 其中, $ G_i = \{V_i, E_i\} $为对应第$ i $个时段的时序图, $ V_i $表示第$ i $个时段的节点集合, 记为$V_i = \{v_{i1}, \cdots\}$, $ E_i $表示节点集合$ V_i $间的关联, 其中$e_{ijk} \in E_i$表示$ v_{ij} $与$ v_{ik} $间的关联类型.

    时序图模型能够刻画节点在不同时段的关联关系, 从而建模其变化趋势, 为RUL预测提供相关信息. 具体构建过程如下: 将时序图中节点定义为各个传感器, 即

    $$ \left\{ \begin{aligned} &v_{11} = v_{21} = \cdots = v_{T_01} = S_1 \\ &v_{12} = v_{22} = \cdots = v_{T_02} = S_2 \\ &\qquad\qquad\qquad\vdots \\ &v_{1N} = v_{2N} = \cdots = v_{T_0N} = S_N \end{aligned} \right. $$ (1)

    为便于记录, 略去时间段下标, 简记为$ \{v_1, v_2, \cdots, v_N\} $. 时序图中边的定义方式如下:

    假设任意两个节点间存在关联性, 通过边的权值表示. 具体地, 针对$ e_{ijk} $, 即第$ i $个时间段内传感器$ v_j $与$ v_k $的关联, 首先截取数据子序列

    $$\begin{split} D_{ji} = \;&\{d_{j((i-1)\times P+1)}, d_{ j((i-1)\times P+2)}, \cdots,\\ &d_{ j((i-1)\times P+P)}\}\end{split} $$ (2)
    $$ \begin{split}D_{ki} =\;& \{d_{k((i-1)\times P+1)}, d_{ k((i-1)\times P+2)}, \cdots,\\ &d_{ k((i-1)\times P+P)}\}\end{split} $$ (3)

    其中, $P $为一个时间段的时间长度. 对于每一对数据子序列$ D_{ji} $与$ D_{ki} $, 首先采用min-max方法对感知数据进行归一化处理, 并采用动态时间归整 (Dynamic time warping, DTW) 算法两两计算数据子序列之间的相似度, 作为节点关联性度量

    $$ Sim_{i}^{j, \,k} = \text{DTW}(D_{ji}, D_{ki}) $$ (4)

    $Sim $是子序列之间的相似度, DTW是一种常用的序列距离度量方法, 能够衡量两个序列的模式相似度, 并允许存在模式的偏移和拉伸. 如图2所示, DTW方法会自适应地寻找两个序列的最佳匹配模式.

    图 2  DTW示意图
    Fig. 2  Illustration of DTW

    DTW度量方法能够刻画两个序列间的模式关联性, 并且不受时间偏移的影响, 能够更好地表示传感器节点间的状态关系, 如振动在设备不同部分的传递情况以及振动周期变化等. 同时, 本文所提出的预测模型同样适用于余弦相似度等关联度量方法. 具体计算过程中, DTW通过动态规划方法, 找到两个序列的最近距离匹配模式, 并计算出距离, 动态规划计算公式为

    $$\begin{split} &\text{DTW}_{i, \,j} = \\ &\;\;\;\left\{\begin{aligned} &\text{abs}(x_i-y_j),& i = 1, j = 1 \\ &\min (\text{DTW}_{i-1, \,j}, \text{DTW}_{i, \,j-1}, &{}\\ &\quad\;\text{DTW}_{i-1, \,j-1})+ \text{abs}(x_i-y_j), & \text{otherwise}\;\;\; \end{aligned}\right. \end{split}$$ (5)

    其中, $ \text{DTW}_{i,\,j} $代表时间序列$ \{x_1,x_2,\cdots,x_i\} $与$\{y_1, y_2,\cdots,y_j\}$之间的DTW距离, 对应于时序图中的$ D_{ji} $与$ D_{ki} $, abs为绝对值函数. 假设时间序列$ x $的总长度为$ N $, $ y $的总长度为$ M $, 则$ x $与 $ y $的DTW距离为$ \text{DTW}_{N, \,M} $, 该距离具有速度无关性, 即不会受到时间序列形状伸缩的影响.

    随后, 对同一时间段内所有节点对计算其感知数据子序列的DTW距离, 并对相似度进行归一化处理. 将相似度取值范围均匀划分为$ N_r $个区间, 分别标记为$ \{R_1, R_2, \cdots, R_{N_r}\} $. 针对每一对传感器节点, 通过将相似度归入相应的区间, 并采用相应区间标识, 实现从连续相似度到离散关系的转化. DTW相似度的归一化计算及关系类别转化公式如下

    $$\left\{\begin{aligned} & NormalizedSi{m}_{i}^{j,k}=\frac{Si{m}_{i}^{j,k}-minSim}{maxSim-minSim} \\ & minSim=\underset{t\in \left\{\mathrm{1,2},\cdots ,{T}_{0}\right\},x,y\in \{\mathrm{1,2},\cdots ,N\}}{\mathrm{min}}Si{m}_{t}^{x,y}\\ &maxSim=\underset{t\in \left\{\mathrm{1,2},\cdots ,{T}_{0}\right\},x,y\in \{\mathrm{1,2},\cdots ,N\}}{\mathrm{max}}Si{m}_{t}^{x,y}\end{aligned}\right.$$ (6)
    $$ e_{ijk} = \lfloor {NormalizedSim_{i}^{j, \,k}\times N_r} \rfloor $$ (7)

    其中, $NormalizedSim $为归一化后的相似度, $T_0 $为输入数据中的最后一个时刻, $N $为传感器个数; $ N_r $为划分出的区间个数, 即关系数目, $ \lfloor \cdot\rfloor $为向下取整, $ e_{ijk} $为第$ i $个时间段内节点$ v_j $与$ v_k $之间的关系, $ \max $, $ \min $分别表示最大值和最小值函数.

    基于上述方法, 构建出用于RUL预测的时序图序列$ G = \{G_1, G_2, \cdots, G_K\} $, 作为推理模型的输入.

    节点关联特征学习网络基于传感器感知数据和时序图结构进行特征学习, 主要包含两个特征维度: 传感器节点关联的时序特征和原始感知数据的时序特征, 本节将分别针对这两个部分的模块设计进行介绍.

    2.3.1   传感器节点关联特征编码

    提出局部循环编码器, 基于同一时段不同传感器、以及传感器在不同时段的状态关联关系, 通过传感器节点状态表示, 学习关联特征变化趋势, 为RUL预测提供依据. 其输入为前一步骤构建的时序图序列$ G = \{G_1, G_2, \cdots, G_K\} $, 以及图中各个节点的随机初始化特征.

    采用图卷积网络(Graph convolutional network, GCN), 从节点数据相关性角度对时序图中的信息进行聚合, 并在多个时间片段之间使用GRU进行演化, 学习传感器节点不同时间段的关联关系变化.

    首先, 在每一个时间段内, GCN通过如下公式聚合多个关系以及多跳传感器邻居节点的信息, 形成目标传感器节点的特征表示

    $$ h_{o, \,t}^{l+1} = \sigma \left(\sum\limits_{s, \,r, \,o \;\in \;{\cal{F}}_t} \frac{1}{c_o} {W_r^l} \psi ({h_{s, \,t}^l}, {r_t})+ {W_o^l} {h_{o,\, t}^l}\right) $$ (8)

    其中, $ s, r, o $分别代表头节点、关系、目标节点, $ {h_{s,\,t}^l} $, $ {h_{o,\, t}^l} $代表$ {t} $时刻第$ {l} $层的实体嵌入, $ {r_t} $代表$ {t} $时刻的关系嵌入, $ {W_r^l} $, $ {W_o^l} $为可学习的权重参数, $ c_o $是用于归一化的系数, 其值等于实体$ o $的入度, $ \psi(\cdot) $是一维卷积操作, $ \sigma(\cdot) $是ReLU激活函数.

    其次, 在多个时间段之间使用两个GRU: 实体GRU和关系GRU, 进行演化特征的学习, 刻画传感器节点在设备运行过程中的状态变化情况, 即关联关系变化趋势.

    GRU是一种基于门控机制的循环神经网络, 通过组合多种不同作用的门结构, 对时序数据进行建模, 能够支撑节点不同时段的状态特征传递. 具体计算公式如下

    $$ r_t = \delta(W_rx_t+U_rh_{t-1}+b_r) $$ (9)
    $$ z_t = \delta(W_zx_t+U_zh_{t-1}+b_z) $$ (10)
    $$ \tilde{h}_t = \text{tanh}(W_hx_t+U_h(s_t\odot h_{t-1})+b_h) $$ (11)
    $$ h_t = z_t\odot \tilde{h}_t+(1-z_t)\odot h_{t-1} $$ (12)

    其中, $ \tilde{h}_t $是候选状态, $ h_t $是隐藏状态, $ W $, $ U $, $ b $是可学习的参数. $ z_t $是更新门, 负责控制隐藏状态需要从候选状态中接收多少信息; $s_t$是重置门, 负责控制候选状态需要从上一时刻隐藏状态中接收多少信息; $ \delta(\cdot) $为sigmoid函数; $ \odot $表示逐元素相乘.

    针对实体GRU, 其具体演化特征表示公式如下

    $$ {H_t} = \text{GRU}({H_{t-1}}, {H^{\text{GCN}}_{t}}) $$ (13)

    其中, $ {H_t} $, $ {H_{t-1}} $分别为${{t}}$时刻、$ t-1 $时刻$ d $维传感器节点嵌入, $ { H^{\text{GCN}}_{t}} $为$ t $时刻经过GCN聚合后的节点表征, 分别对应于标准GRU结构的$ h_t $, $ h_{t-1} $, $ x_t $.

    相应地, 关系GRU的演化特征表示公式如下

    $$ {R_t'} = [\text{pooling}({H_{t-1}}, {\cal{H}}_{r, \,t});{r}] $$ (14)
    $$ {{{R}}_{{t}}} = \text{GRU}({R_{t-1}}, {R_t'}) $$ (15)

    其中, pooling为池化操作, $[ \cdot \; ;\; \cdot ]$为拼接操作, $ {\cal{H}}_{r, \, t} $是$ {t} $时刻所有与关系 $ {r} $ 连接的实体, $ {R_t} $, ${R_{t-1}}, {R_t'} \in {\bf{R}}^{|{R}| \times d}$分别为$ t $时刻和$ t-1 $时刻的$ d $维关系嵌入及$ t $时刻的初始关系嵌入, 分别对应于标准GRU结构的$ h_t $, $ h_{t-1} $, $ x_t $. 针对具体的关系$ r $, 其在当前时刻$ t $的表示由两部分组成: 前一时段所有关系$ r $连接的实体表征的池化以及关系$ r $的全局表示.

    通过上述GCN和GRU模块的计算, 最终的输出为传感器节点特征矩阵和关联特征矩阵, 实现基于时序图序列全面表示传感器节点之间在空间、时间上的状态变化及关联.

    2.3.2   感知数据时序特征编码

    时序图主要用于刻画传感器节点间的状态变化, 重点利用了感知数据所蕴含的关联关系. 然而, 感知数据中固有的对设备运行状态变化趋势的记录, 同样可以为RUL预测提供依据. 为此, 在时序图推理的基础上, 引入对原始感知数据的编码和时序特征学习.

    具体地, 在实体GRU和关系GRU对实体嵌入和关系嵌入进行演化学习时, 引入原始传感器数据, 扩充特征语义. 实体GRU的特征联合公式改进如下

    $$ {X_H^{G_{t-1}}} = \text{repeat}({X_{-1}^{G_{t-1}}}) $$ (16)
    $$ {H_{t-1}^{\text{GCN}'}} = [{H_{t-1}^{\text{GCN}}}; {X_H^{G_{t-1}}}] $$ (17)

    其中, $ X_{-1}^{G_{t-1}} \in {\bf{R}}^{1\times |V|} $为构造$ G_{t-1} $的原始传感器数据中最后一个时间戳的数据, $\text{repeat}(\cdot)$为复制操作, 经过复制得到$ X_H^{G_{t-1}} \in {\bf{R}}^{|V|\times |V|} $. 经过拼接后得到的$H_{t-1}^{\text{GCN}'} \in {\bf{R}}^{|V|\times (d+|V|)}$将作为实体GRU的实际输入.

    关系GRU的特征联合公式与实体表征公式相似, 其具体形式如下

    $$ X_R^{G_{t-1}} = {\rm{repeat}}(X_{-1}^{G_{t-1}}) $$ (18)
    $$ R_{t-1}^{''} = [R_{t-1}^{'};X_R^{G_{t-1}}] $$ (19)

    其中, $ X_R^{G_{t-1}} \in {\bf{R}}^{|R|\times |V|} $是$ X_{-1}^{G_{t-1}} $经过相同的复制操作得到. 拼接后得到的$ R_{t-1}^{''} \in {\bf{R}}^{|R|\times (d + |V|)} $将作为关系GRU的实际输入.

    基于上述编码, 将原始感知数据融入特征表示, 并结合GRU充分学习其时间变化特性, 支撑RUL预测.

    在RUL映射部分, 通过回归分析, 利用时序图推理所得的传感器节点特征$ H_t $和传感器关联特征$ R_t $, 获得对设备RUL的预测.

    回归分析主要包含两个步骤:

    原始特征拼接: 将特征矩阵转化为一维向量, 支持后续回归分析, 其具体公式为

    $$ X = \text{flatten}([ {H_t};{R_t} ]) $$ (20)

    其中, $ \text{flatten}(\cdot )$为向量扁平化操作.

    RUL估值分析: 将一维特征输入单层神经网络, 输出RUL预测值, 其公式为

    $$ \widehat{\text{RUL}} = \delta(WX+b) $$ (21)

    其中, $\widehat{\text{RUL}}$为RUL的预测值, $ W $和$ b $是可学习参数, $ \delta(\cdot ) $是sigmoid函数. 此外, 为了计算稳定性, 对RUL实现了归一化操作.

    最后, RUL预测任务的损失函数为均方根误差 (Root mean square error, RMSE), 损失函数如下

    $$ L^{\text{rul}} = \sqrt{\frac{1}{|D_{\text{test}}|}\sum\limits_{X\in D_{\text{test}}}(\text{RUL}-\widehat{\text{RUL}})^2} $$ (22)

    其中, $ D_{\text{test}} $为测试数据集.

    本节主要对所提出的模型进行实验分析. 首先, 对基线数据进行介绍, 并结合数据特点进行数据预处理和特征选择. 其次, 介绍本实验的实验设置、对比算法和预测结果的评价指标. 然后对本文提出的模型与对比算法的结果进行分析, 并通过消融实验对模型中不同组合进行分析. 最后, 选取测试集中两个发动机单元进行案例分析, 验证模型的有效性.

    在CMAPSS (Commercial modular aero-propulsion system simulation)数据集上进行实验测试, 验证模型的有效性. CMAPSS数据集来自于第一届PHM国际会议[32], 由名为C-MAPSS的涡扇发动机仿真模型建立, 通过仿真模型模拟涡扇发动机退化过程. 其内部根据不同的设置可以分为FD001、FD002、FD003和FD004四个数据子集. 每个数据子集包括训练数据集和测试数据集, 训练集为发动机从初始状态运行到完全失效的数据集合, 测试集为发动机的退化数据集合.

    每个数据子集是由26个参数构成, 其中第一个参数为发动机编号, 第二个参数为时间编号, 第三个参数到第五个参数为运行状态, 最后21个参数为发动机重要的传感器监测数据, 重点用于发动机RUL预测, 如表1所示.

    表 1  CMAPSS传感器数据描述
    Table 1  The description of CMAPSS sensor data
    传感器编号简称描述
    1T2风扇进口温度
    2T24低压压气机出口温度
    3T30高压压气机出口温度
    4T50低压涡轮出口温度
    5P2风扇出口压力
    6P15涵道压力
    7P30高压压气机出口压力
    8Nf物理风扇转速
    9Nc核心转速
    10Epr发动机增压比
    11Ps30高压压气机出口静压
    12phi燃料流量比
    13NRf校正后风扇转速
    14NRc校正后核心转速
    15BPR涵道比
    16farB燃烧空气比
    17htBleed排气焓
    18Nf_dmd要求风扇转速
    19PCNfR_dmd要求风扇校正转速
    20W31高压涡轮冷却液流速
    21W32低压涡轮冷却液流失
    下载: 导出CSV 
    | 显示表格

    数据集涉及6种运行状态和2种故障模式, 根据不同的运行状态和故障模式进行分类, 如表2所示. FD001和FD003分别只在一种状态下运行, FD002和FD004分别在6种状态下运行. 其中, FD001和FD002数据集中只包含高压压气机故障, FD003和FD004包含了两种故障模式, 分别为高压压气机故障和发动机风扇故障.

    表 2  CMAPSS数据集中4个子集的细节信息
    Table 2  Detailed information of four subsets of CMAPSS dataset
    运行状态数故障模式数传感器
    个数
    训练单元
    个数
    测试单元
    个数
    FD0011121100100
    FD0026121260259
    FD0031221100100
    FD0046221249248
    下载: 导出CSV 
    | 显示表格

    在数据预处理阶段, 由于传感器数据具有不同的取值范围, 采用min-max归一化方法对传感器数据进行归一化处理, 其公式为

    $$ {\bar{d}}_{ij}= \frac{{d}_{ij}- \underset{t\in \{\mathrm{1,2},\cdots ,T\}}{\mathrm{min}}{d}_{it}}{\underset{t\in \{\mathrm{1,2},\cdots ,T\}}{\mathrm{max}}{d}_{it}- \underset{t\in \{\mathrm{1,2},\cdots ,T\}}{\mathrm{min}}{d}_{it}},i \in \{\mathrm{1,2},\cdots ,N\} $$ (23)

    其中, $d_{ij }$表示第$i $个传感器在第$j $个运行时刻采集的感知数据, $\bar{d}_{ij }$表示归一化后的传感器数据, $T $为设备运行的最后一个时刻, $N $为传感器个数.

    图3为FD001 1号发动机传感器监测数据归一化处理后的非零结果, 由于部分传感器监测数据在归一化后数值为零, 意味着这些监测数据在整个生命周期中非常稳定, 甚至为常量, 这些传感器在RUL预测中没有提供有用的信息. 因此, 实验选取了14个具有显著波动的传感器监测数据作为输入, 包括编号为2、3、4、7、8、9、11、12、13、14、15、17、20和21的传感器.

    图 3  FD001 1号发动机传感器监测数据
    Fig. 3  Sensor monitoring data for engine unit 1 of FD001

    此外, 与其他模型不同, 本文所述模型需要对时序数据进行采样来构造时序图. 采样窗口以固定的步长在每一个数据单元内滑动采样, 并且将窗口内最后一个时间戳的RUL作为生成的知识图谱快照的RUL标签.

    最后, 由于系统在运行初期不会发生退化, 故系统退化在其生命周期的早期阶段可以忽略不计, 本文参照文献[4], 采用分段线性模型为数据集打上RUL标签, 即对RUL的最大上限值设定为125, ($ \text{RUL}_{\text{max}} $ = 125).

    3.2.1   实验设置

    在PyTorch 1.6.0和DGL 0.5.2上实现了所提出的基于多变量分析的时序图推理模型. 基于多组参数的测试结果择优选择, 将采样窗口长度$ L $设定为5, 步长$ S $设定为1, 关系数目$ R $设定为10, 并将$\text{RUL}_{\text{max}}$设定为125. 随机选取数据集(FD001、FD002、FD003、FD004)的80%和20%分别作为训练集和测试集.

    对于时序图编码部分, 将嵌入维数$ d $设定为100, GCN中的层数设定为2, dropout率设定为0.2, 时序图历史的长度$ m $设定为7, 在演化过程中对梯度进行归一化处理. 使用Adam进行参数学习, 其学习率设定为0.001, 并且使用梯度裁剪来避免梯度爆炸.

    最后, 在回归分析阶段, 使用一个单层的带偏置MLP进行RUL的预测.

    3.2.2   对比算法

    分别选取基于卷积网络、循环神经网络和编码解码机制的代表性模型作为对比算法.

    CNN (2016)[18]、CNN-FNN[19]沿时间维度对传感器数据进行卷积操作, 利用FNN对RUL进行预测.

    DCNN-FNN[33]使用空洞卷积CNN替换上述工作中的CNN, 扩大卷积核的感受野来提高模型的预测精度.

    LSTM-FNN[22]使用LSTM直接对传感器数据进行建模, 以自回归的方式训练模型, 并且通过FNN提高RUL的预测精度.

    RBM-LSTM-FNN[30]在LSTM之前附加了一个受限玻尔兹曼机, 以无监督的方式进行预训练, 自动从未标记的原始训练数据中提取退化相关的特征.

    Autoencoder[21]通过无监督的方式训练一个双向LSTM, 对健康指数(Health index, HI)曲线进行建模, 然后结合基于相似度的曲线匹配技术以及零中心规则来计算RUL.

    GCU-Transformer[29]通过卷积门控提取局部特征, 利用Transformer的编码层对高维传感器数据以及局部特征进行编码, 最后使用单层神经网络解码得到RUL.

    3.2.3   评价指标

    本实验采用RMSE和Score指标作为RUL预测任务的性能指标. RMSE定义如下

    $$ \text{RMSE} = \sqrt{\frac{1}{N}\sum\limits_{i = 1}^N(\widehat{\text{RUL}_i}-\text{RUL}_i)} $$ (24)

    其中, $ N $为测试单元的数目. Score指标通过缩放, 让偏向于预测更少剩余寿命的模型获得更好的评价, 其定义如下

    $$ \text{Score} = \left\{ \begin{aligned} \sum\limits_{i = 1}^N\left(\text{exp}\left(-\frac{e_i}{13}\right)-1\right),\, e_i\le 0\\ \sum\limits_{i = 1}^N\left(\text{exp}\left(-\frac{e_i}{10}\right)-1\right),\, e_i > 0 \end{aligned} \right. $$ (25)

    其中, $ e_i $表示第$ i $个测试样本上的预测值与真实值的差值. 考虑到剩余寿命预测时, 偏小的预测结果可以供操作人员提前应对, 引发的后果更轻, 因此, Score指标可以作为RMSE的补充.

    表3展示了本文模型MSTKG以及对比算法在CMAPSS的4个子集上进行RUL预测的结果. 具体地, 由于4个数据子集规模不同, 采用加权平均方法计算结果均值. 结果表明, MSTKG在FD002和FD004上的性能优于最先进的模型. 针对RMSE指标, 性能在FD002和FD004上的提升分别为0.89和1.29, 并且在4个子集的平均性能上提升了0.58. 针对Score指标, MSTKG模型在FD002和FD004上的提升分别为1044.09和455.4, 并且在4个子集的平均性能上提升了671.9.

    表 3  CMAPSS数据集实验性能对比
    Table 3  Comparison of experimental performance on the CMAPSS dataset
    对比方法FD001FD002FD003FD004平均
    RMSEScoreRMSEScoreRMSEScoreRMSEScoreRMSEScore
    CNN (2016)[18]18.4530.2919.8229.1626.74
    LSTM-FNN[22]16.14338.0024.494450.0016.18852.0028.175550.0023.423745.33
    CNN-FNN[19]12.61274.0022.3610412.00 12.64284.0022.4312466.00 19.638266.02
    Autoencoder[34]14.74273.0022.073099.0017.48574.0023.493202.0020.882378.27
    RBM-LSTM-FNN[30]12.56231.0022.733366.0012.10251.0022.662840.0019.762297.47
    DCNN-FNN[33]12.6128.5112.6230.7324.79
    MODBNE[35]15.04334.0025.055585.0012.51422.0028.666558.0023.134453.32
    DBN[36]15.04334.0025.055585.0012.51421.0028.666557.0023.134452.83
    RULCLIPPER[37]13.27216.0022.892796.0017.48574.0023.493202.0020.972259.21
    Autoencoder[21]13.58228.0019.592650.0019.161727.00 22.152901.0019.582264.92
    GCU-Transformer[29]11.2722.8111.4224.8620.29
    本文提出的方法16.69497.4918.701605.9117.48651.7020.862384.6019.001587.31
    下载: 导出CSV 
    | 显示表格

    观察可知, 与Autoencoder类似, MSTKG在工作条件复杂、发动机样本数量更多的数据子集上取得了更好的效果. 对于最复杂的FD004数据集, 它共有12种设置: 6种运行工况以及2种故障模式. 所提出的模型通过时序图学习模块, 隐式地表征学习设备各部件状态的关联变化, 从而扩充了更多的特征维度, 可以更加全面地表征设备的整体运行状态, 进而在复杂的数据集上取得最佳表现.

    此外, 针对4组数据子集, 进一步将MSTKG对数据集中每一个发动机单元的RUL预测值与真实RUL值进行比较. RUL预测结果如图4所示, 图4(a) ~ 4(d)分别为FD001、FD002、FD003、FD004每个数据子集全部发动机单元的RUL预测结果, 其中发动机编号按照实际RUL大小降序排列.

    图 4  FD001 ~ FD004 RUL预测结果
    Fig. 4  Prediction results of RUL on FD001 ~ FD004

    通过观察分析可知, MSTKG在4个测试集上的结果类似: 针对RUL较大的测试单元, 预测的误差较大; 而针对RUL较小的发动机单元, 预测的误差较小, 预测结果更接近真实值.

    具体而言, 针对RUL较大的测试单元, 其运行时间较短, 设备运转状态良好, 传感器难以有效记录与设备退化相关联的特征, 无法精确估计设备的RUL. 但同时, MSTKG的预测值与真实值的差值相对稳定 (在4个测试集上均为25左右), 反映出MSTKG模型在早期的预测稳定性较好.

    针对 RUL 较小的测试单元, 其运行时间较长, 设备各部件出现退化, 会体现在传感器节点的关联变化. 而MSTKG能够充分利用这一特点, 提升预测精度, 特别是针对FD002和FD004两组工况更加复杂的测试集, MSTKG仍能维持稳定的预测精度, 性能优于基于卷积神经网络及循环神经网络的方法[29].

    为进一步比较MSTKG针对不同测试单元的性能, 在表4中分组统计了针对4个测试集前30%、后70%测试单元的结果. 可见, MSTKG模型的RUL预测性能表现有较大提升, RMSE的变化分别为 −4.27、−6.63、−3.48、−4.42, 印证了MSTKG对感知数据中蕴含的设备各部件关联变化信息的利用能力.

    表 4  阶段性RUL预测均方根误差
    Table 4  Phased RUL prediction RMSE
    阶段FD001FD002FD003FD004平均
    总体16.6918.7117.4820.8618.44
    前30%19.5723.1119.8523.8621.60
    后70%15.3016.4816.3719.4416.90
    下载: 导出CSV 
    | 显示表格

    本节通过消融实验, 验证分析节点关联特征学习模块中, 各个特征维度对RUL预测的贡献程度. 具体而言, 分别分析传感器关联关系的演变特征、传感器关联关系的静态特征、原始感知数据特征对寿命预测性能的影响. 这三类特征分别刻画了传感器关联变化信息、关联关系语义信息、感知数据语义信息. 表5展示了在FD002数据子集中的消融实验结果, 可以得到如下结论:

    表 5  FD002数据子集上对不同结构的消融研究
    Table 5  Experimental ablation study on different structures on FD002
    模型结构RMSE性能降低
    Ours20.86
    Ours w/o relation evolution23.40−2.54
    Ours w/o relation23.04−2.18
    Ours w/o origin input21.85−0.99
    下载: 导出CSV 
    | 显示表格

    1) Ours w/o relation evolution, 该消融结构移除了关系嵌入的演化模块, 即仅使用静态关系嵌入. 在FD002数据子集上, RMSE性能降低了2.54. 这表明动态关系嵌入能够更好地捕获设备状态变化, 亦即利用传感器的关联变化信息可以提升模型的寿命预测性能.

    2) Ours w/o relation, 该消融结构仅使用关系演变信息, 忽略关联关系本身的语义信息, 并且在回归层也不引入静态关系嵌入. 在FD002数据子集上, RMSE性能降低了2.18. 这验证了节点间关联关系固有的特征信息, 对于RUL预测同样有影响, 并且其影响程度略低于关系的演变特征.

    3) Ours w/o origin input, 该消融结构不再将原始数据输入用于实体嵌入和关系嵌入演化的GRU, 即不考虑感知数据中蕴含的语义信息. 在FD002数据子集上, RMSE性能降低了0.99, 反映出引入原始数据信息能够提升RUL预测结果.

    分析传感器节点关联与设备RUL的对应关系, 分别选取FD003测试子集中的39号和47号发动机单元进行分析, 结果如图5所示.

    图 5  FD003中39号和47号发动机单元预测结果分析
    Fig. 5  Prediction results analysis of unit 39 and unit 47 engines on FD003

    FD003测试子集中的39号发动机单元的RUL如图5(a)所示, RUL的预测值由120逐步下降至20, 接近真实RUL. 同时, 可以发现传感器节点的关联关系逐步由高度相关向杂乱无关变化, 即图中表示弱关联关系的比例逐渐增加(图5(b)中的0 ~ 4和图5(c)中的0 ~ 3). 因此, 可以反映出设备各个部件随着性能退化, 其紧密的耦合关系也难以维持. 而MSTKG模型能够充分利用这一信息, 学习节点特征, 进行RUL预测.

    FD003测试子集中的47号发动机单元的RUL如图5(d)所示, RUL的预测值维持在105 ~ 110之间, 未出现显著的性能退化. 同时, 可以发现传感器节点的关联关系也维持在一个相对稳定的范围. 例如图5(e)中, 关联类型为5 ~ 9的强关联节点对比例始终维持在0.6左右. 而图5(f)中, 三种关联程度的占比同样较为稳定, 弱、中、强关联的节点对比例接近3:4:3. 而MSTKG模型能够发现节点关联稳定性, 进行较为平稳的RUL预测.

    此外, 进一步进行测试分析, 观察在发动机运行的不同阶段节点之间关联依赖的分布变化, 以FD004中的229号发动机单元为例, 其特征变化如图6所示. 在发动机运行的早期, 无论是时间二阶段划分还是四阶段划分, 传感器特征之间的依赖性较强, 特征间的DTW距离相对较小、比较平稳, 趋近于平均分布. 随着时间的推移和设备剩余寿命的下降, 较小的关系, 即较小的DTW距离, 数量逐渐变少, 表明特征之间的依赖性逐渐减弱. 与之相对, 较大的关系逐渐增多, 设备特征间整体关联趋向于无序. MSTKG模型能够表征这种关系依赖变化, 并将其应用于寿命预测中.

    图 6  FD004 229号发动机单元关联依赖分析
    Fig. 6  Association dependence analysis of unit 229 engine on FD004

    综上, 本文所提MSTKG方法能够充分利用传感器节点状态关联关系及其演变情况, 发现设备不同部件的退化情况, 支撑RUL预测, 其精度在复杂工况下优于现有最佳方案.

    最后, 测试并分析不同参数设置下预测模型的性能变化. 具体地, 以FD004数据子集为对象, 分别测试不同时间窗口长度(即单个窗口包含的感知数据序列长度)、相邻时间窗口的数据跨度以及时间窗口个数3个参数对模型性能的影响, 测试结果如表6所示. 可见, 不同的参数设置会对模型的预测性能产生一定的影响. 例如增加窗口的个数, 会造成模型性能的先升后降, 即RMSE从24.32改进到21.37、20.86, 随后退化到22.06. 这表明模型的特征表示能力存在上限, 引入过多的时间窗口会造成特征空间无法充分刻画时序特征, 需要进一步扩充特征向量的维度. 同时, 当序列长度设置为1时, 模型的输入数据未蕴含足够的时序特征信息, 进而使得模型性能出现明显的下降, 这也验证了模型能够有效利用感知数据的时序特征信息. 此外, 通过第3组和第5组参数的比较, 可见增加窗口的长度或者增加相邻窗口间的感知数据跨度, 均会导致模型预测性能的下降.

    表 6  不同参数设置的模型预测性能
    Table 6  Model prediction performance with different parameter settings
    时间窗口长度时间窗口跨度时间窗口个数RMSE
    51124.34
    51521.37
    51720.85
    511022.06
    53722.81
    下载: 导出CSV 
    | 显示表格

    本文提出了一种基于多变量分析的时序图推理模型的设备RUL预测方法. 该模型以设备各部分传感器节点的感知数据为输入, 分别从传感器工作状态的关联及演化关系、传感器原始感知数据的变化趋势等角度, 估计设备可以健康工作的剩余时长. 模型首先将不同传感器的感知数据划入多个时间窗口, 并针对每个窗口构建节点关联图, 构成时序图序列. 随后, 采用图卷积神经网络学习传感器节点特征, 并通过门控循环单元实现不同时间窗口间节点状态的传递. 在预测部分, 解码得到的时序图特征通过多层映射回归分析, 预测其对应的RUL估计值. 基于基准数据的实验结果表明, 所提出的模型能够提升预测的精度, 特别是针对工况较复杂的设备.

  • 图  1  MSTKG模型结构图

    Fig.  1  Structure of MSTKG model

    图  2  DTW示意图

    Fig.  2  Illustration of DTW

    图  3  FD001 1号发动机传感器监测数据

    Fig.  3  Sensor monitoring data for engine unit 1 of FD001

    图  4  FD001 ~ FD004 RUL预测结果

    Fig.  4  Prediction results of RUL on FD001 ~ FD004

    图  5  FD003中39号和47号发动机单元预测结果分析

    Fig.  5  Prediction results analysis of unit 39 and unit 47 engines on FD003

    图  6  FD004 229号发动机单元关联依赖分析

    Fig.  6  Association dependence analysis of unit 229 engine on FD004

    表  1  CMAPSS传感器数据描述

    Table  1  The description of CMAPSS sensor data

    传感器编号简称描述
    1T2风扇进口温度
    2T24低压压气机出口温度
    3T30高压压气机出口温度
    4T50低压涡轮出口温度
    5P2风扇出口压力
    6P15涵道压力
    7P30高压压气机出口压力
    8Nf物理风扇转速
    9Nc核心转速
    10Epr发动机增压比
    11Ps30高压压气机出口静压
    12phi燃料流量比
    13NRf校正后风扇转速
    14NRc校正后核心转速
    15BPR涵道比
    16farB燃烧空气比
    17htBleed排气焓
    18Nf_dmd要求风扇转速
    19PCNfR_dmd要求风扇校正转速
    20W31高压涡轮冷却液流速
    21W32低压涡轮冷却液流失
    下载: 导出CSV

    表  2  CMAPSS数据集中4个子集的细节信息

    Table  2  Detailed information of four subsets of CMAPSS dataset

    运行状态数故障模式数传感器
    个数
    训练单元
    个数
    测试单元
    个数
    FD0011121100100
    FD0026121260259
    FD0031221100100
    FD0046221249248
    下载: 导出CSV

    表  3  CMAPSS数据集实验性能对比

    Table  3  Comparison of experimental performance on the CMAPSS dataset

    对比方法FD001FD002FD003FD004平均
    RMSEScoreRMSEScoreRMSEScoreRMSEScoreRMSEScore
    CNN (2016)[18]18.4530.2919.8229.1626.74
    LSTM-FNN[22]16.14338.0024.494450.0016.18852.0028.175550.0023.423745.33
    CNN-FNN[19]12.61274.0022.3610412.00 12.64284.0022.4312466.00 19.638266.02
    Autoencoder[34]14.74273.0022.073099.0017.48574.0023.493202.0020.882378.27
    RBM-LSTM-FNN[30]12.56231.0022.733366.0012.10251.0022.662840.0019.762297.47
    DCNN-FNN[33]12.6128.5112.6230.7324.79
    MODBNE[35]15.04334.0025.055585.0012.51422.0028.666558.0023.134453.32
    DBN[36]15.04334.0025.055585.0012.51421.0028.666557.0023.134452.83
    RULCLIPPER[37]13.27216.0022.892796.0017.48574.0023.493202.0020.972259.21
    Autoencoder[21]13.58228.0019.592650.0019.161727.00 22.152901.0019.582264.92
    GCU-Transformer[29]11.2722.8111.4224.8620.29
    本文提出的方法16.69497.4918.701605.9117.48651.7020.862384.6019.001587.31
    下载: 导出CSV

    表  4  阶段性RUL预测均方根误差

    Table  4  Phased RUL prediction RMSE

    阶段FD001FD002FD003FD004平均
    总体16.6918.7117.4820.8618.44
    前30%19.5723.1119.8523.8621.60
    后70%15.3016.4816.3719.4416.90
    下载: 导出CSV

    表  5  FD002数据子集上对不同结构的消融研究

    Table  5  Experimental ablation study on different structures on FD002

    模型结构RMSE性能降低
    Ours20.86
    Ours w/o relation evolution23.40−2.54
    Ours w/o relation23.04−2.18
    Ours w/o origin input21.85−0.99
    下载: 导出CSV

    表  6  不同参数设置的模型预测性能

    Table  6  Model prediction performance with different parameter settings

    时间窗口长度时间窗口跨度时间窗口个数RMSE
    51124.34
    51521.37
    51720.85
    511022.06
    53722.81
    下载: 导出CSV
  • [1] Zhong M Y, Ding S X, Zhou D H, He X. An Hi/H optimization approach to event-triggered fault detection for linear discrete time systems. IEEE Transactions on Automatic Control, 2020, 65(10): 4464-4471 doi: 10.1109/TAC.2020.3006811
    [2] Sun Y J, Wang J, Wang X H. Fault diagnosis of mechanical equipment in high energy consumption industries in China: A review. Mechanical Systems and Signal Processing, 2023, 186: Article No. 109833. doi: 10.1016/j.ymssp.2022.109833
    [3] 裴洪, 胡昌华, 司小胜, 张正新, 杜党波. 不完美维护下基于剩余寿命预测信息的设备维护决策模型. 自动化学报, 2018, 44(4): 719-729

    Pei Hong, Hu Chang-Hua, Si Xiao-Sheng, Zhang Zheng-Xin, Du Dang-Bo. Remaining life prediction information-based maintenance decision model for equipment under imperfect maintenance. Acta Automatica Sinica, 2018, 44(4): 719-729
    [4] Camci F, Chinnam R B. Health-state estimation and prognostics in machining processes. IEEE Transactions on Automation Science and Engineering, 2010, 7(3): 581-597 doi: 10.1109/TASE.2009.2038170
    [5] Liao L, Kottig F. Review of hybrid prognostics approaches for remaining useful life prediction of engineered systems, and an application to battery life prediction. IEEE Transactions on Reliability, 2014, 63(1): 191-207 doi: 10.1109/TR.2014.2299152
    [6] 陆宁云, 陈闯, 姜斌, 邢尹. 复杂系统维护策略最新研究进展: 从视情维护到预测性维护. 自动化学报, 2021, 47(1): 1-17

    Lu Ning-Yun, Chen Chuang, Jiang Bin, Xing Yin. Latest progress on maintenance strategy of complex system: From condition-based maintenance to predictive maintenance. Acta Automatica Sinica, 2021, 47(1): 1-17
    [7] Souza A D R D, Efimov D, Raissi T, Ping X B. Robust output feedback model predictive control for constrained linear systems via interval observers. Automatica, 2022, 135: Article No.109951 doi: 10.1016/j.automatica.2021.109951
    [8] Wang B, Lei Y G, Li N P, Li N B. A hybrid prognostics approach for estimating remaining useful life of rolling element bearings. IEEE Transactions on Reliability, 2020, 69(1): 401-412 doi: 10.1109/TR.2018.2882682
    [9] 袁烨, 张永, 丁汉. 工业人工智能的关键技术及其在预测性维护中的应用现状. 自动化学报, 2020, 46(10): 2013-2030

    Yuan Ye, Zhang Yong, Ding Han. Research on key technology of industrial artificial intelligence and its application in predictive maintenance. Acta Automatica Sinica, 2020, 46(10): 2013-2030
    [10] 董青, 郑建飞, 胡昌华, 李冰, 牟含笑. 基于两阶段自适应Wiener过程的剩余寿命预测方法. 自动化学报, 2022, 48(2): 539-553

    Dong Qing, Zheng Jian-Fei, Hu Chang-Hua, Li Bing, Mu Han-Xiao. Remaining useful life prognostic method based on two-stage adaptive wiener process. Acta Automatica Sinica, 2022, 48(2): 539-553
    [11] Wang W L, Gong C H, Wang D. Optimizing sensor activation in a Language domain for fault diagnosis. IEEE Transactions on Automatic Control, 2019, 64(2) 743-750 doi: 10.1109/TAC.2018.2844409
    [12] Li Q, Wang Z D, Hu J, Sheng W G. Distributed state and fault estimation over sensor networks with probabilistic quantizations: The dynamic event-triggered case. Automatica, 2021, 131: Article No.109784 doi: 10.1016/j.automatica.2021.109784
    [13] 李天梅, 司小胜, 刘翔, 裴洪. 大数据下数模联动的随机退化设备剩余寿命预测技术. 自动化学报, 2022, 48(9): 2119-2141

    Li Tian-Mei, Si Xiao-Sheng, Liu Xiang, Pei Hong. Data-model interactive remaining useful life prediction technologies for stochastic degrading devices with big data. Acta Automatica Sinica, 2022, 48(9): 2119-2141
    [14] 李杰, 李响, 许元铭, 杨绍杰, 孙可意. 工业人工智能及应用研究现状及展望. 自动化学报, 2020, 46(10): 2031-2044

    Li Jie, Li Xiang, Xu Yuan-Ming, Yang Shao-Jie, Sun Ke-Yi. Recent advances and prospects in industrial AI and applications. Acta Automatica Sinica, 2020, 46(10): 2031-2044
    [15] 韩中, 程林, 熊金泉, 刘满军. 大数据结构化与数据驱动的复杂系统维修决策. 自动化学报, 2020, 46(2): 385-396

    Han Zhong, Cheng Lin, Xiong Jin-Quan, Liu Man-Jun. Complex system maintenance decisions based on big data structuration and data-driven. Acta Automatica Sinica, 2020, 46(2): 385-396
    [16] 喻勇, 司小胜, 胡昌华, 崔忠马, 李洪鹏. 数据驱动的可靠性评估与寿命预测研究进展: 基于协变量的方法. 自动化学报, 2018, 44(2): 216-227

    Yu Yong, Si Xiao-Sheng, Hu Chang-Hua, Cui Zhong-Ma, Li Hong-Peng. Data driven reliability assessment and life-time prognostics: A review on covariate models. Acta Automatica Sinica, 2018, 44(2): 216-227
    [17] Yang B Y, Liu R N, Zio E. Remaining useful life prediction based on a double-convolutional neural network architecture. IEEE Transactions on Industrial Electronics, 2019, 66(12): 9521-9530 doi: 10.1109/TIE.2019.2924605
    [18] Babu G S, Zhao P L, Li X L. Deep convolutional neural network based regression approach for estimation of remaining useful life. In: Proceedings of the International Conference on Database Systems for Advanced Applications. Cham, Switzerland: Springer, 2016. 214–228
    [19] Li X, Ding Q, Sun J Q. Remaining useful life estimation in prognostics using deep convolution neural networks. Reliability Engineering System Safety, 2018, 172: 1-11. doi: 10.1016/j.ress.2017.11.021
    [20] Malhi A, Yan R Q, Gao R X. Prognosis of defect propagation based on recurrent neural networks. IEEE Transactions on Instrumentation and Measurement, 2011, 60(3): 703-711 doi: 10.1109/TIM.2010.2078296
    [21] Yu W N, Kim I Y, Mechefske C. An improved similarity-based prognostic algorithm for RUL estimation using an RNN autoencoder scheme. Reliability Engineering System Safety, 2020, 199: Article No. 106926. doi: 10.1016/j.ress.2020.106926
    [22] Zheng S, Ristovski K, Farahat A, Gupta C. Long short-term memory network for remaining useful life estimation. In: Proceedings of the IEEE International Conference on Prognostics and Health Management (ICPHM). Dallas, USA: IEEE, 2017. 88−95
    [23] Jin R B, Chen Z H, Wu K Y, Wu M, Li X L, Yan R Q. Bi-LSTM based two-stream network for machine remaining useful life prediction. IEEE Transactions on Instrumentation and Measurement, 2022, 71: 1-10.
    [24] Liu C L, Zhang Y, Sun J R, Cui Z H, Wang K. Stacked bidirectional LSTM RNN to evaluate the remaining useful life of supercapacitor, International Journal of Energy Research, 2022, 46(3): 3034–3043. doi: 10.1002/er.7360
    [25] 康守强, 周月, 王玉静, 谢金宝, MIKULOVICH Vladimir Ivanovich. 基于改进SAE和双向LSTM的滚动轴承RUL预测方法. 自动化学报, 2022, 48(9): 2327-2336

    Kang Shou-Qiang, Zhou Yue, Wang Yu-Jing, Xie Jin-Bao, MIKULOVICH Vladimir Ivanovich. RUL prediction method of a rolling bearing based on improved SAE and BI-LSTM. Acta Automatica Sinica, 2022, 48(9): 2327-2336
    [26] Chen J G, Chen D J, Liu G P.. Using temporal convolution network for remaining useful lifetime prediction. Engineering Reports, 2021, 3(3): Article No. e12305. doi: 10.1002/eng2.12305
    [27] Chang Y H, Chen J L, Liu Y L, Xu E Y, He S L. Temporal convolution-based sorting feature repeat-explore network combining with multi-band information for remaining useful life estimation of equipment. Knowledge-based Systems, 2022, 249: Article No. 108958. doi: 10.1016/j.knosys.2022.108958
    [28] Liu C L, Li D Z, Wang L C, Li L W, Wang K. Strong robustness and high accuracy in predicting remaining useful life of supercapacitors. APL Materials, 2022, 10(6): Article No. 061106.
    [29] Mo Y, Wu Q H, Li X, Huang B Q. Remaining useful life estimation via transformer encoder enhanced by a gated convolutional unit. Journal of Intelligent Manufacturing, 2021, 32(7): 1997-2006 doi: 10.1007/s10845-021-01750-x
    [30] Chen D, Hong W, Zhou X. Transformer network for remaining useful life prediction of lithium-ion batteries. IEEE Access, 2022, 10: 19621-19628 doi: 10.1109/ACCESS.2022.3151975
    [31] Zhang Z Z, Song W, Li Q Q. Dual-aspect self-attention based on transformer for remaining useful life prediction.IEEE Transactions on Instrumentation and Measurement, 2022, 71: 1-11
    [32] Ahmadzadeh F, Lundberg J. Remaining useful life estimation: Review. International Journal of System Assurance Engineering and Management, 2014, 5(4): 461-474
    [33] Xu X, Wu Q, Li X, Huang B. Dilated convolution neural network for remaining useful life prediction. Journal of Computing and Information Science in Engineering, 2020, 2: 021004
    [34] Yu W N, Kim I Y, Mechefske C. Remaining useful life estimation using a bidirectional recurrent neural network based autoencoder scheme. Mechanical Systems and Signal Processing, 2019, 129: 764–780 doi: 10.1016/j.ymssp.2019.05.005
    [35] Zhang C, Lim P, Qin A K, Tan K C. Multiobjective deep belief networks ensemble for remaining useful life estimation in prognostics. IEEE Transactions on Neural Networks and Learning Systems, 2017, 28(10): 2306–2318. doi: 10.1109/TNNLS.2016.2582798
    [36] Liao L X, Jin W J, Pavel R. Enhanced restricted boltzmann machine with prognosability regularization for prognostics and health assessment. IEEE Transactions on Industrial Electronics, 2016, 63(11): 7076–7083. doi: 10.1109/TIE.2016.2586442
    [37] Cai H S, Feng J S, Li W Z, Hsu Y M, Lee J. Similarity-based particle filter for remaining useful life prediction with enhanced performance. Applied Soft Computing, 2020, 94: Article No. 106474. doi: 10.1016/j.asoc.2020.106474
  • 期刊类型引用(3)

    1. 周伟明. 基于数据挖掘的钻完井柴油机气缸套使用寿命预测方法. 现代制造技术与装备. 2024(07): 97-100 . 百度学术
    2. 张迦陵,张建勋,杜党波,张正新,司小胜. 考虑备件退化的贮备系统剩余寿命预测方法. 西安交通大学学报. 2024(12): 175-185 . 百度学术
    3. 徐达飞,罗钱. 储能技术在新能源电力系统中的应用. 光源与照明. 2024(12): 216-218 . 百度学术

    其他类型引用(2)

  • 加载中
图(6) / 表(6)
计量
  • 文章访问数:  755
  • HTML全文浏览量:  866
  • PDF下载量:  382
  • 被引次数: 5
出版历程
  • 收稿日期:  2023-01-12
  • 录用日期:  2023-06-14
  • 网络出版日期:  2023-09-18
  • 刊出日期:  2024-01-29

目录

/

返回文章
返回