-
摘要: 针对轴承全寿命周期数据获取困难、训练样本少的问题, 提出一种基于关系网络的轴承剩余使用寿命(Remaining useful life, RUL)预测方法. 关系网络是一种基于度量的元学习方法, 在少量训练样本下, 具有快速学习新任务的优点. 设计了一种基于关系网络的轴承健康评估模型, 利用关系网络的嵌入模块提取轴承状态特征, 利用关系模块度量轴承状态特征之间的相似性, 基于相似性构建轴承健康指标(Health indicator, HI); 对健康指标进行Savitzky-Golay滤波平滑处理, 降低振荡对预测结果的影响; 最后利用线性函数对健康指标进行拟合, 得到轴承RUL预测值. 为验证所提方法的有效性, 在PHM2012轴承实测数据集上进行实验. 结果表明, 所得健康指标能够反映轴承的退化趋势, 所得RUL预测结果与空间卷积长短期记忆神经网络 (Convolutional long short-term memory neural network, ConvLSTM)、Transformer、循环神经网络(Recurrent neural network, RNN)、卷积神经网络(Convolutional neural network, CNN) + 长短期记忆网络 (long short-term memory network, LSTM )、编码器−解码器(Encoder-decoder) + 注意力机制 (Attention mechanism)方法相比, 误差百分比分别减少了1.67%, 3.40%, 9.02%, 13.71%, 30.48%. 该方法在少量训练样本的基础上可以取得较好的预测结果, 具有一定的应用价值.Abstract: To solve the problems of difficult acquisition of bearing life cycle data and few training samples, this study proposes a prediction method of bearing remaining useful life (RUL) based on a relation network. A relation network is a meta-learning method based on metric learning. It has the advantage of learning new tasks quickly with a few training samples. A bearing health assessment model based on relation network is designed. The embedded module of the relation network is used to extract the bearing state features, the relational module is used to measure the similarity between the bearing state features, and the health indicator (HI) of bearing is constructed based on the similarity. The health indicators were smoothed by Savitzky-Golay filter to reduce the impact of oscillation on the prediction results. Finally, the linear function is used to fit the health index, and the predicted value of bearing RUL is obtained. To verify the effectiveness of the proposed method, experiments are conducted on the measured bearing dataset of PHM2012. The results show that the obtained health indicators can reflect the degradation trend of the bearing. Compared with ConvLSTM (convolutional long short-term memory neural network), Transformer, RNN (recurrent neural network), CNN + LSTM (convolutional neural network + long short-term memory network), encoder-decoder + attention mechanism methods, the error percentages of the obtained RUL prediction results are reduced by 1.67%, 3.40%, 9.02%, 13.71%, and 30.48%, respectively. This method can obtain better prediction results based on a few training samples and has a certain application value.
-
Key words:
- Bearing /
- remaining useful life (RUL) /
- health indicator (HI) /
- relation network /
- meta-learning
-
轴承是机械设备中必不可少的零部件之一, 广泛应用于各个工业领域, 其健康状态直接影响了机械设备的安全性与可靠性. 轴承在长期运转过程中, 极易发生各种故障, 一旦发生故障, 轻则造成经济损失, 重则危害人类生命安全. 因此实现轴承故障预测与健康管理(Prognostics and health management, PHM)显得尤为重要[1]. 目前, 针对轴承的PHM技术主要包括实时状态监测[2]、故障诊断[3]、剩余寿命预测[4] 等. 其中, 构建能够描述轴承真实健康状态、量化退化趋势的健康指标(Health indicator, HI), 并实现剩余寿命预测是PHM的关键技术之一.
过去几年中, 很多学者致力于轴承剩余使用寿命(Remaining useful life, RUL)预测方法的研究, 这些方法大致分为两大类: 基于模型驱动的方法和基于数据驱动的方法. 基于模型驱动的方法通过构建一个可以精确描述轴承退化过程的物理或数学模型来实现轴承RUL预测, 主要包括粒子滤波[5]、艾林模型[6]、韦布尔分布[7]等方法. 构建过程不仅需要经过一系列测量后的实际工程系统的参数, 还需要广泛的先验知识. 基于模型的方法虽然有助于预测机械退化的总体趋势, 但是在实际工业应用中, 特别是对于复杂的机械设备, 很难用简单的物理或数学模型精确地模拟其退化趋势. 随着智能传感技术与机器学习技术的快速发展, 工业生产中采集了大量的状态监测数据, 使得数据驱动的方法快速发展. 基于数据驱动的RUL预测方法根据大量轴承历史数据对退化特征进行建模, 主要分为3个步骤: 1) 数据采集; 2)健康指标构建; 3) RUL预测. 其中, 构建符合轴承退化趋势的健康指标是预测RUL的核心, 直接影响预测准确性. Yang等[8]采用自组织映射(Self organizing maps, SOM)融合特征构建健康指标, 并引入缩放参数统一失效阈值, 最后利用粒子滤波器预测RUL. Hong等[9]采用小波包−经验模态分解进行特征提取, 然后利用SOM进行特征融合, 所得健康指标能够有效表示性能退化, 实现轴承RUL预测. 以上方法相较于均方根、峰值、熵等单一特征可以更有效地表示轴承退化趋势, 实现RUL预测. 但仍然需要手工选取特征, 依赖专家经验.
随着Hinton等[10]提出深度学习理论以来, 一些学者利用深度神经网络强大的特征提取能力构建健康指标实现RUL预测. Guo等[11]选取6个相似性特征与8个经典时频特征相结合, 形成原始特征集, 然后利用单调性和相关性度量选择最敏感的故障特征, 通过循环神经网络(Recurrent neural network, RNN)构建健康指标实现轴承RUL预测. Chen等[12]提出了一种基于编码器−解码器(Encoder-decoder)和注意力机制(Attention mechanism)的RNN来构建健康指标, 然后通过线性回归方法预测RUL. 王久健等[13] 提出一种空间卷积长短期记忆神经网络(Convolutional long short-term memory neural network, ConvLSTM)的健康指标构建方法, 并利用粒子滤波器更新双指数寿命模型, 实现RUL预测. 康守强等[14]通过改进稀疏自动编码器(Sparse auto encoder, SAE)对轴承振动信号进行无监督深层特征自适应提取, 将其作为轴承的性能退化特征, 并利用双向长短期记忆网络(Bi-directional long short-term memory network, Bi-LSTM)预测轴承RUL. 虽然深度学习方法在该领域中取得一定进展, 但依赖大量数据进行训练, 存在鲁棒性与泛化性较差的问题, 难以应用于工程实践. 元学习[15]能利用已学习的信息, 快速适应未学习的新任务, 使用少量训练样本即可得到较好的模型参数, 为解决上述问题提供了新视野. 因此, 元学习逐渐成为故障诊断领域中热门的研究方向之一. 元学习主要包括学习度量空间、学习初始化和学习优化器等方法, 其中基于度量的元学习方法主要包含孪生网络[16]、匹配网络[17]、原型网络[18]以及关系网络[19]等方法. 孪生网络、匹配网络、原型网络均使用固定的距离度量方式实现小样本分类, 如欧氏距离、余弦距离等. 而Sung等[19] 提出的关系网络由嵌入函数与关系函数组成, 其中, 嵌入函数用于提取样本特征, 关系函数为卷积网络, 用于计算样本特征之间的相似性, 从而实现小样本分类. 由于关系网络是对度量方式进行直接学习, 实现对样本间距离的更准确的表达, 避免了人为选取度量方式的弊端. 起初, 关系网络应用于图像识别[20-21]任务中, 随着进一步的发展, 很多学者将关系网络用于机械设备故障诊断中. Wu等[22]通过机械故障诊断迁移学习任务验证了关系网络在小样本学习中的优势. 吕枫等[23]利用关系网络设计了一种伪标签学习策略, 进行样本集扩充, 实现半监督学习机械故障诊断.
目前, 尚未见到利用关系网络进行寿命预测的论文, 本文利用元学习方法在少量训练样本下可以快速学习新任务的优点, 利用关系网络度量的特性, 通过度量轴承运行状态与初始状态之间的相似性来进行剩余寿命预测, 提高寿命预测的准确性. 综上所述, 本文提出一种利用关系网络构建健康指标并进行RUL预测的方法. 首先通过关系网络的嵌入模块提取特征, 然后将初始状态特征与运行状态特征进行拼接, 通过关系模块计算两者的相似性, 完成健康指标构建. 最后对健康指标进行Savitzky-Golay滤波平滑处理, 并采用线性函数拟合方法预测轴承RUL. 实验结果表明, 基于关系网络模型所得的健康指标能够准确表示轴承性能退化趋势, 所得RUL预测结果与ConvLSTM、Transformer、RNN、卷积神经网络(Convolutional neural network, CNN) + 长短期记忆网络(Long short-term memory network, LSTM)、Encoder-decoder + Attention mechanism等方法相比, 误差百分比分别减少了1.68%, 3.41%, 9.03%, 13.72%, 30.49%, 体现出关系网络在解决小样本问题中的优越性.
本文的其余部分结构如下: 第1节介绍了关系网络等相关知识; 第2节介绍了关系网络模型的结构以及基于关系网络的剩余寿命预测方法; 第3节在实测轴承全寿命周期数据集上验证所提方法的有效性, 并与其他方法进行对比; 第4节概述了本文所得结论和对未来的展望.
1. 相关知识
1.1 关系网络
关系网络最初用于小样本条件下的图像分类, 与传统深度神经网络需要大量样本训练不同, 该网络能在少量训练样本情况下, 取得较好的图像分类结果.
关系网络的结构如图1所示, 包含嵌入模块和关系模块, 是一种端到端的结构. 嵌入模块用来提取输入样本的特征; 关系模块用来度量两个特征之间的相似性, 得到关系得分.
在关系网络中, 首先将支撑集样本 $ {\boldsymbol{x}}_{i} $与查询集样本 $ {\boldsymbol{x}}_{j} $输入到嵌入模块$f_{\varphi}(\cdot)$中, 得到样本$ {\boldsymbol{x}}_{i} $和$ {\boldsymbol{x}}_{j} $的特征向量
$$ \begin{equation} {\boldsymbol{F}}^i=f_{\varphi}({\boldsymbol{x}}_{i}) \end{equation} $$ (1) $$ \begin{equation} {\boldsymbol{F}}^j=f_{\varphi}({\boldsymbol{x}}_{j}) \end{equation} $$ (2) 式中, $ {\boldsymbol{F}}^i $ 和$ {\boldsymbol{F}}^j $为输入样本$ {\boldsymbol{x}}_{i} $和$ {\boldsymbol{x}}_{j} $的特征向量, $f_{\varphi}(\cdot)$为嵌入模块, $ \varphi $为相应的参数.
然后, 通过拼接运算符Z将$ {\boldsymbol{F}}^i $和$ {\boldsymbol{F}}^j $拼接在一起, 计算式为
$$ \begin{equation} {\boldsymbol{F}}^{ij}_{\rm{con}}=Z ({\boldsymbol{F}}^i,{\boldsymbol{F}}^j)=Z (f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j})) \end{equation} $$ (3) 式中, $ {\boldsymbol{F}}^{ij}_{\rm{con}} $表示拼接后的特征向量; Z(·,·)表示拼接运算符.
最后, 将拼接后的特征向量$ {\boldsymbol{F}}^{ij}_{\rm{con}} $输入到关系模块$g_{\phi}(\cdot)$中, 生成关系得分$ {\boldsymbol{r}}_{ij} $, 即
$$ \begin{equation} {\boldsymbol{r}}_{ij}=g_{\phi}({\boldsymbol{F}}^{ij}_{\rm{con}})=g_{\phi}(Z(f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j}))) \end{equation} $$ (4) 式中, $ {\boldsymbol{r}}_{ij} $表示$ {\boldsymbol{x}}_{i} $与$ {\boldsymbol{x}}_{j} $之间的相似性, $ g_{\phi}(\cdot) $为关系模块, $ \phi $为相应的参数.
损失函数采用均方误差(Mean square error, MSE), 计算式为
$$ L=\sum\limits^m_{i=1}\sum\limits^n_{j=1}({\boldsymbol{r}}_{ij}-{\boldsymbol{r}}_{i,j}^{\rm real})^2 $$ (5) 式中, $ {\boldsymbol{r}}_{i,j} $表示${\boldsymbol{x}}_i$和${\boldsymbol{x}}_j$之间的预测关系得分, ${\boldsymbol{r}}_{i,j}^{\rm real}$表示${\boldsymbol{x}}_i$和${\boldsymbol{x}}_j$之间的真实关系得分, 当${\boldsymbol{x}}_i$和${\boldsymbol{x}}_j$为同一类别时, ${\boldsymbol{r}}_{i,j} ^{\rm real}$为1, 否则为0.
1.2 Savitzky-Golay卷积平滑算法
Savitzky-Golay滤波器是一种低通滤波器, 由Savitzky 和Golay[24]于1964年提出, 广泛运用于数据降噪. 主要计算过程如下:
1)定义一组数据为$y ( i ), i=-m, \cdots , 0 , \cdots , m$, 其n阶拟合多项式为
$$ \begin{equation} {E}(n,i)=\sum\limits^n_{k=0}b_{k}i^k=b_{0}+b_{1}i+\cdots+b_{n}i^{n} \end{equation} $$ (6) 式中, b为多项式的系数, n为多项式的阶数, i为多项式的权数, ${E}(n,i)$为关于n阶的多项式函数.
2)数据$ y (i ) $与拟合的多项式间的均方误差$ \xi_{D} $为
$$ \xi_{D}=\sum\limits^m_{i=-m}[{E}(n,i)-y(i)]^2=\sum\limits^m_{i=-m}\bigg[\sum\limits^n_{k=0}b_{k}i^k-y(i)\bigg]^2 $$ (7) 3)要使均方误差最小, 则$ \xi_{D} $各项系数的导数均应为0, 即
$$ \begin{equation} \frac{\partial{\xi_{D}}}{\partial b_{j}}=0,\;\;j=0,1,2,\cdots,n \end{equation} $$ (8) 将式(7)代入式(8), 展开后可得
$$ \begin{equation} \sum\limits^n_{k=0}b_{k}\sum\limits^m_{i=-m}i^{k+j}=\sum\limits^m_{j=-m}y(i)i^j \end{equation} $$ (9) 通过求解式(9), 可求出多项式各项系数$ b_{k} $, 从而得到拟合的n阶多项式${E}(n)$, 即可得到平滑后的数据.
2. 基于关系网络的剩余使用寿命预测
2.1 基于关系网络的轴承健康评估模型
本文提出一种关系网络模型, 其中, 嵌入模块与关系模块的网络结构如图2所示. 嵌入模块采用基本的卷积神经网络结构, 以便于衡量关系网络的性能. 嵌入模块由4个卷积层和3个池化层组成. 第1个卷积层采用了$1\times10 $的大卷积核, 目的是从原始振动信号中提取较大范围的特征. 其他卷积层使用$1 \times3 $的小卷积核, 便于提取局部信息, 并且可以减少网络参数量与计算复杂度. 每层卷积后都会进行批标准化(Batch normalization, BN)和线性整流函数(Rectified linear unit, ReLU)激活, BN可以加速训练, 避免梯度爆炸; ReLU激活函数可以将负值置零, 具有较强的非线性能力. 前两个池化层采用最大池化, 保留主要特征的同时减少参数量和计算量. 第3个池化层采用自适应池化, 用于固定嵌入模块的输出大小, 减少尺寸不匹配的问题出现.
关系模块由2个卷积层、2个池化层和2个全连接层组成. 每个卷积层中使用1×3的小卷积核, 从输入特征图中获取局部信息. 最后一层采用Sigmoid激活函数, 以便得到两个输入样本之间的相似性, 获取关系得分.
2.2 基于关系网络的轴承RUL预测方法
基于关系网络的轴承RUL预测方法流程如图3所示, 首先利用关系网络模型构建健康指标, 然后预测RUL. 具体步骤如下:
步骤 1. 采集不同工况运行条件下轴承全寿命振动加速度信号, 划分为训练集和测试集, 并将轴承的初始时刻样本作为支撑集, 剩余样本作为查询集.
步骤 2. 将训练集中支持集样本与查询集样本作为模型的输入, 将寿命百分比值(当前使用寿命与全寿命的比值)作为模型输出标签. 模型进行有监督的训练, 输入输出标记形式为$D_{\rm{train}}=\{{\boldsymbol{x}}_{t},{\boldsymbol{y}}_{t}\}^{\rm{T}}_{t=1}$, 其中, ${\boldsymbol{x}}_{t}\in {\bf{R}}^{N\times S}$为$ S $个时间步长的采样数据, 采样数据长度为$ N $; ${\boldsymbol{y}}_{t}\in [0,1]$为时间$ t $所对应的寿命百分比值. 将真实标签与预测标签之间的均方误差作为损失函数值, 利用误差反向传播算法进行训练, 获取模型参数.
步骤 3. 将测试集中支持集与查询集样本输入训练好的关系网络模型, 计算两者之间的关系得分, 作为轴承健康指标.
步骤 4. 为降低振荡对预测结果的影响, 减少预测误差, 采用Savitzky-Golay滤波器对获取的健康指标进行平滑处理, 得到平滑后的健康指标.
步骤 5. 采用一次线性函数对平滑后的健康指标进行拟合, 并通过与失效阈值交点所对应的时刻对轴承的RUL进行预测.
关系网络模型构建健康指标方法的伪代码见算法1所示:
算法1. 关系网络模型构建健康指标算法
输入. 训练集$ D_{\rm{train}}=\{{\boldsymbol{x}}_{t},{\boldsymbol{y}}_{t}\}^{\rm{T}}_{t=1,2,3,\cdots,n} $, 测试集$ D_{\rm{test}}=\{{\boldsymbol{x}}_{t},{\boldsymbol{y}}_{t}\}^{\rm{T}}_{t=1,2,3,\cdots,n} $, 其中, $ {\boldsymbol{x}}_{t} $为模型输入样本, $ {\boldsymbol{y}}_{t} $为标签.
输出. 预测RUL.
步骤 1. 数据划分
取训练集$\{{\boldsymbol{x}}_{t},{\boldsymbol{y}}_{t}\}^{\rm{T}}_{t_{i}=1}$中初始时刻样本作为支撑集, 剩余运行时刻样本$\{{\boldsymbol{x}}_{t},{\boldsymbol{y}}_{t}\}^{\rm{T}}_{t_{j}=2,3,\cdots,n}$为查询集.
步骤 2. 关系网络模型训练
1)初始化关系网络参数$ \varphi $, $ \phi $
2) for i in 1, 2, $3, \cdots ,$ n // n为训练集样本数
3) $ {\boldsymbol{F}}^i=f_{\varphi}({\boldsymbol{x}}_{i}) $, $ {\boldsymbol{F}}^j=f_{\varphi}({\boldsymbol{x}}_{j}) $
4) $ {\boldsymbol{F}}^{ij}_{\rm{con}}=Z({\boldsymbol{F}}^i,{\boldsymbol{F}}^j)=Z(f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j})) $
5) $ {\boldsymbol{r}}_{ij}=g_{\phi}({\boldsymbol{F}}^{ij}_{\rm{con}})=g_{\phi}(Z(f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j}))) $
6) $L=\sum\limits^m_{i=1}\sum\limits^n_{j=1}({\boldsymbol{r}}_{ij}-{\boldsymbol{r}}_{i,j}^{\rm real})^2$
7) 更新$ \varphi $, $ \phi $
8) end for
步骤 3. 健康指标构建
1) for i in 1, 2, 3$,\cdots ,$ n // n为测试集样本数
2) $ {\boldsymbol{F}}^i=f_{\varphi}({\boldsymbol{x}}_{i}) $, $ {\boldsymbol{F}}^j=f_{\varphi}({\boldsymbol{x}}_{j}) $
3) $ {\boldsymbol{F}}^{ij}_{\rm{con}}=Z({\boldsymbol{F}}^i,{\boldsymbol{F}}^j)=Z(f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j})) $
4) ${\boldsymbol{r}}_{ij}=g_{\phi}({\boldsymbol{F}}^{ij}_{\rm{con}})=g_{\phi}(Z(f_{\varphi}({\boldsymbol{x}}_{i}),f_{\varphi}({\boldsymbol{x}}_{j})))$
5) end for
6)输出$ {\boldsymbol{r}}_{ij} $.
3. 实验
3.1 数据集
本文选取PHM2012滚动轴承加速寿命实验数据集[25]进行验证. 该数据集来自PRONOSTIA实验台, 实验台如图4所示, 能够在几个小时的时间内完成轴承性能退化实验. 数据集如表1所示, 包含3种工况, 共$17 $个轴承, 工况1转速为1 800 r/min, 径向力为4000 N; 工况2转速为1650 r/min, 径向力为4200 N; 工况3转速为1500 r/min, 径向力为5000 N. 利用两个加速度传感器采集轴承水平方向与垂直方向的原始振动信号, 采样频率为 25.6 kHz, 每隔10 s采样一次, 每次采样时长为0.1 s. 其中, 水平方向振动信号能够比垂直方向振动信号提供更多的有用信息来跟踪轴承退化[26-27]. 因此, 本文使用水平方向振动信号进行实验.
表 1 PHM2012轴承数据集Table 1 PHM2012 bearing dataset工况 工况1 工况2 工况3 训练集 轴承1_1 轴承2_1 轴承3_1 轴承1_2 轴承2_2 轴承3_2 轴承1_5 轴承2_4 轴承1_6 轴承2_5 轴承1_7 轴承2_7 测试集 轴承1_3 轴承2_3 轴承3_3 轴承1_4 轴承2_6 3.2 轴承健康指标构建实验与分析
为验证本文所提方法的有效性, 选取轴承1_3、1_4、2_3、2_6、3_3的数据作为测试集进行测试, 其余轴承数据作为训练集进行训练. 经过实验确定模型超参数取值, Batch size为200, epoch为200, 学习率为0.0005, 优化器为Adam.
针对轴承退化趋势而言, 不同工况下不同轴承的退化趋势不同, 如图5所示为轴承1_3与轴承2_6水平方向的时域振动信号, 其中 g表示重力加速度. 从图5(a)中可以看出, 轴承1_3在运行过程中幅值缓慢发生变化, 故障位置不太明显, 退化趋势为缓慢退化型. 从图5(b)中可以看出, 轴承2_6在运行过程中幅值突然发生变化, 故障位置较为明显, 退化趋势为突然失效型. 因此, 轴承的全寿命周期数据的退化趋势不只是单一故障模式, 可分为缓慢退化型与突然失效型的退化趋势.
因不同工况运行条件下容易造成健康指标的范围相异, 不利于失效阈值的确定, 导致难以实现RUL预测. 因此, 为确定失效阈值的取值, 采用6折交叉验证法对训练集轴承1_1、1_2、2_1、2_2、3_1、3_2全寿命数据进行交叉验证实验, 查看所得健康指标的范围区间, 确定失效阈值. 首先, 从中任意选取5个轴承的全寿命数据进行模型训练, 将剩余的1个轴承数据进行测试, 获得健康指标. 然后, 通过Savitzky-Golay滤波器对获取的健康指标进行平滑处理, 得到最终的健康指标. 最终, 可获得训练集轴承平滑后的健康指标, 结果如图6所示. 训练集轴承健康指标的范围区间为[0, 1], 在初始时刻的健康指标值近似等于0, 在失效时刻的健康指标值近似等于1, 均能够反映轴承运行过程中的退化趋势, 并且整体趋势具有良好的单调性. 因此, 可将失效阈值确定为1, 并且可根据健康指标的取值, 描述轴承真实的健康状态, 量化轴承退化趋势.
为验证本文所提方法在两种不同退化趋势下的有效性, 本文以轴承1_3和轴承2_6为例, 将轴承数据输入关系网络模型中, 获取轴承1_3和轴承2_6的健康指标. 并采用Savitzky-Golay滤波器对获取的健康指标进行平滑处理, 得到最终的健康指标. 最终, 平滑前后的健康指标如图7所示. 由图7可看出, 本文所提关系网络模型构建的健康指标, 无论是缓慢退化型还是突然失效型轴承, 均能够反映轴承运行过程中的退化趋势, 具有良好的单调性, 但是存在局部振荡现象. Savitzky-Golay平滑滤波用拟合值代替原始数值, 具有平滑原始数据序列的作用, 可降低健康指标振荡对RUL预测结果的影响, 减少预测误差. 因此, 可利用平滑后的健康指标进行轴承RUL预测.
3.3 剩余使用寿命预测
使用本文提出的剩余寿命预测方法在测试集轴承上进行剩余使用寿命预测. 由于训练过程中模型输出标签为寿命百分比值, 其符合一次线性函数关系式, 因此, 对测试集所得健康指标也采用了一次线性函数拟合的方法来预测RUL.
为验证所提方法预测结果的好坏, 本文通过计算预测剩余寿命与真实剩余寿命之间的误差百分比$ Er_{i} $来进行评估, 计算式为
$$ \begin{equation} Er_{i}={\frac{ActRUL_{i}-RUL_{i}}{ActRUL_{i}}}\times100{\text{%}} \end{equation} $$ (10) 式中, ${ActRUL_{i}}$为第i时刻的真实RUL, ${RUL_{i}}$为第i时刻的预测RUL.
以轴承1_3和轴承2_6为例, 其RUL预测结果如图8所示. 其中, 虚点线为基于关系网络模型所得平滑后的健康指标, 虚线为一次函数拟合值, 即预测健康指标, 粗实线为失效阈值. 图8(a)为轴承1_3的RUL预测结果, 可知轴承1_3当前时刻寿命为18010 s (由于轴承的第1个样本作为支持集, 故图中18000 s即为全寿命轴承中的18010 s), 实际失效时刻为23740 s, 根据失效阈值可得预测失效时刻为27380 s, 故其实际RUL为$23\;740 \;{\rm{s}}\,- 18\;010 \;{\rm{s}} = 5\;730 \;{\rm{s}}$, 预测RUL为$27\;380\; {\rm{s}}-18\;010 \;{\rm{s}} = 9\;370 \;{\rm{s}},$ 则误差百分比为(5730 − 9370)/5730 ×100% = −63.53%. 图8(b)为轴承2_6的RUL预测结果, 可知轴承2_6当前时刻寿命为5710 s, 实际失效时刻为7000 s, 预测失效时刻为7020 s, 故其实际RUL为7000 s − 5710 s = 1290 s, 预测RUL为7020 s − 5710 s = 1310 s, 则误差百分比为(1290 − 1310)/1 290×100% = −1.55%.
为进一步验证本文方法的有效性, 将本文所提方法与ConvLSTM、Transformer、RNN、CNN+LSTM、Encoder-decoder+Attention mechanism等方法进行对比, 结果如下.
1) ConvLSTM[13]: 该方法采用ConvLSTM模型构建健康指标, 进而实现RUL. 模型共8层, 包含3层ConvLSTM层、2层池化层和3层全连接层. 其主要利用卷积神经网络的局部特征提取能力和长短期记忆网络的时间依赖特性, 从原始信号中挖掘反映退化程度的特征, 构建健康指标.
2) Transformer[28]: 利用Transformer模型挖掘输入特征与轴承剩余寿命之间复杂的映射关系, 通过一次线性函数拟合的方法实现轴承RUL预测. 其中, Transformer模型包含6层编码器和解码器, 并且编码器和解码器的各个子层之间均添加了残差连接操作.
3) RNN[11]: 该方法首先选取6个相似性特征和8个经典时频特征, 然后, 利用单调性和相关性度量选择最敏感的故障特征, 通过RNN构建健康指标, 最终, 通过指数模型计算RUL.
4) CNN + LSTM[29]: 该方法提出一种基于CNN和LSTM的端到端的轴承剩余寿命预测模型. 该模型包含1个卷积层、1个全局平均池化层和1个LSTM层, 并在全局平均池化层后加入Dropout. 其主要利用卷积层进行特征提取, 利用LSTM层预测RUL.
5) Encoder-decoder+Attention mechanism[12]: 提取频谱的5个带通能量值作为特征, 采用基于Encoder-decoder和Attention mechanism的RNN来构建健康指标, 最后通过线性回归方法得到最终RUL值. 该模型利用卷积层进行特征提取, 将双向门控循环神经网络作为编码器, 带有自注意力机制的门控循环神经网络作为解码器进行RUL预测.
本文计算了所提方法与ConvLSTM、Transformer、CNN+LSTM等方法的模型参数量, 如表2所示. 从表2中可以看出, 本文所提方法的参数量只有 78.61k, 与ConvLSTM、Transformer、CNN+LSTM 的参数量相比, 分别减少了 64.35%、98.78%、93.08%.
表 2 不同模型参数量对比Table 2 Comparison of different model parameters方法 参数量 (k) 本文方法 78.61 ConvLSTM 220.50 Transformer 6461.44 CNN+LSTM 1136.64 测试集轴承RUL预测结果以及误差百分比如表3所示. 从表3中可以看出, 本文方法所得误差百分比为24.24%, 与ConvLSTM、Transformer、RNN、CNN+LSTM、Encoder-decoder+Attention mechanism等方法相比, 分别减少1.67%, 3.40%, 9.02%, 13.71%, 30.48%. 因此, 本文方法在模型参数量较小的情况下, 所得误差均值更低. 分析关系网络优于其他方法原因, ConvLSTM、Transformer、RNN、CNN+LSTM、Encoder-decoder+Attention mechanism等深度学习方法需要大量训练样本才能学习到输入数据与轴承剩余寿命之间复杂的映射关系, 实现RUL预测. 而关系网络方法是一种元学习方法, 可以在少量训练样本下, 通过学习轴承初始状态特征与轴承运行特征之间的相似性, 实现轴承RUL预测. 因此, 在轴承全生命数据较少的情况下, 关系网络方法能够更准确地预测RUL值.
表 3 轴承RUL预测结果Table 3 Bearing RUL prediction results轴承 当前时刻 (10 s) 真实寿命 (10 s) 预测寿命 (10 s) 本文方法 (%) 文献 [13] (%) 文献 [28] (%) 文献 [11] (%) 文献 [29] (%) 文献 [12] (%) 轴承1_3 1801 573 937 −63.53 33.68 74.17 74.17 54.73 7.62 轴承1_4 1138 290 338 −16.55 47.24 −0.69 −0.69 38.69 −157.71 轴承2_3 1201 753 1005 −33.46 −32.80 61.36 61.36 75.53 81.24 轴承2_6 571 129 131 −1.55 8.52 0.78 0.78 17.87 24.92 轴承3_3 351 82 77 6.09 7.32 1.22 1.22 2.93 2.09 平均误差 — — — 24.24 25.91 27.64 33.26 37.95 54.72 4. 总结与展望
针对轴承剩余寿命预测问题, 本文提出一种基于关系网络的RUL预测方法, 并在轴承数据集上进行实验. 主要结论如下.
1)关系网络的方法可以应用于轴承剩余使用寿命预测, 其中的关系得分可以用来表示轴承的健康状况. 由于轴承的全寿命数据很难得到, 关系网络体现出在解决小样本问题上的优越性, 取得较好的寿命预测效果, 可以更好地应用于工程实践.
2)关系网络中的嵌入模块可有效提取轴承的健康状态特征, 与其他度量方式相比, 关系模块可以更加准确地度量特征间的相似性.
3)对于缓慢退化型与突然失效型两种退化趋势, 本文所构建健康指标均能够反映轴承运行过程中的退化趋势.
4)本文所得RUL预测结果接近真实寿命值, 所得误差百分比均值为24.24%, 与其他RUL预测方法相比, 本文方法的误差均值更低.
为比较关系网络的性能, 本文嵌入模块采用了基本的卷积神经网络结构, 进一步研究工作可以采用其他嵌入模块结构, 更好地提取轴承状态特征, 提高轴承剩余寿命预测的准确性. 由于在实际工业生产中轴承振动数据获取困难, 因此本文所提方法在实际轴承数据集中的效果需要进一步验证.
-
表 1 PHM2012轴承数据集
Table 1 PHM2012 bearing dataset
工况 工况1 工况2 工况3 训练集 轴承1_1 轴承2_1 轴承3_1 轴承1_2 轴承2_2 轴承3_2 轴承1_5 轴承2_4 轴承1_6 轴承2_5 轴承1_7 轴承2_7 测试集 轴承1_3 轴承2_3 轴承3_3 轴承1_4 轴承2_6 
下载: 导出CSV
表 2 不同模型参数量对比
Table 2 Comparison of different model parameters
方法 参数量 (k) 本文方法 78.61 ConvLSTM 220.50 Transformer 6461.44 CNN+LSTM 1136.64
下载: 导出CSV
表 3 轴承RUL预测结果
Table 3 Bearing RUL prediction results
轴承 当前时刻 (10 s) 真实寿命 (10 s) 预测寿命 (10 s) 本文方法 (%) 文献 [13] (%) 文献 [28] (%) 文献 [11] (%) 文献 [29] (%) 文献 [12] (%) 轴承1_3 1801 573 937 −63.53 33.68 74.17 74.17 54.73 7.62 轴承1_4 1138 290 338 −16.55 47.24 −0.69 −0.69 38.69 −157.71 轴承2_3 1201 753 1005 −33.46 −32.80 61.36 61.36 75.53 81.24 轴承2_6 571 129 131 −1.55 8.52 0.78 0.78 17.87 24.92 轴承3_3 351 82 77 6.09 7.32 1.22 1.22 2.93 2.09 平均误差 — — — 24.24 25.91 27.64 33.26 37.95 54.72
下载: 导出CSV
-
[1] 雷亚国, 贾峰, 孔德同, 林京, 邢赛博. 大数据下机械智能故障诊断的机遇与挑战. 机械工程学报, 2018, 54(5): 94-104 doi: 10.3901/JME.2018.05.094Lei Ya-Guo, Jia Feng, Kong De-Tong, Lin Jing, Xing Sai-Bo. Opportunities and challenges of machinery intelligent fault diagnosis in big data era. Journal of Mechanical Engineering, 2018, 54(5): 94-104 doi: 10.3901/JME.2018.05.094 [2] 赵志宏, 李乐豪, 杨绍普, 李晴. 一种无监督的轴承健康指标及早期故障检测方法. 中国机械工程, 2022, 33(10): 1234-1243 doi: 10.3969/j.issn.1004-132X.2022.10.013Zhao Zhi-Hong, Li Le-Hao, Yang Shao-Pu, Li Qing. An unsupervised bearing health indicator and early fault detection method. China Mechanical Engineering, 2022, 33(10): 1234-1243 doi: 10.3969/j.issn.1004-132X.2022.10.013 [3] 刘建昌, 权贺, 于霞, 何侃, 李镇华. 基于参数优化VMD和样本熵的滚动轴承故障诊断. 自动化学报, 2022, 48(3): 808-819Liu Jian-Chang, Quan He, Yu Xia, He Kan, Li Zhen-Hua. Rolling bearing fault diagnosis based on parameter optimization VMD and sample entropy. Acta Automatica Sinica, 2022, 48(3): 808-819 [4] 康守强, 邢颖怡, 王玉静, 王庆岩, 谢金宝, Mikulovich V I. 基于无监督深度模型迁移的滚动轴承寿命预测方法. 自动化学报, DOI: 10.16383/j.aas.c200890Kang Shou-Qiang, Xing Ying-Yi, Wang Yu-Jing, Wang Qing-Yan, Xie Jin-Bao, Mikulovich V I. Rolling bearing life prediction based on unsupervised deep model transfer. Acta Automatica Sinica, DOI: 10.16383/j.aas.c200890 [5] Jouin M, Gouriveau R, Hissel D, Péra M C, Zerhouni N. Particle filter-based prognostics: Review, discussion and perspectives. Mechanical Systems and Signal Processing, 2016, 72-73: 2-31 doi: 10.1016/j.ymssp.2015.11.008 [6] Jouin M, Gouriveau R, Hissel D, Péra M C, Zerhouni N. Degradations analysis and aging modeling for health assessment and prognostics of PEMFC. Reliability Engineering & System Safety, 2016, 148: 78-95 [7] Ali J B, Chebel-Morello B, Saidi L, Malinowski S, Fnaiech F. Accurate bearing remaining useful life prediction based on Weibull distribution and artificial neural network. Mechanical Systems and Signal Processing, 2015, 56-57: 150-172 doi: 10.1016/j.ymssp.2014.10.014 [8] Yang H B, Sun Z, Jiang G D, Zhao F, Mei X S. Remaining useful life prediction for machinery by establishing scaled-corrected health indicators. Measurement, 2020, 163: Article No. 108035 [9] Hong S, Zhou Z, Zio E, Hong K. Condition assessment for the performance degradation of bearing based on a combinatorial feature extraction method. Digital Signal Processing, 2014, 27: 159-166 doi: 10.1016/j.dsp.2013.12.010 [10] Hinton G E, Osindero S, Teh Y W. A fast learning algorithm for deep belief nets. Neural Computation, 2006, 18(7): 1527-1554 doi: 10.1162/neco.2006.18.7.1527 [11] Guo L, Li N P, Jia F, Lei Y G, Lin J. A recurrent neural network based health indicator for remaining useful life prediction of bearings. Neurocomputing, 2017, 240: 98-109 doi: 10.1016/j.neucom.2017.02.045 [12] Chen Y H, Peng G L, Zhu Z Y, Li S J. A novel deep learning method based on attention mechanism for bearing remaining useful life prediction. Applied Soft Computing, 2020, 86: Article No. 105919 [13] 王久健, 杨绍普, 刘永强, 文桂林. 一种基于空间卷积长短时记忆神经网络的轴承剩余寿命预测方法. 机械工程学报, 2021, 57(21): 88-95 doi: 10.3901/JME.2021.21.088Wang Jiu-Jian, Yang Shao-Pu, Liu Yong-Qiang, Wen Gui-Lin. A method of bearing remaining useful life estimation based on convolutional long short-term memory neural network. Journal of Mechanical Engineering, 2021, 57(21): 88-95 doi: 10.3901/JME.2021.21.088 [14] 康守强, 周月, 王玉静, 谢金宝, Mikulovich V I. 基于改进SAE和双向LSTM的滚动轴承RUL预测方法. 自动化学报, 2022, 48(9): 2327-2336Kang Shou-Qiang, Zhou Yue, Wang Yu-Jing, Xie Jin-Bao, Mikulovich V I. RUL prediction method of a rolling bearing based on improved SAE and Bi-LSTM. Acta Automatica Sinica, 2022, 48(9): 2327-2336 [15] 李凡长, 刘洋, 吴鹏翔, 董方, 蔡奇, 王哲. 元学习研究综述. 计算机学报, 2021, 44(2): 422-446Li Fan-Chang, Liu Yang, Wu Peng-Xiang, Dong Fang, Cai Qi, Wang Zhe. A survey on recent advances in meta-learning. Chinese Journal of Computers, 2021, 44(2): 422-446 [16] Koch G, Zemel R, Salakhutdinov R. Siamese neural networks for one-shot image recognition. In: Proceedings of the 32nd International Conference on Machine Learning. Lille, France: JMLR, 2015. [17] Vinyals O, Blundell C, Lillicrap T, Kavukcuoglu K, Wierstra D. Matching networks for one shot learning. In: Proceedings of the 30th International Conference on Neural Information Processing Systems. Barcelona, Spain: ACM, 2016. 3637−3645 [18] Snell J, Swersky K, Zemel R. Prototypical networks for few-shot learning. In: Proceedings of the 31st International Conference on Neural Information Processing Systems. Long Beach, USA: ACM, 2017. 4080−4090 [19] Sung F, Yang Y X, Zhang L, Xiang T, Torr P H S, Hospedales T M. Learning to compare: Relation network for few-shot learning. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City, USA: IEEE, 2018. 1199−1208 [20] Bishay M, Zoumpourlis G, Patras I. TARN: Temporal attentive relation network for few-shot and zero-shot action recognition. In: Proceedings of the 30th British Machine Vision Conference. Cardiff, UK: BMVC, 2019. Article No. 154 [21] 王晓茹, 张珩. 基于注意力机制和图卷积的小样本分类网络. 计算机工程与应用, 2021, 57(19): 164-170Wang Xiao-Ru, Zhang Heng. Relation network based on attention mechanism and graph convolution for few-shot learning. Computer Engineering and Applications, 2021, 57(19): 164-170 [22] Wu J Y, Zhao Z B, Sun C, Yan R Q, Chen X F. Few-shot transfer learning for intelligent fault diagnosis of machine. Measurement, 2020, 166: Article No. 108202 [23] 吕枫, 王义, 阮胡林, 秦毅, 王平. 深度嵌入关系空间下齿轮箱标记样本扩充及其半监督故障诊断方法. 仪器仪表学报, 2021, 42(2): 55-65Lv Feng, Wang Yi, Ruan Hu-Lin, Qin Yi, Wang Ping. Labeled sample augmentation based on deep embedding relation space for semi-supervised fault diagnosis of gearbox. Chinese Journal of Scientific Instrument, 2021, 42(2): 55-65 [24] Savitzky A, Golay M J E. Smoothing and differentiation of data by simplified least squares procedures. Analytical Chemistry, 1964, 36(8): 1627-1639 doi: 10.1021/ac60214a047 [25] Nectoux P, Gouriveau R, Medjaher K, Ramasso E, Morello B, Zerhouni N, et al. PRONOSTIA: An experimental platform for bearings accelerated degradation tests. In: Proceedings of the IEEE International Conference on Prognostics and Health Management. Denver, USA: IEEE, 2012. 1−8 [26] Soualhi A, Medjaher K, Zerhouni N. Bearing health monitoring based on hilbert–huang transform, support vector machine, and regression. IEEE Transactions on Instrumentation and Measurement, 2015, 64(1): 52-62 doi: 10.1109/TIM.2014.2330494 [27] Singleton R K, Strangas E G, Aviyente S. Extended kalman filtering for remaining-useful-life estimation of bearings. IEEE Transactions on Industrial Electronics, 2015, 62(3): 1781-1790 doi: 10.1109/TIE.2014.2336616 [28] 周哲韬, 刘路, 宋晓, 陈凯. 基于Transformer模型的滚动轴承剩余使用寿命预测方法. 北京航空航天大学学报, 2023, 49(2): 430-443Zhou Zhe-Tao, Liu Lu, Song Xiao, Chen Kai. Remaining useful life prediction method of rolling bearing based on transformer model. Journal of Beijing University of Aeronautics and Astronautics, 2023, 49(2): 430-443 [29] Hinchi A Z, Tkiouat M. Rolling element bearing remaining useful life estimation based on a convolutional long-short-term memory network. Procedia Computer Science, 2018, 127: 123-132 doi: 10.1016/j.procs.2018.01.106 期刊类型引用(2)
1. 李田，王萨. 基于语义分析的LSTM神经网络的语言模型优化研究. 自动化与仪器仪表. 2025(01): 343-346+354 . 
百度学术2. 刘国，易声超，向景勋，吴文洲. 轮毂轴承失效模式与剩余寿命预测研究. 专用汽车. 2023(07): 56-58 . 百度学术其他类型引用(9)
-
下载:
计量
- 文章访问数: 1148
- HTML全文浏览量: 647
- PDF下载量: 262
- 被引次数: 11
