Modified Robust Covariance Intersection Fusion Steady-state Kalman Predictor for Uncertain Systems
-
摘要: 针对带随机参数和噪声方差两者不确定性的线性离散多传感器系统，利用虚拟噪声补偿随机参数不确定性，原系统可转化为仅带不确定噪声方差的系统.根据极大极小鲁棒估值原理，用Lyapunov方程方法提出局部鲁棒稳态Kalman预报器及其误差方差最小上界，并利用保守的局部预报误差互协方差，提出改进的鲁棒协方差交叉（Covariance intersection，CI）融合稳态Kalman预报器及其误差方差最小上界.克服了原始CI融合方法要求假设已知局部估值及它们的保守误差方差的缺点和融合误差方差上界具有较大保守性的缺点.证明了鲁棒局部和融合预报器的鲁棒性，并证明了改进的CI融合器鲁棒精度高于原始CI融合器鲁棒精度，且高于每个局部预报器的鲁棒精度.一个仿真例子验证了所提出结果的正确性和有效性.
-
关键词:
- 不确定系统 /
- 协方差交叉融合 /
- 极大极小鲁棒Kalman预报器 /
- 虚拟噪声 /
- Lyapunov方程方法
Abstract: For linear discrete time multisensor systems with both stochastic parameter and noise variance uncertainties, the stochastic parametric uncertainty can be compensated by a fictitious noise, so the original system can be converted into the one with only uncertain noise variances. Based on the minimax robust estimation principle, the local robust steady-state Kalman predictors and the minimal upper bounds of their error variances are presented using the Lyapunov equation approach, and a modified robust covariance intersection (CI) fusion steady-state Kalman predictor and the minimal upper bound of its error variances are presented using the cross-covariances of the conservative local prediction errors. They overcome the disadvantages of the original CI fuser that the local estimates and their conservative error variances are assumed to be known, and the upper bound of fused estimation error variances has large conservativeness. The robustness of the robust local and fused predictors is proved, and it is proved that the robust accuracy of the modified CI fuser is higher than that of the original CI fuser and that of each local predictor. A simulation example shows the correctness and effectiveness of the proposed results. -
众所周知, 聚类, 支持向量机及神经元网络等常见分类方法都属于浅层分类方法, 在处理蕴藏隐含信息的样本分类问题方面还存在不足.传统的聚类方法对于高维数据来说, 数据样本较低维数据聚类时分布更为稀疏, 且每个数据间的距离都可能相当, 因此难以找到聚类中心, 从而不容易进行分类[1]; SVM属于有监督学习算法, 在处理小样本分类时有一定优势, 然而该方法过于依赖样本数据尺度, 且算法复杂度较高.并且SVM中核函数的选择往往决定了分类的精度和收敛速度, 分类结果存在不确定性[2]; 此外, 由于神经网络缺乏预训练机制, 难以深度挖掘数据中的隐含信息[3].然而深度学习方法以"无监督训练-有监督调解全局网络参数"的框架, 从理论上避免了传统神经元网络易陷入局部极值的缺点[4], 且在挖掘数据隐含信息方面具有独特优势, 尤其是在面临大规模样本数据的时候, 有更加突出的表现.常见的深度学习分为自动编码器, 卷积神经网络和深度置信网络等模型.通过查阅文献, 深度置信网络建模方法在图像处理[5-6]、软测量技术[7]、计算智能[8]等诸多领域得到成功应用, 建模精确度普遍有所提升, 上述理论的成功应用, 为构建基于高维数据非线性特征提取的深度置信网络分类器提供了重要的理论和方法支撑.值得一提的是, 面向含非线性特征的高维数据的深度置信网络建模问题, 信息量上的冗余往往给网络带来不必要的负荷.因此预先对样本数据做特征提取十分必要.
过程变量的特征提取的目的是找到数据之间的线性以及非线性关系表达, 而后利用提取的低维特征数据表征原有的高维数据.故数据之间的线性以及非线性关系的提取是提取特征的关键.常见的过程数据特征提取方法有主成分分析方法(PCA), 独立主元分析(ICA), 偏最小二乘法(PLS)等.其中, PCA利用高斯分布数据的特征, 将数据映射到正交的低维子空间上, 保留数据的特征[9]; ICA根据已经存在的统计值, 进行独立主成分正交变换[10]; PLS利用线性拟合对多变量建模, 减少变量个数[11].以上方法在数据满足高斯分布和有线性关系的情况下适用, 且效果很好, 但是, 在一类多变量数据且变量分布不定, 且存在非线性关系时, 以上方法并不奏效.所以, 本文应用一类基于输入训练神经网络表征非线性主元分析的方法, 旨在解决在多变量过程中的非线性特征提取问题, 并且实现数据降维, 为后续构建一类新的深度置信网络提供数据预处理的方法支撑.
空气固体细微污染物PM2.5的形成, 受众多复杂因素影响(已知影响因素超过20种)[12-13].就产生过程而言, PM2.5可以由污染源直接排出(称为一次粒子), 也可以是各污染源排出的气态污染物经过冷凝或在大气中发生复杂的化学反应而生成(称为二次粒子).特别地, 在已知的众多理化因素中, 有别于湿度、风速、降雨等, O$_3$属于驱散因子, 其浓度与PM2.5浓度之间呈指数衰减规律, 此外, 其他因素(光照等)与PM2.5浓度的关系还有待探索[14].因此, PM2.5浓度预测是一类典型的数据维度高, 且数据含非线性特征的建模问题, 传统的基于浅层学习的数据驱动建模方法[15-17]在预测精度上还有待提升, 且不具备对PM2.5浓度影响因素进行诊断的功能.
受上述讨论启发, 针对过程变量数据维数高, 且含复杂非线性特征, 数据间隐含信息难以利用等特点, 本文提出一类基于非线性特征提取的深度置信网模型, 旨在解决高维数据非线性特征提取以及数据特征中隐含信息挖掘的问题, 并对影响模型输出的关键变量进行诊断.最后, 以一类具体的多变量建模和诊断问题讨论所提方法的应用.本文结构安排如下:第1节展示了基于非线性特征提取的深度置信网络的建模过程; 第2节基于信息熵理论, 对改进后的深度置信网络的建模复杂度优势进行论证; 第3节以河北省某市的PM2.5监测数据为对象, 验证本文所提方法的有效性; 第4节给出结论与工作展望.
1. 基于非线性特征提取的深度置信网络
本节提出一类基于非线特征提取的深度置信网网络模型.基于非线性PCA提取原始数据特征, 实现数据预处理.同时计算各变量的统计量, 作为影响因素诊断依据.同时, 将预处理后的数据作为深度置信网的输入以构建预测模型.改进的深度置信网络结构在下文中具体介绍.
1.1 数据预处理
高维多变量过程数据(维度为$N$)之间存在的线性关系可以利用主成分分析的方法, 进行数据特征提取, 实现降维目的.然而, 数据之间存在复杂的非线性关系时, 理论上同样可以利用$A$个主元($A<N$)就可以反映出过程的主要信息.非线性PCA就是一种对${X}$的估计量${\hat{X}}$的非线性表示即:
$ \begin{equation} {X}={\hat{X}}+{E}=F({T_N})+{E} \end{equation} $
(1) 其中, $\hat{X}$是$X$的估计矩阵, ${E}$是残差矩阵, $F(\cdot)$是一个非线性函数, ${T_N}$我们称之为非线性主元得分矩阵.基于Tan等提出的输入训练(Input-training, IT)神经网络的方法[18].本文将IT网络的输入作为非线性主元得分矩阵, IT网络的输出作为原始样本的估计值, 网络调节权值的时候, 不仅调节网络内部的参数, 输入也随之变换.当网络训练完成的时候, 便可以得到${T_N}$, 同时也得到了非线性函数$F(\cdot)$.本文采用三层的输入训练网络, 如图 1所示.
整体网络采用快速下降法调节网络间的连接权值.网络的目标函数为$J$:
$ \begin{eqnarray*} J=\frac{1}{2}\sum\limits_{j=1}^{N}\sum\limits_{i=1}^{M}(X_{ij}-{\hat{X}}_{ij})^2=\frac{1}{2}\sum\limits_{j=1}^{N}{e}^2_j \end{eqnarray*} $
(2) $i$表示变量的维度, $j$表示输出数据的组数, $e_j$则表示每组训练数据的绝对误差.
1.2 深度置信网模型
深度学习是Hinton等在2006年提出的一种基于概率表达网络模型[19].深度学习的技术可以分为两部分:第一部分是利用无监督的学习来预训练每一层, 第二部分是全网络自上而下的微调权值.由于无监督的方式, 使用所有无标签数据, 所以过程变量包含监督学习所不能表达的隐含信息.本文所提出基于深度置信网的预测模型中, 网络输入是上一级降维后的非线性主元得分矩阵, 输出是预测分类结果.其网络结构如下图所示.本文采用三层的输入训练网络, 如图 1所示.
自上而下是多层的限制性玻尔兹曼机, 隐含层中每一层的输出, 作为下一层的输入.在这个训练阶段, 在可视层会产生一个向量${\pmb v} $, 通过它将值传递到隐层.反过来, 可视层的输入会去重构原始的输入信号[20].我们定义联合概率分布:
$ \begin{align} P({\pmb v}\mid {\pmb h})=\, &\dfrac{{\rm exp}(-E({\pmb v}, {\pmb h}))}{{\pmb z}}= \nonumber\\ &\dfrac{1}{{\pmb z}}\prod\limits_{ij}{\rm e}^{W_{ij}v_ih_j}\prod\limits_{i}{\rm e}^{b_iv_j}\prod\limits_{j}{\rm e}^{a_jh_j} \end{align} $
(3) 其中${\pmb z}$为:
$ \begin{equation} {\pmb z}=\sum\limits_{{\pmb h}, {\pmb v}}{\rm exp}(-E({\pmb v}, {\pmb h})) \end{equation} $
(4) $v_i$表示可视层第$i$个节点的输出, $h_j$表示隐含层第$j$个节点的输出.整体网络的参数$\theta=\{W, a, b\}$, $W$是权值参数$a$和$b$分别表示可视层和隐含层的偏置变量.给定可视层的前提下, 隐含层的概率为:
$ \begin{align} P({\pmb h}\mid{\pmb v})=\, &\prod\limits_{j}p(h_j\mid {\pmb v})p(h_j=1\mid {\pmb v})= \nonumber\\ & \dfrac{1}{1+{\rm exp}(\sum\limits_{i}W_{ij}v_i-a_j)} \end{align} $
(5) 这样我们就建立了可视层与隐含层之间的概率表示.同样的, 隐含层之间的概率可表示为:
$ \begin{align} P({\pmb v}, h_1, &h_2, h_3)=\nonumber \\ &P({\pmb v}\mid h_1)P(h_1\mid h_2)P(h_2 \mid h_3)\end{align} $
(6) 对于RBM的学习算法我们采用梯度衰减法.可视层表达的是输入数据的特征, 所以学习算法的目标函数是将可视层的概率最大化.所以有如下最大似然的概率表示:
$ \begin{align} \frac{\partial {\rm log_e}P({\pmb v})}{\partial \theta }=\, &\frac{\partial {\rm log_e}\sum\limits_{\pmb h}P({\pmb v}, {\pmb h})}{\partial \theta}=\nonumber\\ & \frac{\sum\limits_{\pmb h}{\rm e}^{-energy({\pmb v}, {\pmb h}) \frac{\partial(-energy({\pmb v}, {\pmb h}) }{\partial \theta}}}{\sum\limits_{\pmb h}-energy({\pmb v}, {\pmb h}))} - \nonumber\\ & \frac{\sum\limits_{\pmb v}\sum\limits_{\pmb h}{\rm e}^{(-energy({\pmb v}, {\pmb h})\frac{\partial energy({\pmb v}, {\pmb h}) }{\partial \theta})} }{\sum\limits_{\pmb v}\sum\limits_{\pmb h}(-energy({\pmb v}, {\pmb h}))} \end{align} $
(7) 对于标准化的高斯RBM,
$ \begin{align} energy({\pmb v}, {\pmb h})= \frac{1}{2}{\pmb v}^{\rm T}{\pmb v}-{ a}^{\rm T}{\pmb v}-{ b}^{\rm T}{\pmb h}-{\pmb h}^{\rm T}W{\pmb v}\nonumber\end{align} $
得到:
$ \begin{align} \frac{\partial P({\pmb v})}{\partial \theta }=\, &\sum\limits_{\pmb h}P({\pmb h}\mid {\pmb v}) \frac{\partial (-energy({\pmb v}, {\pmb h}) )}{\partial \theta}-\nonumber\\ & \sum\limits_{\pmb v}\sum\limits_{\pmb h}P({\pmb v}, {\pmb h})\frac{\partial (-energy({\pmb v}, {\pmb h})) }{\partial \theta} \end{align} $
(8) 由以上的表达式中, 我们可以将前一部分定义为激励部分, 表示为$v$节点的期望值表示; 后一部分作为抑制部分, 表示在联合概率下的期望表示.
1.3 影响因素诊断
在完成上述数据降维与非线性特征提取之后, 对影响因素进行诊断.其中, 本文采用偏导数表示该变量对${T_N}$变化的贡献率大小, 因此对于某一个数据$X_0$, 它对的贡献率[21] $K$为:
$ \begin{equation} K=\frac{\partial {T_N}}{\partial {X}}\mid _{{X=X_0}} \end{equation} $
(9) 1.4 改进的深度置信网络建模流程
基于非线性特征提取的深度置信网络的建立步骤为:
1) 通过机理确定变量.
2) 对输入数据进行移除异常值以及零均值归一化.
3) 设计IT网络以及深度置信网的网络结构.
4) 选择数据训练IT网络, 得到非线性PCA降维模型, 并计算各变量的统计量, 作为影响因素诊断依据.
5) 将降维数据输入深度置信网训练网络.
6) 用检测数据对整个模型进行检验.如果效果不满意, 则返回3).
整体分类器模型结构如图 3所示.
2. 深度置信网络复杂度分析
为深刻揭示本文所提改进型DBN在网络结构和算法复杂度方面的优势, 本节从如下两个方面进行分析:
1) 网络结构复杂度
信息熵的概念是1958年香农借鉴热力学上分子混乱程度来描述信息源含信息量的不确定度.从信息学的角度出发, 可以论证所提方法在优化网络结构上的优势, 采用隐含层的信息熵来体现网络的结构性和组织性[22].武妍等在论述提高网络泛化能力优化网络结构中提出通过正则化(惩罚函数)的方法, 来控制网络的"有效复杂度"[23]. Deco等通过构建基于互信息熵的正则函数, 来等效网络的"有效复杂度", 并进行网络结构优化.其中输入层和隐含层之间的互信息熵[24]定义为:
$ \begin{eqnarray*} H=-\sum\limits_{j=1}^Qc_j{\rm log}c_j+\frac{l}{P}\sum\limits_{l=1}^Q\sum\limits_{j=1}^Qc_{jl}{\rm log}c_{jl} \end{eqnarray*} $
(10) 其中, $P$为输入样本数, $Q$为隐含层节点数, $c_{jl}$为第$l$个样本对第$j$个隐含单元的归一化输出, $c_j$为平均值.熵的单位取决于定义用到对数的底, 当底数为2, 熵的单位是bit; 当底数为e, 熵的单位是nat; 而当底数为10, 熵的单位是Hart.
定理1. 面向具有相同特征的样本数据设计的两个训练深度网络net1和net2, 若网络"有效复杂度"相同($H_{\rm net1}$=$H_{\rm net2}$), 当网络的输入层节点$P_{\rm net1}$ $<$ $P_{\rm net2}$时, 则有, 网络的隐含层节点总和$Q_{\rm net1}$ $<$ $Q_{\rm net2}$.
证明. 假设原DBN网络(net1)的互信息熵函数已是最小化, 其中第一层RBM完全反映了输入层和隐含层的互信息.根据信息熵原理, 则有[25]:
$ \begin{eqnarray*} -\sum\limits_{j=1}^Qc_j{\rm log}c_j=-\sum\limits_{j=1}^{Q_l}\frac{l}{Q_l}{\rm log}\frac{l}{Q_l}={\rm log}Q_l \end{eqnarray*} $
(11) $Q_l$代表隐含层第一层的节点数.将式(11)代入式(10)中可得:
$ \begin{equation} H={\rm log}Q_l+\frac{l}{P}\sum\limits_{l=1}^{P}\sum\limits_j^{Q_l}c_{jl}{\rm log}c_{jl} \end{equation} $
(12) 基于DBN原理, 本文提出的改进型DBN网络(net2)应使每一个RBM都能完全重构输入变量, 因此, 也应使所有互信息熵最小化, 则有改进方法后的互信息熵为$H'$:
$ \begin{equation} H'={\rm log}Q'_l+\frac{l}{P'}\sum\limits_{l=1}^{P'}\sum\limits_{j'}^{Q'_l}c_{j'l}{\rm log}c_{j'l} \end{equation} $
(13) 又因为, 如完全重构原始输入变量, (由于假设NPCA完全提取了原来样本数据中的特征信息, 因此, net2中第一层RBM依然为求解隐含层节点到原始样本信息的映射关系), 则必有:
$ \begin{equation} \sum\limits_{j'}^{Q'_l}c_{j'l}{\rm log}c_{j'l}=\sum\limits_j^{Q_l}c_{jl}{\rm log}c_{jl} \end{equation} $
(14) 此外, 因为同样满足互信息熵最小化, (对于同一样本数据, 我们采用同种DBN网络结构进行信息映射时, "有效复杂度"应该相等.也就是正则函数相等), 即$H=H'$, 因此当$P'\leq P$时, 则必有$Q'_l\leq Q_l$.同理, 后续隐含层之间的RBM节点个数同样具有此规律.因此可得, $Q_{\rm net2}=Q'_1+Q'_2+\cdots+Q'_n\leq Q_{\rm net1}=Q_1+Q_2+\cdots+Q_n$ ($n$为网络的隐含层总层数).综上可以得到改进后的网络总节点存在$S_{\rm net1}<S_{\rm net2}$.
2) 算法复杂度分析
算法的复杂度就是对算法计算所需要的时间和空间的一种度量[25].一般将算法的复杂度分为时间复杂度和空间复杂度.时间复杂度是以算法结构主体执行循环次数为依据, 空间复杂度以程序主体占据空间为依据[26].一个算法中的语句执行次数称为语句频度或时间频度, 记为$T(n)$, 若有某个辅助函数$f(n)$, 使得当$n$趋近于无穷大时, $T(n)/f(n)$的极限值为不等于零的常数, 则称$f(n)$是$T(n)$的同数量级函数, 记作$T(n)={\rm O}(f(n))$, 称${\rm O}(f(n))$为算法的渐进时间复杂度, 简称时间复杂度.用O代表一个算法的计算复杂度, 算法中的循环语句是算法的主体, 若算法中含有并列的算法, 则将并列的算法复杂度相加.例如:
for $i=1:n$
$x=x+1;$
end
for $i=1:n$
for $j=1:n$
$x=x+1;$
end
end
第一个for循环的复杂度为O$(n)$, 第二个循环的复杂度为O$(n2)$, 则整个算法的复杂度为O$(n+n2)={\rm O}(n2)$.
定理2. 假设存在一个DBN网络, 其结构为含有$n$层隐含层, 隐含层节点数为$[h_1, h_2, \cdots, h_n]$.则存在一类基于ITNN神经网络的非线性特征提取机制的DBN (假设该机制可以有效保证数据的互信息熵不变), 当DBN主结构的节点数可以减小到$[h_1', h_2', \cdots, h_n']$, 预处理IT网络部分隐含层节点数为$h_0$, 且满足ITNN的隐含层节点数$h_0<\beta$, 则有:改进后DBN的时间复杂度降低小于原DBN.其中,
$ \begin{equation} \beta =\prod\limits_{1}^{n}h_n-\prod\limits_{1}^{n}h'_n \end{equation} $
(15) 证明.
1) 传统DBN算法的伪代码如下:
for (1:DBN的隐含层第一层节点数$h_1$)
for (1:DBN的隐含层第二层节点数$h_2$)
$\cdots$
for (1:DBN的隐含层第$n$层节点数$h_n$)
计算网络的目标函数是否符合要求
end
$\cdots$
end
end
所以DBN的复杂度为O(DBN)= $\prod_{1}^{n}h_n$
2) NPCA-DBN算法的伪代码如下:
for (1:NPCA的隐含层节点数$h_0$)
计算输入训练网络的目标函数是否符合要求
end
for (1:DBN的隐含层第一层节点数$h_1'$)
for (1:DBN的隐含层第二层节点数$h_2'$)
$\cdots$
for (1:DBN的隐含层第$n$层节点数$h_n'$)
计算网络的目标函数是否符合要求
end
$\cdots$
end
end
故所提算法的复杂度为O(NPCA-DBN)$=h0+\prod_{1}^{n}h'_n$若$h0<\prod_{1}^{n}h_n-\prod_{1}^{n}h'_n$, 则有: O(NPCA-DBN)-O(DBN)\, $<$\, 0, 即改进型DBN的时间复杂度降低.此外, 由于改进型DBN降低了原DBN结构中的隐含层节点数, 则有效降低算法的空间复杂度. \hfill$\square$ \section{实例研究} PM2.5预测和影响因素诊断涉及的变量众多, 而且影响变量之间多存在关联, 本节给出了PM2.5浓度预测与超标影响因素诊断方法并进行了数值验证.
3. 实例研究
PM2.5预测和影响因素诊断涉及的变量众多,而且影响变量之间多存在关联,本节给出了PM2.5浓度预测与超标影响因素诊断方法并进行了数值验证.
3.1 PM2.5的预测和影响因素诊断方法
基于第二节所提混合分类器模型, 选用相关污染物和气象因素作为输入, 提取主元非线性特征之后, 输入深度置信网, 来进行预测, 并根据统计量信息诊断PM2.5浓度超标原因.算法建立的步骤如下:
1) 选择历史数据, 并建立非线性PCA和深度置信网的模型.
2) 训练模型.
3) 检测模型效果.
4) 得出预测及诊断结果.
如图 4所示.
图 4 PM2.5预测诊断流程图Fig. 4 The flow chart of PM2.5 concentration$'$s prediction and diagnosis3.2 数据来源
为验证本文混合模型的有效性, 采取河北省某市地表水厂, 华电二区和胶片厂三个检测点于2014年11月至2015年4月间的监测数据作为实验数据.其中, 为分析检测数据, 依据文献[27]选取相关污染物如: PM10, SO$_2$, NO, CO, O$_3$, 气象数据如:风速, 风向, 温度, 湿度, 相关空气指数数:空气指数AQI.实验采用500个训练样本, 100个检测样本, 模型训练次数设置为50 000次.
3.3 PM2.5浓度预测
1) 网络结构
基于本文所提出的改进DBN模型, 利用历史数据, 进行PM2.5的浓度预测, 本文采用实验的方式获得模型的结构, 并与传统的预测DBN模型进行对比.在参考其他文献以及经验规则的基础上, 通过实验获得改进DBN的网络结构, 如图 5所示.
图 5中: xx-xx-xx为隐含层的结构, 代表DBN三层主结构中的隐含层和内部节点分配.可见试验后得到DBN主结构隐含层的节点数结构为10-6-6为本次使用的网络结构, 其中数据预处理阶段采用的浅层学习网络采用试验方法得到有一层隐含层节点, 非线性节点数为10.对比传统DBN网络结构, 两者间的对比关系如表 1所示.
表 1 网络结构对比Table 1 The comparison of the network structure模型 结构 隐含层节点数 总节点数 算法总空间复杂度 NPCA-DBN (6-10-10) + (6-10-6-6-1) 32 55 $6\times 10\times 10+6\times 10\times 6\times 6\times 1$ DBN 10-12-10-10-1 32 43 $10\times 12\times 10\times 10$ 其中(6-10-10) + (6-10-6-6-1)代表网络整体结构, 对于预处理阶段的浅层网络有6-10-10的网络结构, DBN主结构的输入层为6个节点, 隐含层为三层, 第一层是10个节点, 第二层和第三层为6个节点, 一个输出的结构, 由于改进的DBN的两部分的节点不在同一个网络嵌套中, 故为两个部分的复杂度相加.由上表我们可以清楚地看出改进的DBN模型在主结构中的深层网络中, 大大减少了非线性节点的个数, 从而在算法复杂度上实现数量级上的减小.
2) 建模精度对比实验
预测阶段采用检测输出的平均相对误差MRE (Mean relative error)来表示预测的精度.
$ \begin{equation} {\rm MRE}=\frac{\sum\limits_{j=1}^{m}\left(\frac{\left |X_{obs, j}-X_{exp, j} \right |} {X_{exp, j}}\right)}{m} \end{equation} $
(16) 其中, $m$是检测数据的样本数. $X_{obs, j}$表示检测数据的输出值, $X_{exp, j}$表示检测数据的真值.平均相对误差反映出了在预测上偏离真值的平均水平.为清晰展现本文所提DBN的优势, 以华电二区监测点为例, 图 6和图 7分别给出了改进DBN与传统的DBN、SVM和PLS在预测效果上的对比结果和建模误差趋势.
图 6 华电二区的预测效果对比图Fig. 6 The comparison in the second area of Huadian with different structures在图 6中, 横坐标为监测数据的100个采样点, 纵坐标为PM2.5的浓度.其中*代表模型输出的预测值, o代表实际值.我们可以直观地看出, 改进DBN的模型预测效果更佳, 同时比传统的分类方法在精度上有所提升.
图 7中横坐标代表 100个监测时间点, 纵坐标代表各个预测值的相对误差.由图 6和图 7可以清晰地展现出, 改进DBN模型的预测精度并没有因为降低输入的维度而降低.通过对比分析, 我们可以得到:首先, 传统DBN没有经过降维预处理, 预测精度不高; 另外, 由于DBN在处理海量数据建模时有显著的优势, 而本实验训练样本为500个, 因此, 所提改进的DBN在预测精度上与SVM提升不明显; 其次, 与ANN(BP)方法对比, 是因为BP只有一个隐含层, 属于浅层学习, 训练网络深度不足; 最后, PLS适用于处理线性模型的预测问题, 对非线性关系的建模精度欠佳.此外, 基于多种非线性特征提取机制下的复合分类预测方法, 表 2给出了该市地表水厂, 华电二区和胶片厂周边PM2.5浓度的建模精度和收敛速度对比.
表 2 建模精度与收敛速度对比Table 2 The comparison of the network structure监测点 指标 NPCA-DBN NPCA-ANN NPCA-SVM NPCA-PLS DBN ANN SVM PLS 地表 MRE ($\times10^{-2}$) 13.32 22.21 13.14 26.82 17.92 23.40 12.19 24.54 水厂 训练时间(s) 44 16 180 46 89 33 349 94 华电 MRE ($\times10^{-2}$) 14.57 25.15 13.04 29.48 17.01 24.16 10.22 27.16 二区 训练时间(s) 37 12 211 49 90 38 401 103 胶片 MRE ($\times10^{-2}$) 10.51 26.49 11.09 33.16 12.77 23.32 12.73 30.06 厂 训练时间(s) 42 16 198 57 108 42 399 108 由表 2我们可以得到, 本文所提改进DBN在建模精度和收敛速度上都有较大提升, NPCA数据预处理算法通过提取数据之间的非线性特征, 得到原有数据的非线性表达, 对于网络化表达的机器学习算法可以提高建模精度, 并降低训练时间.特别的, 同样采用NPCA数据预处理机制的复合分类方法, 对于基于线性化拟合的浅层学习算法随着训练时间的降低, 建模精度有所下降.
3.4 PM2.5浓度影响因素诊断
基于所提出改进DBN的影响因素诊断方法, 在实验中, 我们将空气质量指数, PM10浓度, SO$_2$、CO、NO$_2$、O$_3$气体浓度, 风向, 风速, 相对湿度, 温度等10个过程变量作为诊断部分的输入变量.由于该地区的特殊性, 在4 000多次的采样数据中, 有二分之一采样点数据的PM2.5浓度都高于$100\, {\rm \mu g/m^3}$, 所以, 为了展现模型对PM2.5影响因素诊断结果, 我们实验设置的PM2.5预测限为$200{\rm \mu g/m^3}$, 即处于重度污染的情况下, 计算输入变量中对于结果的贡献率[28].并用贡献图的方式表达影响因素诊断结果.我国对PM2.5浓度级别划分如表 3所示[29].
表 3 PM2.5浓度级别Table 3 The PM2.5 concentration level浓度范围(${\rm \mu g/m^3}$) 级别 优良级别 0$\, \sim\, $50 1级 优 50$\, \sim\, $100 2级 良 101$\, \sim\, $150 3级 轻度污染 151$\, \sim\, $200 4级 中度污染 201$\, \sim\, $ 5级 重度污染 在历史数据中选定所有未超限数据对应的输入, 求平均水平代表未超限数据组合作为参考输入变量集: reference (152, 168, 63, 1.55, 50, 42, 163, 2.26, 0.63, 3.88)针对华电二区监测区域, 在图 8中, 我们以超限组第20组贡献图为例说明诊断过程.
图 8 华电二区超限数据贡献图Fig. 8 The contribution chart of the overrun data in the second area of Huadian由贡献图可以看出, 第七个变量对结果的贡献最大.我们观察验证第83组数据输入变量集为: $X_{20}= $ (179, 207, 79, 1.78, 73, 177, 266, 3.07, 0.44, 7.34)第6个变量的相对偏差为最大, 因此诊断结果为:造成此次污染物浓度过高的首要原因是风速的原因.
3.5 小结
从上述实验可以看出, 本文提出的改进的DBN模型在预测效果上并没有使精度降低, 同时, 加快了模型的收敛速度.并且在超标诊断中, 平均超标检测率达到$85\, \%$, 能够有效地诊断出PM2.5浓度超标的主要因素.
4. 结论
本文提出的基于非线性特征提取的DBN模型能够有效完成含复杂非线性特征关系高维数据的预测建模诊断任务.基于信息熵理论, 证明了本文所提DBN模型相比传统DBN, 能够在不降低建模精度的同时, 达到降低网络和算法复杂度的优势, 对于深度学习理论在海量数据挖掘中的应用具有重要理论意义.将所提建模方法应用到一类PM2.5浓度预测与诊断问题中, 并与传统DBN、SVM、ANN、PLS等分类方法和含NPCA数据预处理机制的复合分类方法做了详细对比, 验证了所提方法的优势与正确性.需要说明的是, 本文采取基于数据驱动的方法对PM2.5进行浓度预测和影响因素诊断, 在PM2.5的形成机理上还未做过多的分析, 在未来的研究中将深入探讨PM2.5浓度变化机理.此外, 由于本文数据来源于特定城市的采样点, 因此在方法的适用性方面还要做深入的研究.下一步的工作将分为以下两部分进行: 1)理论方面, 面向深度置信网络结构本身的优化方法的研究, 研究自适应样本数据特征的网络模型结构. 2)应用方面, 尝试将所提方法应用到复杂流程工业的建模和诊断问题中.
-
图 1 基于协方差椭圆的局部和CI融合鲁棒Kalman预报器的矩阵不等式精度比较
Fig. 1 The comparison of matrix inequality accuracies of the local and CI fused robust Kalman predictors based on covariance ellipses
图 2 基于协方差椭圆原始的和改进的鲁棒CI融合Kalman预报器的矩阵不等式精度比较
Fig. 2 The comparison of matrix inequality accuracies of the original and modified CI fused robust Kalman predictors based on covariance ellipses
图 3 局部和CI融合鲁棒Kalman预报器的MSE曲线
Fig. 3 The MSE curves of the local and CI fused robust Kalman predictors
图 4 位置预报误差曲线和 $\pm 3\sigma _1$ 界
Fig. 4 The position prediction error curve and $\pm 3\sigma_1 $ bounds
图 5 速度预报误差曲线和 $\pm 3\sigma _2$ 界
Fig. 5 The velocity prediction error curve and $\pm 3\sigma _2 $ bounds
表 1 鲁棒Kalman预报器的鲁棒和实际精度比较
Table 1 The comparison of robust and actual accuracies of robust Kalman predictors
${\mathop{\rm tr}\nolimits} {\bar \Sigma _1}$ ${\mathop{\rm tr}\nolimits} {\Sigma _1}$ ${\mathop{\rm tr}\nolimits} {\bar \Sigma _2}$ ${\mathop{\rm tr}\nolimits} {\Sigma _2}$ ${\mathop{\rm tr}\nolimits} {\bar \Sigma _{{CI}}}$ ${\mathop{\rm tr}\nolimits} {\Sigma _{{CI}}}$ ${\mathop{\rm tr}\nolimits} \Sigma _{{CI}}^*$ 1.6267 2.1690 1.4425 2.3544 0.8158 1.1437 1.8751 
下载: 导出CSV
-
[1] Liggains M E, Hall D L, Llinas J. Handbook of Multisensor Data Fusion:Theory and Practice (Second Edition). Boca Raton, FL:CRC Press, 2009. [2] Julier S J, Uhlmann J K. General decentralized data fusion with covariance intersection. Handbook of Multisensor Data Fusion:Theory and Practice (Second Edition). Boca Raton, FL:CRC Press, 2009.319-342 [3] Hajiyev C, Soken H E. Robust adaptive Kalman filter for estimation of UAV dynamics in the presence of sensor/actuator faults. Aerospace Science and Technology, 2013, 28(1):376-383 doi: 10.1016/j.ast.2012.12.003 [4] Ménec S L, Shin H S, Markham K, Tsourdos A, Piet-Lahanier H. Cooperative allocation and guidance for air defence application. Control Engineering Practice, 2014, 32:236-244 doi: 10.1016/j.conengprac.2014.02.011 [5] Feng J X, Wang Z D, Zeng M. Distributed weighted robust Kalman filter fusion for uncertain systems with autocorrelated and cross-correlated noises. Information Fusion, 2013, 14(1):78-86 doi: 10.1016/j.inffus.2011.09.004 [6] Deng Z L, Zhang P, Qi W J, Gao Y, Liu J F. The accuracy comparison of multisensor covariance intersection fuser and three weighting fusers. Information Fusion, 2013, 14(2):177-185 doi: 10.1016/j.inffus.2012.05.005 [7] Julier S J, Uhlmann J K. A non-divergent estimation algorithm in the presence of unknown correlations. In:Proceedings of the 1997 American Control Conference. Albuquerque, NM:IEEE, 1997.2369-2373 http://cn.bing.com/academic/profile?id=2017642774&encoded=0&v=paper_preview&mkt=zh-cn [8] Uhlmann J K. Covariance consistency methods for fault-tolerant distributed data fusion. Information Fusion, 2003, 4(3):201-215 doi: 10.1016/S1566-2535(03)00036-8 [9] Julier S J, Uhlmann J K. Using covariance intersection for SLAM. Robotics & Autonomous Systems, 2007, 55(1):3-20 http://cn.bing.com/academic/profile?id=2006832107&encoded=0&v=paper_preview&mkt=zh-cn [10] Deng Z L, Zhang P, Qi W J, Liu J F, Gao Y. Sequential covariance intersection fusion Kalman filter. Information Sciences, 2012, 189(7):293-309 http://cn.bing.com/academic/profile?id=1984609538&encoded=0&v=paper_preview&mkt=zh-cn [11] Sijs J, Lazar M. State fusion with unknown correlation:ellipsoidal intersection. Automatica, 2012, 48(8):1874-1878 doi: 10.1016/j.automatica.2012.05.077 [12] de Campos Ferreira J C B, Waldmann J. Covariance intersection-based sensor fusion for sounding rocket tracking and impact area prediction. Control Engineering Practice, 2007, 15(4):389-409 doi: 10.1016/j.conengprac.2006.07.002 [13] Gao Q, Chen S Y, Leung H, Liu S T. Covariance intersection based image fusion technique with application to pansharpening in remote sensing. Information Sciences, 2010, 180(18):3434-3443 doi: 10.1016/j.ins.2010.05.010 [14] 齐文娟, 张鹏, 邓自立. 带观测滞后和不确定噪声方差的多智能体传感网络鲁棒序贯协方差交叉融合Kalman滤波. 自动化学报, 2014, 40(11):2632-2642 doi: 10.1016/S1874-1029(14)60410-9Qi Wen-Juan, Zhang Peng, Deng Zi-Li. Robust sequential covariance intersection fusion Kalman filtering over multi-agent sensor networks with measurement delays and uncertain noise variances. Acta Automatica Sinica, 2014, 40(11):2632-2642 doi: 10.1016/S1874-1029(14)60410-9 [15] Lazarus S B, Tsourdos A, Zbikowski R, Nabil A, White B A. Robust localisation using data fusion via integration of covariance intersection and interval analysis. In:Proceedings of the 2007 International Conference on Control, Automation and Systems. Seoul, Korea:IEEE, 2007.199-206 [16] Qi W J, Zhang P, Deng Z L. Robust weighted fusion Kalman filters for multisensor time-varying systems with uncertain noise variances. Signal Processing, 2014, 99:185-200 doi: 10.1016/j.sigpro.2013.12.013 [17] Qi W J, Zhang P, Nie G H, Deng Z L. Robust weighted fusion Kalman predictors with uncertain noise variances. Digital Signal Processing, 2014, 30:37-54 doi: 10.1016/j.dsp.2014.03.011 [18] Qi W J, Zhang P, Deng Z L. Robust weighted fusion time-varying Kalman smoothers for multisensor system with uncertain noise variances. Information Sciences, 2014, 282:15-37 doi: 10.1016/j.ins.2014.06.008 [19] Qi W J, Zhang P, Deng Z L. Weighted fusion robust steady-state Kalman filters for multisensor system with uncertain noise variances. Journal of Applied Mathematics, 2014, 2014:Article ID 369252 http://cn.bing.com/academic/profile?id=2056593946&encoded=0&v=paper_preview&mkt=zh-cn [20] Sriyananda H. A simple method for the control of divergence in Kalman-filter algorithms. International Journal of Control, 1972, 16(6):1101-1106 doi: 10.1080/00207177208932342 [21] Lewis F L, Xie L H, Popa D. Optimal and Robust Estimation (Second Edition). New York:CRC Press, 2007.315-340 [22] Qu X M, Zhou J. The optimal robust finite-horizon Kalman filtering for multiple sensors with different stochastic failure rates. Applied Mathematics Letters, 2013, 26(1):80-86 doi: 10.1016/j.aml.2012.03.036 [23] 吴黎明, 马静, 孙书利. 具有不同观测丢失率多传感器随机不确定系统的加权观测融合估计. 控制理论与应用, 2014, 31(2):244-249 http://www.cnki.com.cn/Article/CJFDTOTAL-KZLY201402017.htmWu Li-Ming, Ma Jing, Sun Shu-Li. Weighted measurement fusion estimation for stochastic uncertain systems with multiple sensors of different missing measurement rates. Control Theory & Applications, 2014, 31(2):244-249 http://www.cnki.com.cn/Article/CJFDTOTAL-KZLY201402017.htm [24] 李娜, 马静, 孙书利. 带多丢包和滞后随机不确定系统的最优线性估计. 自动化学报, 2015, 41(3):611-619 http://www.aas.net.cn/CN/abstract/abstract18638.shtmlLi Na, Ma Jing, Sun Shu-Li. Optimal linear estimation for stochastic uncertain systems with multiple packet dropouts and delays. Acta Automatica Sinica, 2015, 41(3):611-619 http://www.aas.net.cn/CN/abstract/abstract18638.shtml [25] Liu W. Optimal filtering for discrete-time linear systems with time-correlated multiplicative measurement noises. IET Control Theory & Applcation, 2015, 9(6):831-842 http://cn.bing.com/academic/profile?id=2039747833&encoded=0&v=paper_preview&mkt=zh-cn [26] Liu W. Optimal estimation for discrete-time linear systems in the presence of multiplicative and time-correlated additive measurement noises. IEEE Transactions on Signal Processing, 2015, 63(17):4583-4593 doi: 10.1109/TSP.2015.2447491 [27] Li F, Zhou J, Wu D Z. Optimal filtering for systems with finite-step autocorrelated noises and multiple packet dropouts. Aerospace Science and Technology, 2013, 24(1):255-263 doi: 10.1016/j.ast.2011.11.013 [28] Zhang S, Zhao Y, Wu F L, Zhao J H. Robust recursive filtering for uncertain systems with finite-step correlated noises, stochastic nonlinearities and autocorrelated missing measurements. Aerospace Science and Technology, 2014, 39(39):272-280 http://cn.bing.com/academic/profile?id=2000347446&encoded=0&v=paper_preview&mkt=zh-cn [29] Tian T, Sun S L, Li N. Multi-sensor information fusion estimators for stochastic uncertain systems with correlated noises. Information Fusion, 2016, 27:126-137 doi: 10.1016/j.inffus.2015.06.001 [30] Carravetta F, Germani A, Raimondi M. Polynomial filtering of discrete-time stochastic linear systems with multiplicative state noise. IEEE Transactions on Automatic Control, 1997, 42(8):1106-1126 doi: 10.1109/9.618240 [31] Wang Z D, Yang F W, Ho D W C, Liu X H. Robust finite-horizon filtering for stochastic systems with missing measurements. IEEE Signal Processing Letters, 2005, 12(6):437-440 doi: 10.1109/LSP.2005.847890 [32] Wang S Y, Fang H J, Tian X G. Recursive estimation for nonlinear stochastic systems with multi-step transmission delays, multiple packet dropouts and correlated noises. Signal Processing, 2015, 115(2):164-175 http://cn.bing.com/academic/profile?id=2080231200&encoded=0&v=paper_preview&mkt=zh-cn [33] Yang F W, Wang Z D, Hung Y S. Robust Kalman filtering for discrete time-varying uncertain systems with multiplicative noises. IEEE Transactions on Automatic Control, 2002, 47(7):1179-1183 doi: 10.1109/TAC.2002.800668 [34] Luo Y T, Zhu Y M, Luo D D, Zhou J, Song E B, Wang D H. Globally optimal multisensor distributed random parameter matrices Kalman filtering fusion with applications. Sensors, 2008, 8(12):8086-8103 doi: 10.3390/s8128086 [35] Kailath T, Sayed A H, Hassibi B. Linear Estimation. New York:Prentice Hall, 2000.766-772 [36] de Koning W L. Optimal estimation of linear discrete-time systems with stochastic parameters. Automatica, 1984, 20(1):113-115 doi: 10.1016/0005-1098(84)90071-2 [37] Wang Z D, Ho D W C, Liu X H. Robust filtering under randomly varying sensor delay with variance constraints. IEEE Transactions on Circuits and Systems Ⅱ:Express Briefs, 2004, 51(6):320-326 doi: 10.1109/TCSII.2004.829572 [38] Anderson B D O, Moore J B. Optimal Filtering. Englewood Cliffs, NJ:Prentice Hall, 1979. http://www.oalib.com/references/16878535 [39] Wu T T, An J, Ding C S, Luo S X. Research on ellipsoidal intersection fusion method with unknown correlation. In:Proceedings of the 15th International Conference on Information Fusion. Singapore:IEEE, 2012.558-564 http://cn.bing.com/academic/profile?id=1708197474&encoded=0&v=paper_preview&mkt=zh-cn 期刊类型引用(6)
1. 王创，陈文杰，陈伟海，孙先涛，林岩. 适应人体重心起伏的悬吊减重康复系统设计. 北京航空航天大学学报. 2024(07): 2322-2330 . 
百度学术2. 徐丹，黎华茂，杨慧，卫星，刘曦明，丁然，黄礼群，许萌. 悬吊运动疗法在青年军人膝关节前交叉韧带重建同期半月板缝合术后康复中的作用. 创伤外科杂志. 2023(08): 579-585 . 百度学术3. 高海波，牛福亮，刘振，于海涛，李楠. 悬吊式微低重力环境模拟技术研究现状与展望. 航空学报. 2021(01): 80-99 . 百度学术4. 于宁波，邹武林. 有限频域约束下串联弹性驱动器的刚度控制. 控制理论与应用. 2019(05): 711-719 . 百度学术5. 张从鹏，李小龙，解毅. 动态减重康复机器人控制系统开发. 机械工程师. 2019(09): 14-16 . 百度学术6. 申琳. 国际平衡能力研究前沿热点分析与演进. 中国学校体育(高等教育). 2018(01): 56-60 . 百度学术其他类型引用(7)
-
下载:
计量
- 文章访问数: 2606
- HTML全文浏览量: 314
- PDF下载量: 1050
- 被引次数: 13
