-
摘要: 为了有效融合RGB图像颜色信息和Depth图像深度信息, 提出一种基于贝叶斯框架融合的RGB-D图像显著性检测方法.通过分析3D显著性在RGB图像和Depth图像分布的情况, 采用类条件互信息熵(Class-conditional mutual information, CMI)度量由深层卷积神经网络提取的颜色特征和深度特征的相关性, 依据贝叶斯定理得到RGB-D图像显著性后验概率.假设颜色特征和深度特征符合高斯分布, 基于DMNB (Discriminative mixed-membership naive Bayes)生成模型进行显著性检测建模, 其模型参数由变分最大期望算法进行估计.在RGB-D图像显著性检测公开数据集NLPR和NJU-DS2000上测试, 实验结果表明提出的方法具有更高的准确率和召回率.Abstract: In this paper, we propose a saliency detection model for RGB-D images based on the deep features of RGB images and depth images within a Bayesian framework. By analysis of 3D saliency in the case of RGB images and depth images, class-conditional mutual information (CMI) is computed for measuring the dependence of deep features extracted by CNN, then the posterior probability of the RGB-D saliency is formulated by applying the Bayes' theorem. By assuming that color- and depth-based deep features are Gaussian distributions, a discriminative mixed-membership naive Bayes (DMNB) model is used to calculate the final saliency map. The Gaussian distribution parameter can be estimated in the DMNB model by using a variational inference-based expectation maximization algorithm. The experimental results on the RGB-D image NLPR and NJU-DS2000 datasets show that the proposed model performs better than other existing models.
-
Key words:
- Bayesian fusion /
- deep learning /
- generative model /
- saliency detection /
- RGB-D images
-
高炉炼铁是钢铁工业的重要生产环节.由于工艺相对简单、产量大、劳动生产率高, 因而高炉炼铁仍是现代炼铁的最主要方式, 其产量约占世界生铁总产量的95%以上.如图 1所示, 现代化的高炉炼铁系统分为高炉本体、上料系统、送风系统、喷吹系统、煤气净化系统、渣铁处理系统和环保除尘系统等几个子系统[1-2].高炉炼铁时, 铁矿石、焦炭、溶剂按一定比例根据布料制度逐层从高炉顶部装载到炉喉位置.同时, 在高炉下部, 将预热的空气、氧气和煤粉通过热风口鼓入炉缸中.空气、氧气、煤粉和焦炭在高温作用下发生一系列复杂物理化学反应, 生成大量的高温还原性气体, 这些还原性气体不断向上运动将铁从铁矿石中还原出来.上行气体最终变为高炉煤气从炉顶回收, 而下行炉料则随着炉缸中焦炭的不断燃烧和铁水的不断滴落逐渐向下运动, 在下降过程中, 炉料经过加热、还原、熔化等一系列复杂的物理化学变化, 最终生成液态的铁水和炉渣从出铁口排出[1-4].高炉炼铁需要准确判断整个高炉运行态势, 及时调整相关操作制度(如布料制度、热风制度等)及工艺参数, 使炉内煤气分布合理、热量充分利用、渣铁顺利排放, 实现高炉生产的优质、高产、低耗和长寿运行.为了实现这一目标, 就应对高炉运行状态进行实时监测和有效控制.然而高炉内部冶炼环境极其严酷, 炉内温度高达2000多度, 压强高达标准大气压的4倍左右, 且伴随着固、液、气多相共存的状态, 使高炉内部状态的实时监测难以实现, 从而难以对高炉进行控制与操作优化[1, 5].目前, 被广泛用来间接反映高炉运行状态的指标为出铁口的铁水质量指标, 包括铁水温度(Molten iron temperature, MIT)、硅含量([Si])、磷含量([P])和硫含量([S]):
1) MIT是表征高炉热状态、能量消耗的重要指标. MIT过低不仅影响高炉顺行, 而且会影响后续转炉炼钢的运行性能, 增加生产成本.高炉生产操作时应及时掌握MIT及变化趋势, 预见性地采取调控措施, 这对于稳定高炉热制度、减少炉况波动以及提高生铁质量和降低焦比等具有重要意义.
2) 铁水[Si]是反映铁水化学热的重要指标.铁水[Si]过高, 渣量增加, 会使生铁变硬变脆, 收得率降低.另外, 高[Si]会使渣中SiO含量过高, 影响石灰渣化速度, 延长吹炼时间, 同时也会加剧对炉衬的冲蚀.因此, 必须对[Si]进行严格监视.
3) 硫和磷在钢材中均是有害元素, [S]过高会使铁硬脆, 产生热脆性和减低铁液流动性, 而[P]过高会加重炉衬的冲刷蚀损, 影响炉龄.因此, 在高炉冶炼过程中应严格监视铁水中的[S]和[P].
采用上述铁水质量指标作为高炉运行状态的评判指标可以较全面地了解高炉内部的运行状态, 为高炉日常操作与调节提供指导.然而, 现有检测技术难以对铁水质量指标进行直接在线测量, 且离线化验过程滞后时间较长, 通常为1小时左右.另外, 高炉炼铁是一个包含气、固、液三相混合和耦合交错, 物理化学反应极其复杂的过程, 其炉内环境极其恶劣, 导致操作人员难以对其运行状态的变化进行实时监测.因此有必要建立准确可靠的铁水质量模型来反映高炉当前和预期的铁水质量指标参数变化, 为现场操作人员提供炉况和铁水质量信息[1, 5-8].
目前常见的铁水质量模型有机理模型、知识推理模型和数据驱动模型三大类[5].机理模型在大量假设条件下, 依赖于高炉炼铁过程的冶炼机理, 从化学反应动力学和流体动力学的角度构建高炉内部反应场, 对反应场内的温度分布、物料运动状态等进行仿真[9-11].高炉炼铁是一个极为复杂、大时滞、高度耦合的非线性动态时变系统, 基于大量假设的机理模型难以用于实际高炉炼铁生产; 知识推理模型完全依赖于系统集成的有限专家知识, 无法应对复杂多样的实际高炉冶炼过程[12-13];数据驱动铁水质量智能建模不需要了解高炉内部发生的复杂机理, 仅通过数学工具和智能算法对运行数据进行处理而建立需要的铁水质量模型, 因而成为近年高炉炼铁过程建模研究的热点[1-5, 8].
现有数据驱动建模方法主要有多元统计分析方法[14-15]、神经网络(Neural network, NN)建模方法[8, 15-18]和支持向量回归(Support vector regression, SVR)建模方法[2, 3, 6-7, 19]等.其中, 神经网络是一种最常见的数据驱动建模方法, 它是对人脑神经系统进行抽象、简化和模仿所得到的复杂信息处理系统, 能够以任意精度逼近复杂非线性连续函数, 特别适用于处理高炉炼铁这种动态机理复杂、内部状态未知, 仅可获得过程的输入输出数据的复杂工业过程建模[16].常见的神经网络建模算法主要有BP-NN (BP neural network)和RBF-NN (Radial basis function neural network), 但是这些算法普遍存在"过拟合"、易陷入局部极小的问题.另外, 基于批学习的NN网络权值和偏差迭代算法容易造成网络训练时间长、收敛速度慢的问题[16-17, 20-21].
近年, 具有学习速度极快且泛化能力好的随机权神经网络(Random vector functional-link networks, RVFLNs)及其改进算法可有效克服传统神经网络的上述缺点, 被广泛用于高炉炼铁过程建模与控制[5, 20-21]. RVFLNs的最大特点是网络输入权值与偏置在给定范围随机选取, 然后采用最小二乘算法对输出权值进行计算, 因而学习速度极快, 而不像基于梯度的常规NN算法需要首先设置很多学习参数, 然后采用批学习策略并花费几分钟甚至几小时时间对众多网络参数进行学习[5, 21].文献[20]采用经典RVFLNs算法对铁水质量进行建模, 大大加快计算速度; 文献[21]进一步采用在线序贯学习型RVFLNs实现多元铁水质量的在线软测量建模.实际表明, RVFLNs比BP等常规NN具有更高的计算效率, 且RVFLNs及其改进算法都具有较高的模型精度.但是, 高炉炼铁生产过程中, 受检测仪表和变送器等装置的故障以及其他异常干扰的影响, 测量数据中经常存在离群点, 即远离数据一般水平的极端大值点或极端小值点.而常规RVFLNs的输出权值是由最小二乘估计得到, 因而鲁棒性不足, 建模时易受离群点干扰, 导致模型准确度下降, 不能为操作人员提供准确的指导.
针对上述问题, 也为了建立稳定、可靠的高炉铁水质量模型, 本文提出一种新型的数据驱动随机权神经网络鲁棒建模方法, 用于实现铁水质量指标的鲁棒估计.首先, 为了提高铁水质量建模效率, 采用数据驱动典型相关性分析方法提取与铁水质量指标相关性最强的最主要过程变量作为建模输入变量; 然后, 根据高炉炼铁过程数据特性, 采用基于Gaussian分布加权的M估计方法建立多元铁水质量指标的鲁棒RVFLNs模型; 同时, 在M估计鲁棒建模基础上, 进一步引入两个正则化项以防止模型过拟合, 稀疏鲁棒RVFLNs的输出权值矩阵.最后, 基于我国华南某大型高炉实际数据建立基于鲁棒正则化RVFLNs的多元铁水质量非线性自回归(Nonlinear autoregressive exogenous, NARX)模型, 并和其他几类铁水质量建模算法进行对比.结果表明, 相对于对比方法, 本文方法不仅具有更高的模型精度和更快的计算速度, 还解决了常规RVFLNs存在的数据建模鲁棒性差的问题.
1. 基于数据驱动典型相关分析的建模输入变量选择
高炉本体参数较多, 且变量之间存在较强相关性, 如果所有变量全部参与铁水质量建模, 会增加计算复杂度, 影响模型预测的准确性和有效性.现有数据建模研究中, 辅助变量的选取方法主要为主成分分析(Principle component analysis, PCA)方法[20-21].但是PCA技术只针对输入空间进行降维, 未考虑输入输出变量之间的关联性[1].为此, 本文将采用考虑输入输出空间关联关系的典型相关分析(Canonical correlation analysis, CCA)方法选择与铁水质量参数相关性最大的几个变量作为输入变量. CCA是研究多个输入变量与多个输出变量之间相关性的多元统计分析方法, 其基本原理是在两组输入输出关联变量中分别提取有代表性的综合指标, 也就是分别建立两个变量组中各变量的线性组合, 利用这两个综合指标之间的相关关系来反映两组变量之间的整体相关性[1, 22].基于CCA的数据降维过程简要描述如下:
基于CCA的数据降维需要在两组变量$ X = ({\pmb x}_1^{}, {\pmb x}_2^{}, \cdots, {\pmb x}_p^{}), {Y^{}} = ({\pmb y}_1^{}, {\pmb y}_2^{}, \cdots, {\pmb y}_q^{}) $中分别找出变量的一个线性组合, 即:
$$ \begin{equation} \left\{ \begin{array}{l} {U_i} = \alpha _1^{(i)}{\pmb x}_1^{} + \alpha _2^{(i)}{\pmb x}_2^{} + \cdots \alpha _p^{(i)}{\pmb x}_p^{} = X{\alpha ^{(i)}}\\ {V_i} = \beta _1^{(i)}{\pmb y}_1^{} + \beta _2^{(i)}{\pmb y}_2^{} + \cdots \beta _q^{(i)}{\pmb y}_q^{} = Y{\beta ^{(i)}} \end{array} \right. \end{equation} $$ (1) 式中, $ {\pmb\alpha} ^{(i)} = (\alpha _1^{(i)}, \alpha _2^{(i)}, \cdots, \alpha _p^{(i)})^{\rm T} $, $ {\pmb\beta} ^{(i)} = (\beta _1^{(i)}, \beta _2^{(i)}, \cdots, \beta _q^{(i)})^{\rm T} $分别为任意非零常系数向量, $ ({U_i}, {V_i}) $为典型变量组.
首先, 寻找通过计算$ {\pmb{\alpha} ^{(1)}}, {\pmb{\beta} ^{(1)}} $, 分别在每组变量中找到第一对典型变量$ ({U_1}, {V_1}) $, 使其具有最大相关性.然后, 在每组变量中找到第二对典型变量$ ({U_2}, {V_2}) $, 使其分别与本组内的第一对典型变量$ ({U_1}, {V_1}) $不相关, 并具有次大的相关性.如此继续下去, 直到两组变量的相关性被提取完为止.另外, 式(1)中典型变量$ {U_i}, {V_i} $之间的相关系数称为典型相关系数.可以看出, 典型相关分析研究的问题实际上就是如何选取典型变量的最优线性组合.
在进行变量选择时, 首先要对各对典型变量的典型相关系数进行显著性检验, 若某一对典型变量$ ({U_i}, {V_i}) $的相关程度不显著, 说明这对变量不具有代表性, 舍弃这一对典型变量$ ({U_i}, {V_i}) $.若相关程度显著, 则保留变量作为最后建模的输入变量.另外, 在高炉变量中, 各变量均具有一定相关性, 若两个变量相关性达到80选择其中一个变量作为建模输入变量即可.
2. 基于Gaussian分布加权M估计的鲁棒正则化RVFLNs建模算法
2.1 常规RVFLNs
随机权神经网络(RVFLNs)由Pao等于1992年提出[23-27].不同于传统基于梯度学习的NN需要通过误差的反向传播迭代寻优, 采用随机给定神经元输入权值和偏置, 通过正则化原则计算输出权值建立网络.实际上, 基于单隐层前馈神经网络的RVFLNs以全局逼近理论为基础, 保证隐含层节点参数的随机选取不会影响NN的学习能力, 同时网络采用Moore-Penrose广义逆矩阵方法一步求得输出权重, 使得算法相对于BP-NN、SVR等, 其计算速度提高了数千倍, 为实际工业过程实现在线软测量和在线控制奠定基础[23-27].
给定$ M $组任意样本集合$ ({{\pmb x}_i}, {{\pmb y}_i}) $, $ {{\pmb{y}}_i} = [{y_{i1}}, {y_{i2}}, \cdots, {y_{im}}]^{\rm{T}} \in {{\bf{R}}^m} $, $ {{\pmb{x}}_i} = [{x_{i1}}, {x_{i2}}, \cdots, {x_{in}}]^{\rm T} \in {{\bf{R}}^n} $, 一个带有$ L $个隐层节点, 以$ g(x) $为激活函数的标准单隐层前馈神经网络可以表示为:
$$ \begin{align} {f_{L, i}}({{\pmb{x}}_i}) = \sum\limits_{j = 1}^L {{{\pmb{\beta}} _j}} g( \langle {{\pmb{a}}_j}, {{\pmb{x}}_i} \rangle +& {b_j}), \\ &i = 1, 2, \cdots, M \end{align} $$ (2) 式中, $ {f_{L, i}}({{\pmb{x}}_i}) $是RVFLNs的输出, $ {{\pmb{a}}_j} \in {{\bf{R}}^n}, j = 1, \cdots, L $是连接输入层与隐层的权值矩阵, 且权值在给定确定范围内随机产生, $ {\pmb{\beta} _j} = {[{\beta _{j1}}, {\beta _{j2}}, \cdots, {\beta _{jm}}]^{\rm{T}}} $是连接第$ j $个隐含层节点与输出层神经元的输出权重向量, $ {b_j} $是第$ j $个隐含层节点的偏置, $ \langle {{\pmb{a}}_j}, {{\pmb{x}}_i} \rangle $表示$ {{\pmb{a}}_j} $与$ {{\pmb{x}}_i} $的内积.
当$ {f_L} $以0误差逼近连续系统的$ M $个样本时, 即$ \sum\nolimits_{i = 0}^M {\left\| {{f_L} - {y_i}} \right\|} = 0 $, 则式(2)可以转化为寻找$ {{\pmb{\beta }}_j}, {{\pmb{a}}_j} $和$ {b_j} $, 使得:
$$ \begin{align} \sum\limits_{j = 1}^L {{\pmb{\beta} _j}} g( \langle {{\pmb{a}}_j}, {{\pmb{x}}_i} \rangle +& {b_j}) = {{{y}}_i}, \\ & i = 1, 2, \cdots, M \end{align} $$ (3) 用矩阵表示为:
$$ \begin{equation} {{H}}\beta = {{Y}} \end{equation} $$ (4) 式中:
$$ \begin{array}{l} {{H}} = \left[ {\begin{array}{cc} {g( \langle {{\pmb{a}}_1}, {{\pmb{x}}_1} \rangle + {b_1})}&\cdots\\ \vdots &\cdots\\ {g( \langle {{\pmb{a}}_1}, {{\pmb{x}}_M} \rangle + {b_1})}&\cdots \end{array}} \right.\\ {\left. {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} &{g( \langle {{\pmb{a}}_L}, {{\pmb{x}}_1} \rangle + {b_L})} \end{array}}\\ {\begin{array}{*{20}{c}} & \vdots \end{array}}\\ {\begin{array}{*{20}{c}} &{g( \langle {{\pmb{a}}_L}, {{\pmb{x}}_M} \rangle + {b_L})} \end{array}} \end{array}} \right]_{M \times L}}, \\ {{Y}} = {\left[ {\begin{array}{*{20}{c}} {{{\pmb{y}}_1}}\\ \vdots \\ {{{\pmb{y}}_M}} \end{array}} \right]_{M \times m}}, \ \beta = {\left[ {\begin{array}{*{20}{c}} {{\pmb{\beta} _1}^{\rm{T}}}\\ \vdots \\ {{\pmb{\beta} _L}^{\rm{T}}} \end{array}} \right]_{L \times m}} \end{array} $$ 通常, 网络隐层节点数会比训练样本少很多, 从而$ {{H}} $不是方阵, 显然式(4)所示方程组没有解.为了选取最合适的$ {\beta } $尽量使式(4)成立, 那么就需要采用最小二乘方法求解上述方程组, 如式(5)所示:
$$ \begin{equation} \beta = {{{H}}^\dagger }{{Y}} \end{equation} $$ (5) 式中, $ {{{H}}^\dagger } $是根据Moore-Penrose方法计算得到的$ {{H}} $伪逆矩阵.
Igelnik等于1995年进一步提出RVFLNs中激活函数的约束条件以及随机权值和偏置的理论选取范围[24]. Igelnik等指出:对于满足万能逼近性的RVFLNs, 其激活函数$ g(x) $应当满足:
$$ \int\limits_R {{g^2}(x){\rm d}x < \infty }\ {\rm{ or }}\ \int\limits_R {{{[g'(x)]}^2}{\rm d}x < \infty } $$ 另外, 虽然Igelnik等给出了理论推导的概率空间作为权值$ {{\pmb{a}}_j} $和偏置$ {b_j} $的选取依据, 但是如何确定概率空间上的多个关键参数依然是个比较难的问题.在文献[28]中, Schmidt等依据实验结果确定了隐含层随机参数的选择范围并使用了三组数据进行验证, 其明确和简洁的$ [-1, 1] $区间确定还是为后续RVFLNs理论研究与实际应用提供非常有益的指导.
2.2 鲁棒正则化RVFLNs
上述常规RVFLNs采用最小二乘法计算网络输出权值, 当训练数据集中存在离群点时, 最小二乘法将"放大"离群点的影响, 使模型的整体特性发生很大改变.为了减小数据中离群点对RVFLNs数据建模的影响, 拟在RVFLNs网络中引入M估计技术, 提高模型的鲁棒性. Huber等于1964年提出的M估计技术是现在最常用的鲁棒估计方法[29-31].与使用误差平方和作为目标函数的最小二乘算法不同, M估计对残差定义了新的目标损失函数, 使其能够对数据中的离群点进行区别对待.提出的基于M估计的RVFLNs (M-RVFLNs)算法描述如下.
1) 单输出M-RVFLNs:当$ m = 1 $时, $ {\beta} $和$ {{Y}} $可以简化为: $ {\beta} = \begin{array}{*{20}{c}} {[{\pmb{\beta} _1}} & \cdots & {{\pmb{\beta} _L}} \end{array}]_{L \times 1}^{\rm T} $, $ {{Y}} = [\begin{array}{*{20}{c}} {{\pmb{y}_1}} & \cdots & {{\pmb{y}_L}} \end{array}]_{M \times 1}^{\rm T} $.此时, 式(4)的最小二乘解为:
$$ \begin{equation} \hat \beta = {{{H}}^{\bf{\dagger }}}{{Y}} = {({{{H}}^{{T}}}{{H}})^{ - 1}}{{{H}}^{{T}}}{{Y}} \end{equation} $$ (6) 对应的目标函数为:
$$ \begin{equation} Q = \sum\limits_{i = 1}^M {{r_i}^2} = \sum\limits_{i = 1}^M {{{\left( {{y_i} - {H_i}\beta } \right)}^2}} \end{equation} $$ (7) 引入M估计, 式(7)关于残差$ r $的目标函数变为:
$$ \begin{equation} Q = \sum\limits_{i = 1}^M {\rho ({r_i})} = \sum\limits_{i = 1}^M {\rho ({y_i} - H_i^{}\beta )} \end{equation} $$ (8) 式中, $ \rho $为M估计影响函数.
回归系数$ \beta $ (即RVFLNs网络输出权值)的求法如下:
$$ \begin{equation} \hat \beta = \arg \mathop {\min }\limits_\beta \sum\limits_{i = 1}^M {\rho ({y_i} - {H_i}\beta )} = \arg \mathop {\min }\limits_\beta \sum\limits_{i = 1}^M {\rho ({r_i}(\beta ))} \end{equation} $$ (9) 为保证估计结果具有尺度同变性, 引入残差的稳健尺度估计$ \hat \sigma $, 则求解回归系数$ \beta $形式变为:
$$ \begin{align} \hat \beta = & \arg \mathop {\min }\limits_\beta \sum\limits_{i = 1}^M {\rho \left( {\frac{{{y_i} - {H_i}\beta }}{{\hat \sigma }}} \right)} = \\ & \arg \mathop {\min }\limits_\beta \sum\limits_{i = 1}^M {\rho \left( {\frac{{{r_i}(\beta )}}{{\hat \sigma }}} \right)} \end{align} $$ (10) 式(10)中的残差稳健尺度估计$ \hat \sigma $对M估计很重要.根据鲁棒估计理论, $ \hat \sigma $取绝对离差中位数(Median absolute deviation, MAD)除以常数0.6745.数值0.6745是标准正态分布的MAD, 当残差服从高斯分布时, MAD除以0.6745可以保持估计的一致性.即:
$$ \begin{equation} \hat \sigma = \frac{{{\rm{MAD}}}}{{0.6745}} = \frac{{media{n_i}\left| {{r_i} - median({r_i})} \right|}}{{0.6745}} \end{equation} $$ (11) 令$ {{\partial \left({\sum\limits_{i = 1}^M {\rho \left({\frac{{{r_i}(\beta)}}{{\hat \sigma }}} \right)} } \right)} \mathord{\left/ {\vphantom {{\partial \left({\sum\limits_{i = 1}^M {\rho \left({\frac{{{r_i}(\beta)}}{{\hat \sigma }}} \right)} } \right)} {\partial \beta }}} \right. } {\partial \beta }} = 0 $, 可以得到:
$$ \begin{equation} \sum\limits_{i = 1}^M {\varphi \left( {\frac{{{r_i}(\beta )}}{{\hat \sigma }}} \right)} H_i^{\rm{T}} : = \sum\limits_{i = 1}^M {\rho '\left( {\frac{{{r_i}(\beta )}}{{\hat \sigma }}} \right)} H_i^{\rm{T}} = 0 \end{equation} $$ (12) 定义加权因子
$$ \begin{equation} w({r_i}) : = \frac{{\varphi ({r_i})}}{{{r_i}}} \end{equation} $$ (13) 那么等式(12)变为:
$$ \begin{equation} \sum\limits_{i = 1}^M {w\left( {\frac{{{r_i}(\beta )}}{{\hat \sigma }}} \right)} \times ({y_i} - {H_i}\beta )H_i^{\rm{T}} = 0 \end{equation} $$ (14) 进一步简化为:
$$ \begin{equation} {{{H}}^{\rm{T}}}{{WH}}\beta = {{{H}}^{\rm{T}}}{{WY}} \end{equation} $$ (15) 式中, $ W{\rm{ = diag\{ }}{w_i}{\rm{\} }} $, 每一个$ {w_i} $是等式(13)定义的权值因子, 约去等式两边$ {{H}^{\rm T}} $, 并进一步写为:
$$ \begin{equation} {{{H}}^{{'}}}\beta = {{{Y}}^{{'}}} \end{equation} $$ (16) 式中, $ {{{H}}^{'}} = {{WH}} $, $ {{{Y}}^{{'}}}{{ = WY}} $.
为了防止RVFLNs模型过拟合, 稀疏输出权值矩阵, 进一步引入$ {L_1} $和$ {L_2} $两个正则化项, 此时优化目标函数变为:
$$ \begin{align} \hat \beta = & \arg \mathop {\min }\limits_\beta \left\{ {\left\| {{{{H}}^{\bf{'}}}\beta - {{{Y}}^{\bf{'}}}} \right\|_2^2 + \lambda \left(\dfrac{{1 - {\lambda _0}}}{2}\right)||\beta ||_2^2 + } \right.\\ &\left. {{\lambda _0}||\beta |{|_1}} \right\} \end{align} $$ (17) 式中, $ {\lambda _0} \in [0, 1] $, $ \lambda \ge 0 $.
令$ {\lambda _1} = \lambda {\lambda _0} $, $ {\lambda _2} = {{\lambda (1 - {\lambda _0})} \mathord{\left/ {\vphantom {{\lambda (1 - {\lambda _0})} 2}} \right. } 2} $, 则式(17)变为:
$$ \begin{equation} \hat \beta = \arg \mathop {\min }\limits_\beta \left\{ {\left\| {{{{H}}^{\bf{'}}}\beta - {{{Y}}^{\bf{'}}}} \right\|_2^2 + {\lambda _2}||\beta ||_2^2 + {\lambda _1}||\beta |{|_1})} \right\} \end{equation} $$ (18) 进一步, 令$ (M + L) \times L $维矩阵$ {{{H}}^*}_{(M + L) \times L} = {(1 + {\lambda _2})^{ - \frac{1}{2}}}\left[{\begin{array}{*{20}{c}} {{{{H}}^{\bf{'}}}}\\ {\sqrt {{\lambda _2}} {{I}}} \end{array}} \right] $, $ {{Y}}_{(M + L)}^* = \left[{\begin{array}{*{20}{c}} {{{{Y}}^{\bf{'}}}}\\ {0} \end{array}} \right] $, 并使$ \gamma = \frac{{{\lambda _1}}}{{\sqrt {1 + {\lambda _2}} }} $, $ {\beta ^*} = \sqrt {1 + {\lambda _2}} \beta $.则上式变为:
$$ \begin{equation} \hat \beta = \frac{1}{{\sqrt {1 + {\lambda _2}} }}\arg \mathop {\min }\limits_{{\beta ^*}} \left\{ {\left\| {{{{H}}^*}{\beta ^*} - {{{Y}}^*}} \right\|_2^2 + \gamma ||{\beta ^*}|{|_1})} \right\} \end{equation} $$ (19) 式(19)乘上一个缩放因子$ 1 + {\lambda _2} $, 得到下式:
$$ \begin{equation} \hat \beta = \sqrt {1 + {\lambda _2}} \arg \mathop {\min }\limits_{{\beta ^*}} \left\{ {\left\| {{{{H}}^*}{\beta ^*} - {{{Y}}^*}} \right\|_2^2 + \gamma ||{\beta ^*}|{|_1})} \right\} \end{equation} $$ (20) 上述式(20)即可由坐标下降(Coordinate descent)算法求解[32].
评论1. 为了解决RVFLNs模型固有的多重共线性和过拟合问题, 在鲁棒加权后的最小二乘损失函数基础上后, 同时加入输出权值的$ {L_2} $范数项和输出权值的$ {L_1} $范数项作为惩罚, 构成式(17)所示优化目标函数的弹性网络(Elastic net)[33], 因而可有效稀疏化输出矩阵, 其效果比岭回归以及Lasso等任何单一范数作为正则化项的方法都要好[33].
2) 多输出M-RVFLNs:当$ m > 1 $时, M-RVFLNs为多输出, 此时$ \beta $和$ {{Y}} $表示如下:
$$ \begin{equation} \begin{array}{l} {\beta} = [{\pmb{\beta} _{j1}}, \cdots, {\pmb{\beta} _{jh}}, \cdots, {\pmb{\beta} _{jm}}] = \\ {\quad\left[ {\begin{array}{*{20}{c}} {{\beta _{11}}}& \cdots &{{\beta _{1m}}}\\ \vdots & \ddots & \vdots \\ {{\beta _{L1}}}& \cdots &{{\beta _{Lm}}} \end{array}} \right]_{L \times m}}, \begin{array}{*{20}{c}} {j = 1, \cdots, L}\\ {{\rm{ }}h = 1, \cdots, m} \end{array} \end{array} \end{equation} $$ (21) $$ \begin{equation} \begin{array}{l} {{Y}} = [{{\pmb{y}}_{i1}}, \cdots, {{\pmb{y}}_{ih}}, \cdots, {{\pmb{y}}_{im}}] = \\ {\quad\left[ {\begin{array}{*{20}{c}} {{y_{11}}}& \cdots &{{y_{1m}}}\\ \vdots & \ddots & \vdots \\ {{y_{M1}}}& \cdots &{{y_{M{\rm{m}}}}} \end{array}} \right]_{M \times m}}, \begin{array}{*{20}{c}} {i = 1, \cdots, M}\\ {h = 1, \cdots, m} \end{array} \end{array} \end{equation} $$ (22) 权值矩阵的维数$ {{w}}({{{r_i}(\beta)} \mathord{\left/ {\vphantom {{{r_i}(\beta)} {\hat \sigma }}} \right. } {\hat \sigma }}) $和$ {{Y}} $一致, 即为如下$ M \times m $维形式:
$$ \begin{equation} \begin{array}{l} {w} = [{\pmb{w}_{i1}}, \cdots, {\pmb{w}_{ih}}, \cdots, {\pmb{w}_{im}}] = \\ {\quad\left[ {\begin{array}{*{20}{c}} {{w_{11}}}& \cdots &{{w_{1m}}}\\ \vdots & \ddots & \vdots \\ {{w_{M1}}}& \cdots &{{w_{Mm}}} \end{array}} \right]_{M \times m}} \end{array} \end{equation} $$ (23) 此时, 多输出权值表示为:
$$ \begin{equation} {\hat \beta }_{}^{(k + 1)} = [\hat {\pmb{\beta}} _{j1}^{(k + 1)}, \cdots, \hat {\pmb{\beta}} _{jh}^{(k + 1)}, \cdots, \hat {\pmb{\beta}} _{jm}^{(k + 1)}] \end{equation} $$ (24) 这里的每一个$ \hat {\pmb{\beta}} _{jh}^{(k + 1)} $由等式(20)求得.
2.3 M估计Gaussian分布加权函数及参数选取
基于M估计的RVFLNs根据残差决定观测值对估计的贡献大小, 所以确定权重非常重要.通过研究随机变量的分布特性和统计特性, 我们采用统计学中应用较为广泛的高斯(Gaussian)分布进行M估计权值确定.设连续随机变量$ X $服从一个位置参数为$ {\mu} $、尺度(宽度)参数为$ {\sigma _1} $的概率分布, 且概率密度函数(Probability density function, PDF)为:
$$ f(x) = \frac{1}{{\sqrt {2\pi } {\sigma _1}}}\exp \left( { - \frac{{{{(x - \mu )}^2}}}{{2{\sigma _1}^2}}} \right) $$ 则$ X $服从高斯分布, 记作$ X\sim {\rm N}(\mu, {\sigma _1}^2) $.如果参数$ \mu, {\sigma _1} $已知, 就可以确定Gaussian分布的PDF曲线.
根据Gaussian分布的PDF特性, 在残差处于中间的样本点处取得最大权值, 在残差很小或者很大的样本处取得较小权值, 这样就能削弱离群点对建模带来的不良影响. Gaussian分布函数参数$ \mu $和$ {\sigma _1} $决定了曲线的特性, 因此如何确定这两个参数是该方法的重要内容:
1) $ \mu $值的确定: M估计加权的目的是调和"离群点"和"过拟合"的作用, 因此位置参数$ \mu $应取标准化残差$ {{{r_i}} \mathord{\left/ {\vphantom {{{r_i}} {\hat \sigma }}} \right. } {\hat \sigma }} $的中间值, 即$ \mu = {\rm{median}}({{{{r_i}} \mathord{\left/ {\vphantom {{{r_i}} {\hat \sigma }}} \right. } {\hat \sigma }}_i}) $.
2) $ {\sigma _1} $值的确定:参数$ {\sigma _1} $决定了Gaussian分布函数曲线的形状, 即样本点越靠近$ \mu $, 该点的权值也越大, 因此考虑误差的统计特性, 应遵循以下取值原则:如果误差分布较紧密, 则$ {\sigma _1} $取值应偏大; 如果误差分布较分散, 则$ {\sigma _1} $取值应偏小.标准差能反映出预测误差的离散程度, 误差分布越紧密时标准差越小, 误差分布越分散时标准差越大.为此, 采用标准化残差标准差的倒数来确定宽度参数$ {\sigma _1} $的取值, 即:
$$ \sigma _1 = \dfrac{1}{\sqrt{\dfrac{\sum\limits_{i = 1}^M\Big\| \frac{\frac{r_i}{\hat\sigma_i} -\sum\limits_{i = 1}^M \left(\frac{r_i}{\hat\sigma_i} \right) }{M} \Big\|^2 }{M}}} $$ 2.4 鲁棒建模算法实现步骤
所提M估计鲁棒RVFLNs算法的主要建模过程如下:
1) 根据式(6)计算$ {\hat \beta }_{}^{(0)} $;
2) 利用得到的$ {\hat \beta }_{}^{(0)} $, 计算残差向量$ {{\pmb{r}}^{(0)}} $并计算尺度估计值$ \hat \sigma $, 进而求出标准化残差向量$ {{\pmb{r}}^{(0)}}/\hat \sigma $;
3) 根据式(13)计算每个样本对应的权值, 求得权函数方阵$ {W^{(0)}} $;
4) 构造$ {{{H}}^{\bf{'}}} $和$ {{{Y}}^{\bf{'}}} $, 求解$ {{\beta}^{(1)}} $, 并重复迭代计算得到$ {{\beta}^{(2)}}, {{\beta}^{(3)}}, \cdots {{\beta}^{(k)}}, {{\beta}^{(k + 1)}} $, 直到每个参数估计值$ |\hat \beta _{j, h}^{(k + 1)} - \hat \beta _{j, h}^{(k)}| / \hat \beta _{j, h}^{(k)} $, $ j = 0, 1, \cdots, L, h = 1, \cdots, m $都小于给定收敛条件, 如$ {10^{ - 6}} $.
3. 工业数据测试
3.1 模型建立
采用我国华南某大型高炉的本体数据与铁水质量数据(采样间隔为1h)对所提方法进行数据测试, 根据该高炉炼铁工艺及相关仪器仪表设置, 确定影响Si含量、P含量、S含量、铁水温度等铁水质量指标的18个关键过程变量为:冷风流量、送风比、热风压力、压差、顶压风量比、透气性、阻力系数、热风温度、富氧流量、富氧率、设定喷煤量、鼓风湿度、理论燃烧温度、标准风速、实际风速、鼓风动能、炉腹煤气量、炉腹煤气指数等.考虑上述变量间具有很强的相关性, 并且过多的建模变量会加大建模复杂度, 影响模型性能, 因此首先采用典型相关分析(CCA)技术在原始高维的建模输入输出变量数据中提取出4对典型变量, 其相关系数分别为0.601、0.551、0.462、0.232.表 1表明在0.05显著性水平下, 前3对典型变量显著相关, 第4对典型变量相关性不显著, 因而在后续分析中不予考虑.表 2给出了各个高炉本体参数典型变量的标准化系数, 将每一个参数乘以对应的典型相关系数进行加权, 并求其绝对值之和, 可以得到每个参数变量的权值如表 2最后一列所示.最后, 确定选取综合权值较大的炉腹煤气量${u_1}$ (${{\rm{m}}^{\rm{3}}}$)、冷风流量${u_2}$ (${{\rm{m}}^{\rm{3}}}{\rm{/min}}$)、富氧流量${u_3}$ (${{\rm{m}}^{\rm{3}}}{\rm{/h}}$)、透气性${u_4}$ (${{\rm{m}}^{\rm{3}}}{\rm{/min}} \cdot {\rm{kPa}}$)、 富氧率${u_5}$ (${\rm{wt\% }}$)和理论燃烧温度${u_6}$ (℃)作为影响 [Si] ${y_1}$ (%)、[S] ${y_2}$ (%)、[P] ${y_3}$ (%)和铁水温度MIT ${y_4}$ (℃) 等铁水质量指标的最主要因素, 并将这6个变量组成新的样本集作为铁水质量建模输入变量.
表 1 典型相关系数的显著性检验Table 1 Significance test of canonical correlation coefficient典型变量 显著性检验指标 Wilk's Chi-SQ DF Sig. 1 0.337 299.701 72 0 2 0.527 176.485 51 0 3 0.754 77.786 32 0 4 0.958 11.678 15 0.703 表 2 高炉本体参数典型变量的标准化系数Table 2 Standardized canonical coefficients of BF body variables影响变量 典型变量 变量权值 1 2 3 4 冷风流量 14.821 2.609 $-3.502$ $-24.047$ 11.95769 送风比 $-0.669 $ 1.803 0.658 3.633 1.695912 热风压力 0.724 2.664 $-2.139$ -0.209 2.885878 压差 2.749 1.384 $ -0.527$ 2.382 2.655439 顶压富氧率 $-0.06$ $ -0.712$ 0.95 -0.022 0.865848 透气性 5.292 5.441 $-6.701$ 10.201 9.263463 阻力系数 0.801 0.268 $ -4.063$ 8.006 2.505639 热风温度 0.587 $-0.469$ $ -1.356$ $-0.268$ 1.23674 富氧流量 11.697 $ -4.429$ 0.07 1.748 9.493758 富氧率 -5.751 3.556 $ -4.229$ $-4.556$ 7.362393 设定喷煤量 $-0.931$ 3.284 4.027 $ -0.233$ 4.222921 鼓风湿度 0.533 0.805 1.932 $-0.465$ 1.654862 理论燃烧温度 $-3.408$ 2.774 5.055 1.685 5.906544 标准风速 $-2.222$ $ -0.705$ 2.385 6.454 2.824337 实际风速 $ -0.224 $ 0.023 0.55 $-0.767$ 0.401351 鼓风动能 $-1.85 $ $-1.067$ $-0.255$ $-0.002$ 1.815443 炉腹煤气量 $ -14.106 $ $-6.874$ 0.208 15.053 12.34763 炉腹煤气指数 0.292 0.651 $-0.006$ $ -0.198$ 0.535663 为了更好地反映高炉非线性动态特性和输入输出变量的时序和时滞关系, 将当前时刻的输入$X(t)$、上一时刻的输入$X(t - 1)$和上一时刻的模型输出作为输入, 建立铁水质量的非线性自回归(NARX)模型.同时, 为了消除低幅值高频的随机噪声, 取连续输入变量在一段时间的平均值作为实际模型输入变量.在隐含层权值${{\pmb{a}}_j}$和偏差${b_j}$随机范围选取方面, 首先在$[-1, 1]$范围内依据高斯分布随机产生${{\pmb{a}}_j}$和${b_j}$[27].在此基础上, 通过增设倍数$M$并将$M$与权值范围$[-1, 1]$相乘以扩大${{\pmb{a}}_j}$与${b_j}$的选择范围, 即选择范围扩大为.由图 2可以看出, 当${{\pmb{a}}_j}$和${b_j}$的取值范围介于$[-1, 1] $时, 铁水质量指标测试均方根误差能够取得最小值, 因而${{\pmb{a}}_j}$与${b_j}$的最佳选择范围可缩小至由于RVFLNs的输入权值每次都是在一定范围随机产生, 导致每次运算结果具有随机性, 这里取20次运算结果的均值作为最终模型输出结果.为确定铁水质量指标模型的最优正则化参数${ \mathsf{ λ} _0}, \mathsf{ λ} $, 同样取模20次平均测试均方根误差的最小值对应的${ \mathsf{ λ} _0}, \mathsf{ λ} $作为最后结果, 如图 3所示, 结果为${ \mathsf{ λ} _0}{\rm{ = [0}}{\rm{.0563, 0}}{\rm{.0435, 0}}{\rm{.0515, 0}}{\rm{.0495]}}$和$\lambda$ = [3.475E-04, 1.8E-04, 2.675E-04, 2.475E-04].
图 2 建模误差RMSE与输入权值倍数和输入偏置倍数之间的关系Fig. 2 The relationship between the modeling RMSE and the input weight multiple and the input bias multiple
图 3 建模误差RMSE与正则化系数之间的关系曲线Fig. 3 The relation curve between the modeling RMSE and the regularization coefficient3.2 建模及其估计效果
数据中所含离群点比例以及离群点偏离正常取值范围的大小(即离群点幅值)对模型的精度有重要影响.为了更全面地验证所提方法的鲁棒性, 基于实际高炉炼铁数据进行鲁棒测试的数据设计.共设计两组数据, 分别从不同离群点比例时数据建模效果以及不同离群幅值时数据建模效果两个角度来评价模型的建模与鲁棒性能.
第一组数据集用来测试所提方法对不同离群点比例时数据建模的适用性.首先, 从原始数据中随机选取比例为0%, 5%, 10%, $\cdots$, 50%的样本点$ {y_{i, {\rm{Outlier}}}}$并对其进行处理, 令, 式中${y_{\max \min }} = \max ({y_i}) - \min ({y_i})$, $i = 1, 2, 3, 4$表示正常炉况下铁水质量参数波动范围内的最大值与最小值之差.为了使离群点更加不均衡, 在所选样本点中正向离群点与负向离群点的比例设置为2:1, 添加正向离群点时令$sign = 1$, 添加负向离群点时令$sign = -1$.
第二组数据集用来测试所提方法对相同离群点比例但离群点偏离幅值不同时的数据建模适用性.从原始数据中随机选取20%的样本点, 依据添加离群点, 式中${y_{\max \min }} = \max ({y_i}) - \min ({y_i})$, $a = 0, 0.5, 1, 1.5, \cdots, 5$用来调节幅值大小.同样为了使离群点更加不均衡, 在所选样本点中正向离群点与负向离群点的比例设置为2:1, 添加正向离群点时令$sign = 1$, 添加负向离群点时令$sign = -1$.
为了验证所提基于Gaussian分布加权M-估计的鲁棒正则化RVFLNs (Gaussian-M-RVFLNs)方法对多元铁水质量指标(即[Si]、[P]、[S]和MIT)的建模效果, 将其与基于最小二乘加权的常规RVFLNs (LS-RVFLNs)和基于Huber加权M-估计的鲁棒随机权神经网络(Huber-M-RVFLNs)进行比较, 如图 4和图 5所示.其中图 4为不同离群点比例时三种方法的多元铁水质量估计均方根误差箱形图, 图 5为不同离群幅值时三种方法的多元铁水质量估计均方根误差箱形图.三种方法的激活函数均使用Sigmoid函数, 隐层节点数均设置为30, 权值${{\pmb{a}}_j}$和偏差${{{b}}_j}$取值范围均确定为$[-1, 1]$. Huber加权算法中K通常取为1.345, 这样取值的估计方法既是稳健的, 又有较高的估计效率.另外, 为了避免不同数量级数据间的相互影响, 对所有数据进行归一化处理.由于随机权神经网络的${{\pmb{a}}_j}$和${{{b}}_j}$为随机生成, 每次结果不具有唯一性, 为更好地衡量模型的性能, 对每一个数据集分别进行30次实验, 通过30次数据实验的均方根误差(Root mean square error, RMSE)来比较不同方法的鲁棒性能.
图 4 不同离群点比例时铁水质量估计RMSE箱形图Fig. 4 The box diagram of the Estimation RMSE of MIQ indices with different methods at each of the outlier contamination rates
图 5 不同离群幅值时铁水质量估计RMSE箱形图Fig. 5 The box diagram of the Estimation RMSE of MIQ indices with different methods when the amplitudes of the outliers are increased从图 4和图 5所示的箱型图可以看出, 当没有离群点或者离群点比例和离群幅值较小时, 所提Gaussian-M-RVFLNs方法与常规LS-RVFLNs的铁水质量估计效果基本相当, 但要好于Huber-M-RVFLNs方法.随着离群点比例以及离群幅值的逐渐增大, 基于传统LS-RVFLs的铁水质量模型估计精度下降明显, 而所提Gaussian-M-RVFLNs建立的铁水质量模型能够始终保持很高的估计精度, 并且远好于对比的其他两种方法. Huber-M-RVFLNs方法虽然在离群点比例较低和离群幅值较小时可保持较高精度, 具有一定的鲁棒性, 但是当离群点比例较低和离群幅值持续增加时, 其估计性能下降明显, 这在图 4所示高离群点比例情况时尤其明显.
一个好的鲁棒模型要求在实际模型与理想分布模型差别微小时, 受离群点的影响较小, 接近正确估值, 更重要的是要求实际模型与理想分布模型差别较大时, 估计值也不会受大量离群点的破坏性影响, 依然能够得到接近正常模式下的正确估计.为此考虑离群比例为20%、离群幅值步长$a$为2的多元铁水质量建模与估计效果, 实验结果分别如图 6和图 7所示.为了说明问题, 同样将所提Gaussian-M-RVFLNs方法与LS-RVFLNs和Huber-M-RVFLNs进行比较分析.可以看出在存在较高离群点比例和较大离群幅值情况下, 所提方法的建模与估计性能最好, 能够根据实时输入数据, 对难测多元铁水质量指标进行准确估计, 且估计趋势基本与实际值一致.图 8为不同方法下铁水质量指标测试误差概率密度分布曲线, 可以看出所提Gaussian-M-RVFLNs模型和其他两种方法建立的模型相比, 其误差概率密度分布曲线基本为又瘦又高的围绕0均值的高斯分布曲线, 即大部分估计误差仅为实际工业数据中所包含的测量噪声.
图 6 离群比例为20%和离群幅值步长$a$为2时, 不同RVFLNs建模方法铁水质量指标建模效果Fig. 6 Modeling results of MIQ indices with different methods when outlier contamination rate is twenty percent and amplitude is two
图 7 离群比例为20%和离群幅值步长$a$为2时, 不同RVFLNs建模方法铁水质量指标估计效果Fig. 7 Estimation results of MIQ indices with different methods when outlier contamination rates is twenty percent and amplitude is two
图 8 不同RVFLNs建模方法铁水质量估计误差PDF曲线Fig. 8 PDF curve of MIQ estimation error with different methods图 9为不同离群点比例时三种不同方法铁水质量建模时RVFLNs网络中为0的输出权值数量曲线图.可以看出, 所提Gaussian-M-RVFLNs方法建立的铁水质量模型在4个铁水质量指标输出权值矩阵中权值为0的个数最多, Huber-M-RVFLNs网络模型次之, LS-RVFLNs网络模型最少且输出权值一直不为0.这说明, 所提方法由于在鲁棒建模基础上引入${L_1}$和${L_2}$两个正则化项范数, 可稀疏化输出权值矩阵, 提高模型泛化性能, 有效避免模型过拟合.
图 9 不同RVFLNs建模方法铁水质量估计时网络输出权值为0的数量曲线Fig. 9 The curve of the number of output weights with '0' value of MIQ estimation error with different methods4. 结论
本文针对高炉炼铁过程多元铁水质量指标难以在线检测, 以及采用常规方法难以进行有效建模与在线估计的难题, 基于Gaussian分布加权M-估计技术, 提出一种新型的数据驱动随机权神经网络(RVFLNs)鲁棒建模方法, 用于实现多元铁水质量指标的鲁棒估计.基于实际工业数据的研究表明:和常规最小二乘加权RVFLNs算法以及经典Huber加权M估计的RVFLNs算法相比, 所提Gaussian分布加权M-估计的鲁棒正则化RVFLNs算法可有效克服数据中不同离群点比例和不同离群幅值给数据建模带来的不利影响, 大大提高RVFLNs数据建模的鲁棒性能, 使得模型在复杂动态环境中持续有效, 并且估计精度较高.同时, 在鲁棒建模基础上, 在优化性能指标引入两个正则化项, 以最大化稀疏化RVFLNs网络的输出权值矩阵, 这不仅可显著降低模型复杂度, 还可有效避免模型过拟合, 进一步提高模型的适应性.
-
图 4 RGB-D图像超像素分割(如RGB图像矩形框区域所显示, 兼顾颜色和深度信息超像素分割得到边缘比只考虑颜色信息要准确.同样情况, Depth图像矩形框区域显示兼顾颜色和深度信息超像素分割得到边缘比只考虑深度信息要准确)
Fig. 4 Visual samples for superpixel segmentation of RGB-D images (Within the rectangle, the boundary between the foreground and the background segmented by the color and depth cues more accurate than color-based segmentation. Similarly, within the rectangle, the boundary between the foreground and the background segmented by the color and depth cues more accurate than depth-based segmentation)
图 5 监督迁移学习过程示意图((a)提取Depth图像显著特征的深层卷积神经网络结构图.其中Relu层使用修正线性函数Relu$(x) = \max(x, 0)$保证输出不为负; Lrn表示局部响应归一化层; Dropout表示Dropout层, 在训练时以0.5比例忽略隐层节点防止过拟合. (b)基于深层卷积神经网络提取RGB图像和Depth图像显著特征流程图.首先图像被裁剪成尺寸为227$\times$227$\times$3作为深层卷积神经网络的输入, 在卷积层1通过96核的尺寸为7$\times$7步长为2滤波器卷积滤波, 得到卷积图像通过Relu函数, 再经过池化层1尺寸为3$\times$3步长为2的最大值池化成96个尺寸为55$\times$55的特征图, 最后对得到的特征图进行局部响应归一化.在卷积层2, 池化层2, 卷积层3, 卷积层4, 卷积层5和池化层5执行相似的处理.其池化层5输出作为全连接层6的输入, 经过全连接层7由输出层输出显著类别, 其中输出层采用softmax函数. (c)本文基于监督迁移学习的方法, 在RGB图像训练完成的Clarifai网络的基础上, 利用与RGB图像配对的Depth图像重新训练提取Depth图像显著特征的深层卷积神经网络)
Fig. 5 Architecture for supervision transfer ((a) The Architecture of Depth CNN, where Relu denotes a rectified linear function Relu$(x) = \max(x, 0)$, which rectify the feature maps thus ensuring the feature maps are always positive, lrn denotes a local response normalization layer, and Dropout is used in the fully connected layers with a rate of 0.5 to prevent CNN from overfitting. (b) The flowchart of image processed based on Depth CNN. A 227 by 227 crop of an image (with 3 planes) is presented as the input. This is convolved with 96 different 1st layer filters, each of size 7 by 7, using a stride of 2 in both $x$ and $y$. The resulting feature maps are then: passed through a rectified linear fuction, pooled (max within 3 by 3 regions, using stride 2), and local response normalized across feature maps to give 96 different 55 by 55 element feature maps. Similar operations are repeated in layers 2, 3, 4, 5. The last two layers are fully connected, taking features from the pooling layer 5 as input in vector form. The final layer is a 2-way softmax function, which indicates the image is salient or not. (c) We train a CNN model for depth images by teaching the network to reproduce the mid-level semantic representation learned from RGB images for which there are paired images)
图 6 NLPR数据集和NJU-DS2000数据集RGB图像和Depth图像显著特征的类条件互信息熵分布图((a) NLPR数据集颜色-深度显著情况; (b) NLPR数据集颜色显著情况; (c) NLPR数据集深度显著情况; (d) NJU-DS2000数据集颜色-深度显著情况; (e) NJU-DS2000数据集颜色显著情况; (f) NJU-DS2000数据集深度显著情况)
Fig. 6 Visual result for class-conditional mutual information between color and depth deep features on NLPR and NJU-DS2000 RGB-D image datasets ((a) Color-depth saliency situation in terms of the NLPR dataset, (b) Color saliency situation in terms of the NLPR dataset, (c) Depth saliency situation in terms of the NLPR dataset, (d) Color-depth saliency situation in terms of the NJU-DS2000 dataset, (e) Color saliency situation in terms of the NJU-DS2000 dataset, (f) Depth saliency situation in terms of the NJU-DS2000 dataset.)
图 7 基于DMNB模型显著性检测的图模型($y$和$\pmb{x}$为可观测变量, $\pmb{z}$为隐藏变量.其中$\pmb{x}_{1:N} = (\pmb{x}_c, \pmb{x}_d)$表示RGB-D图像显著特征, 特征$\pmb{x}_j$服从$C$个均值为$\{\mu_{jk}|j = 1, \cdots, N\}$和方差为$\{\sigma_{jk}^2|j = 1, \cdots, N\}$高斯分布. $y$是标识超像素是否显著的标签, 取值1或者0, 其中1表示显著, 0表示非显著)
Fig. 7 Graphical models of DMNB for saliency estimation ($y$ and $\pmb{x}$ are the corresponding observed states, and $\pmb{z}$ is the hidden variable, where each feature $\pmb{x}_j$ is assumed to have been generated from one of $C$ Gaussian distribution with a mean of $\{\mu_{jk}|j = 1, \cdots, N\}$ and a variance of $\{\sigma_{jk}^2|j = 1, \cdots, N\}$, $y$ is either 1 or 0 that indicates whether the pixel is salient or not.)
图 8 对比基于生成聚类和狄利克雷过程聚类方法确定DMNB模型混合分量参数$C$ ((a)针对NLPR数据集显著特征生成聚类图. (b)针对NLPR数据集基于狄利克雷过程的显著特征聚类图, 其中不同图例的数目代表DMNB模型混合分量参数$C$.对于NLPR数据集, 得到$C = 24$. (c)针对NJU-DS2000数据集显著性特征生成聚类图. (d)针对NJU-DS2000数据集基于狄利克雷过程的显著特征聚类图, 其中不同图例的数目代表DMNB模型混合分量参数$C$.对于NJU-DS2000数据集, 得到$C = 28$)
Fig. 8 Visual result for the number of components $C$ in the DMNB model: generative clusters vs DPMM clustering ((a) Generative clusters for NLPR RGB-D image dataset. (b) DPMM clustering for NLPR RGB-D image dataset, where the number of colors and shapes of the points denote the number of components $C$. We find $C = 24$ using DPMM on the NLPR dataset. (c) Generative clusters for NJU-DS2000 RGB-D image dataset. (d) DPMM clustering for NJU-DS2000 RGB-D image dataset, where the number of colors and shapes of the points denote the number of components $C$. We find $C = 28$ using DPMM on the NJU-DS2000 dataset.)
图 9 对于NLPR数据集交叉验证DMNB模型混合分量参数$C$, 给定一个由DPMM模型得到的参数$C$的取值范围, 采用10-fold进行交叉验证
Fig. 9 Cross validation for the parameter $C$ in the DMNB model in terms of NLPR dataset, we use 10-fold cross-validation with the parameter $C$ for DMNB models, the $C$ found using DPMM was adjusted over a wide range in a 10-fold cross-validation
图 10 NLPR数据集颜色-深度显著情况显著图对比. ((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h) LMH方法; (i) GP方法; (j)本文方法)
Fig. 10 Visual comparison of the saliency detection in the color-depth saliency situation in terms of NLPR dataset ((a) RGB image, (b) Depth image, (c) Ground truth, (d) ACSD, (e) GMR, (f) MC, (g) MDF, (h) LMH, (i) GP, (j) BFSD)
图 11 NLPR数据集ROC曲线对比图
Fig. 11 The ROC curves of different saliency detection models in terms of the NLPR dataset
图 12 NLPR数据集F测度结果对比图
Fig. 12 The F-measures of different saliency detection models when used on the NLPR dataset
图 13 NLPR数据集颜色显著情况显著图对比((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h) LMH方法; (i) GP方法; (j)本文方法)
Fig. 13 Visual comparison of the saliency detection in the color saliency situation in terms of NLPR dataset ((a) RGB image, (b) Depth image, (c) Ground truth, (d) ACSD, (e) GMR, (f) MC, (g) MDF, (h) LMH, (i) GP, (j) BFSD)
图 14 NLPR数据集深度显著情况显著图对比((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h) LMH方法; (i) GP方法; (j)本文方法)
Fig. 14 Visual comparison of the saliency detection in the depth saliency situation in terms of NLPR dataset ((a) RGB image, (b) Depth image, (c) Ground truth, (d) ACSD, (e) GMR, (f) MC, (g) MDF, (h)LMH, (i) GP, (j) BFSD)
图 15 NJU-DS2000数据集颜色-深度显著情况显著图对比((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h)本文方法)
Fig. 15 Visual comparison of the saliency detection in the color-depth saliency situation in terms of NJU-DS2000 dataset ((a) RGB image, (b) Depth image, (c) Ground truth, (d) ACSD, (e) GMR, (f) MC, (g) MDF, (h) BFSD)
图 16 NJU-DS2000数据集颜色显著情况显著图对比. ((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h)本文方法)
Fig. 16 Visual comparison of the saliency detection in the color saliency situation in terms of NJU-DS2000 dataset ((a) RGB image, (b) Depth image, (c) Ground truth, (d) ACSD, (e) GMR, (f) MC, (g) MDF, (h) BFSD)
图 17 NJU-DS2000数据集深度显著情况显著图对比((a) RGB图像; (b) Depth图像; (c)真值图; (d) ACSD方法; (e) GMR方法; (f) MC方法; (g) MDF方法; (h)本文方法)
Fig. 17 Visual comparison of the saliency detection in the depth saliency situation in terms of NJU-DS2000 dataset ((a) RGB image; (b) Depth image; (c) Ground truth; (d) ACSD; (e) GMR; (f) MC; (g) MDF; (h) BFSD)
图 18 NJU-DS2000数据集ROC对比图
Fig. 18 The ROC curves of different saliency detection models in terms of the NJU-DS2000 dataset
图 19 NJU-DS2000数据集F测度结果对比图
Fig. 19 The F-measures of different saliency detection models when used on the NJU-DS2000 dataset
表 1 RGB-D图像数据集中3D显著性分布比例
Table 1 3D saliency situation on RGB-D image dataset
下载: 导出CSV
表 2 参数表
Table 2 Summary of parameters
变量名 取值范围 参数描述 $\tau$ (0, 1) 类条件互信息熵阈值 $\alpha$ (0, 20) 狄利克雷分布参数 $\theta$ (0, 1) 多项式分布参数 $\eta$ (-10.0, 3.0) 伯努利分布参数 $\Omega$ ((0, 1), (0, 0.2)) 高斯分布参数 $N$ $> 2$ 特征维度 $C$ $> 2$ DMNB模型分量参数 $\varepsilon_\mathcal{L}$ (0, 1) EM收敛阈值
下载: 导出CSV
表 3 NLPR数据集和NJU-DS2000数据集分布情况
Table 3 The benchmark and existing 3D saliency detection dataset
数据集 图片数 显著目标数 场景种类 中央偏置 NLPR 1000 (大多数)一个 11 是 NJU-DS2000 2000 (大多数)一个 $>$ 20 是
下载: 导出CSV
表 4 NLPR数据集处理一幅RGB-D图像平均时间比较
Table 4 Comparison of the average running time for per RGB-D image on the NLPR dataset
数据集 GMR MC MDF ACSD LMH GP BFSD NLPR 2.9s 72.7s $942.3$s 0.2s 2.8s 38.9s 80.1s
下载: 导出CSV
表 5 AUC值比较
Table 5 Comparison of the AUC on the NLPR dataset
显著分布情况 ACSD GMR MC MDF LMH GP BFSD 颜色-深度显著 0.61 0.73 0.81 0.82 0.70 0.79 0.83 颜色显著 0.56 0.74 0.84 0.83 0.61 0.65 0.84 深度显著 0.63 0.71 0.76 0.74 0.75 0.81 0.90 总体 0.60 0.73 0.81 0.80 0.69 0.78 0.85
下载: 导出CSV
-
[1] Borji A, Itti L. State-of-the-art in visual attention modeling. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2013, 35(1): 185-207 doi: 10.1109/TPAMI.2012.89 [2] Wang Wen-Guan, Shen Jian-Bing, Shao Ling, Porikli Fatih. Correspondence driven saliency transfer. IEEE Transaction on Image Processing, 2016, 25(11): 5025-5034 doi: 10.1109/TIP.2016.2601784 [3] 丁正虎, 余映, 王斌, 张立明.选择性视觉注意机制下的多光谱图像舰船检测.计算机辅助设计与图形学学报, 2011, 23(3): 419-425 http://d.old.wanfangdata.com.cn/Periodical/jsjfzsjytxxxb201103007Ding Zheng-Hu, Yu Ying, Wang Bin, Zhang Li-Ming. Visual attention-based ship detection in multispectral imagery. Journal of Computer-Aided Design & Computer Graphics, 2011, 23(3): 419-425 http://d.old.wanfangdata.com.cn/Periodical/jsjfzsjytxxxb201103007 [4] Gao D S, Han S Y, Vasconcelos N. Discriminant saliency, the detection of suspicious coincidences, and applications to visual recognition. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2009, 31(6): 989-1005 doi: 10.1109/TPAMI.2009.27 [5] Jian M W, Dong J Y, Ma J. Image retrieval using wavelet-based salient regions. The Imaging Science Journal, 2011, 59(4): 219-231 doi: 10.1179/136821910X12867873897355 [6] 王向阳, 杨红颖, 郑宏亮, 吴俊峰.基于视觉权值的分块颜色直方图图像检索算法.自动化学报, 2010, 36(10): 1489-1492 doi: 10.3724/SP.J.1004.2010.01489Wang Xiang-Yang, Yang Hong-Ying, Zheng Hong-Liang, Wu Jun-Feng. A color block-histogram image retrieval based on visual weight. Acta Automatica Sinica, 2010, 36(10): 1489-1492 doi: 10.3724/SP.J.1004.2010.01489 [7] 冯欣, 杨丹, 张凌.基于视觉注意力变化的网络丢包视频质量评估.自动化学报, 2011, 37(11): 1322-1331 doi: 10.3724/SP.J.1004.2011.01322Feng Xin, Yang Dan, Zhang Ling. Saliency variation based quality assessment for packet-loss-impaired videos. Acta Automatica Sinica, 2011, 37(11): 1322-1331 doi: 10.3724/SP.J.1004.2011.01322 [8] Gupta R, Chaudhury S. A scheme for attentional video compression. In: Proceedings of the 4th International Conference on Pattern Recognition and Machine Intelligence. Moscow, Russia: IEEE, 2011. 458-465 [9] Guo C L, Zhang L M. A novel multiresolution spatiotemporal saliency detection model and its applications in image and video compression. IEEE Transactions on Image Processing, 2010, 19(1): 185-198 http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=560c7c523a5fae193c072cc702070cd8 [10] Kim W, Kim C. A novel image importance model for content-aware image resizing. In: Proceedings of the 18th IEEE International Conference on Image Processing. Brussels, Belgium: IEEE, 2011. 2469-2472 [11] 江晓莲, 李翠华, 李雄宗.基于视觉显著性的两阶段采样突变目标跟踪算法.自动化学报, 2014, 40(6): 1098-1107 doi: 10.3724/SP.J.1004.2014.01098Jiang Xiao-Lian, Li Cui-Hua, Li Xiong-Zong. Saliency based tracking method for abrupt motions via two-stage sampling. Acta Automatica Sinica, 2014, 40(6): 1098-1107 doi: 10.3724/SP.J.1004.2014.01098 [12] 黎万义, 王鹏, 乔红.引入视觉注意机制的目标跟踪方法综述.自动化学报, 2014, 40(4): 561-576 doi: 10.3724/SP.J.1004.2014.00561Li Wan-Yi, Wang Peng, Qiao Hong. A survey of visual attention based methods for object tracking. Acta Automatica Sinica, 2014, 40(4): 561-576 doi: 10.3724/SP.J.1004.2014.00561 [13] Le Callet P, Niebur E. Visual attention and applications in multimedia technologies. Proceedings of the IEEE, 2013, 101(9): 2058-2067 doi: 10.1109/JPROC.2013.2265801 [14] Wang J L, Fang Y M, Narwaria M, Lin W S, Le Callet P. Stereoscopic image retargeting based on 3D saliency detection, In: Proceedings of 2014 International Conference on Acoustics, Speech, and Signal Processing. Florence, Italy: IEEE, 2014. 669-673 [15] Kim H, Lee S, Bovik A C. Saliency prediction on stereoscopic videos. IEEE Transactions on Image Processing, 2014, 23(4): 1476-1490 doi: 10.1109/TIP.2014.2303640 [16] Zhang Y, Jiang G Y, Yu M, Chen K. Stereoscopic visual attention model for 3D video. In: Proceedings of the 16th International Conference on Multimedia Modeling. Chongqing, China: Springer, 2010. 314-324 [17] Uherčík M, Kybic J, Zhao Y, Cachard C, Liebgott H. Line filtering for surgical tool localization in 3D ultrasound images. Computers in Biology and Medicine, 2013, 43(12): 2036-2045 doi: 10.1016/j.compbiomed.2013.09.020 [18] Zhao Y, Cachard C, Liebgott H. Automatic needle detection and tracking in 3D ultrasound using an ROI-based RANSAC and Kalman method. Ultrasonic Imaging, 2013, 35(4): 283-306 doi: 10.1177/0161734613502004 [19] Itti L, Koch C, Niebur E. A model of saliency-based visual attention for rapid scene analysis. IEEE Transactions on Pattern Analysis and Machine Intelligence, 1998, 20(11): 1254-1259 doi: 10.1109/34.730558 [20] 胡正平, 孟鹏权.全局孤立性和局部同质性图表示的随机游走显著目标检测算法.自动化学报, 2011, 37(10): 1279-1284 doi: 10.3724/SP.J.1004.2011.01279Hu Zheng-Ping, Meng Peng-Quan. Graph presentation random walk salient object detection algorithm based on global isolation and local homogeneity. Acta Automatica Sinica, 2011, 37(10): 1279-1284 doi: 10.3724/SP.J.1004.2011.01279 [21] Cheng M M, Mitra N J, Huang X L, Torr P H S, Hu S M. Global contrast based salient region detection. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2015, 37(3): 569-582 doi: 10.1109/TPAMI.2014.2345401 [22] 唐勇, 杨林, 段亮亮.基于图像单元对比度与统计特性的显著性检测.自动化学报, 2013, 39(10): 1632-1641 doi: 10.3724/SP.J.1004.2013.01632Tang Yong, Yang Lin, Duan Liang-Liang. Image cell based saliency detection via color contrast and distribution. Acta Automatica Sinica, 2013, 39(10): 1632-1641 doi: 10.3724/SP.J.1004.2013.01632 [23] 郭迎春, 袁浩杰, 吴鹏.基于Local特征和Regional特征的图像显著性检测.自动化学报, 2013, 39(8): 1214-1224 doi: 10.3724/SP.J.1004.2013.01214Guo Ying-Chun, Yuan Hao-Jie, Wu Peng. Image saliency detection based on local and regional features. Acta Automatica Sinica, 2013, 39(8): 1214-1224 doi: 10.3724/SP.J.1004.2013.01214 [24] 徐威, 唐振民.利用层次先验估计的显著性目标检测.自动化学报, 2015, 41(4): 799-812 doi: 10.16383/j.aas.2015.c140281Xu Wei, Tang Zhen-Min. Exploiting hierarchical prior estimation for salient object detection. Acta Automatica Sinica, 2015, 41(4): 799-812 doi: 10.16383/j.aas.2015.c140281 [25] Shi K Y, Wang K Z, Lu J, B Lin L. PISA: pixelwise image saliency by aggregating complementary appearance contrast measures with spatial priors. In: Proceedings of 2013 IEEE Conference on Computer Vision and Pattern Recognition. Portland, OR, USA: IEEE, 2013. 2115-2122 [26] Judd T, Ehinger K, Durand F, Torralba A. Learning to predict where humans look. In: Proceedings of the 12th International Conference on Computer Vision. Kyoto, Japan: IEEE, 2009. 2106-2113 [27] Liu T, Yuan Z J, Sun J, Wang J D, Zheng N N, Tang X O, et al. Learning to detect a salient object. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2011, 33(2): 353-367 doi: 10.1109/TPAMI.2010.70 [28] Wei Y C, Wen F, Zhu W J, Sun J. Geodesic saliency using background priors. In: Proceedings of the 12th European Conference on Computer Vision. Firenze, Italy: Springer, 2012. 29-42 [29] 钱生, 陈宗海, 林名强, 张陈斌.基于条件随机场和图像分割的显著性检测.自动化学报, 2015, 41(4): 711-724 doi: 10.16383/j.aas.2015.c140328Qian Sheng, Chen Zong-Hai, Lin Ming-Qiang, Zhang Chen-Bin. Saliency detection based on conditional random field and image segmentation. Acta Automatica Sinica, 2015, 41(4): 711-724 doi: 10.16383/j.aas.2015.c140328 [30] Shen X H, Wu Y. A unified approach to salient object detection via low rank matrix recovery. In: Proceedings of 2012 IEEE Conference on Computer Vision and Pattern Recognition. Providence, RI, USA: IEEE, 2012. 853-860 [31] Jiang H Z, Wang J D, Yuan Z J, Liu T, Zheng N N, Li S P. Automatic salient object segmentation based on context and shape prior. In: Proceedings of 2011 British Machine Vision Conference. Dundee, UK: BMVA Press, 2011. 110.1-110.12 [32] Yang C, Zhang L H, Lu H C, Ruan X, Yang M H. Saliency detection via graph-based manifold ranking. In: Proceedings of 2013 IEEE Conference on Computer Vision and Pattern Recognition. Portland, OR, USA: IEEE, 2013. 3166-3173 [33] Zhao R, Ouyang W L, Li H S, Wang X G. Saliency detection by multi-context deep learning. In: Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Boston, MA, USA: IEEE, 2015. 1265-1274 [34] Li G B, Yu Y Z. Visual saliency detection based on multiscale deep CNN features. IEEE Transactions on Image Processing, 2016, 25(11): 5012-5024 doi: 10.1109/TIP.2016.2602079 [35] Lang C Y, Nguyen T V, Katti H, Yadati K, Kankanhalli M, Yan S C. Depth matters: influence of depth cues on visual saliency. In: Proceedings of 12th European Conference on Computer Vision. Firenze, Italy: Springer, 2012. 101-115 [36] Desingh K, Krishna K M, Rajan D, Jawahar C V. Depth really matters: improving visual salient region detection with depth. In: Proceedings of 2013 British Machine Vision Conference. Bristol, England: BMVA Press, 2013. 98.1-98.11 [37] Niu Y Z, Geng Y J, Li X Q, Liu F. Leveraging stereopsis for saliency analysis. In: Proceedings of 2012 IEEE Conference on Computer Vision and Pattern Recognition. Providence, RI, USA: IEEE, 2012. 454-461 [38] Ju R, Ge L, Geng W J, Ren T W, Wu G S. Depth saliency based on anisotropic center-surround difference. In: Proceedings of 2014 IEEE International Conference on Image Processing. Pairs, France: IEEE, 2014. 1115-1119 http://www.researchgate.net/publication/282375096_Depth_saliency_based_on_anisotropic_center-surround_difference [39] Ren J Q, Gong X J, Yu L, Zhou W H, Yang M Y. Exploiting global priors for RGB-D saliency detection. In: Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition Workshops. Boston, MA, USA: IEEE, 2015. 25-32 http://www.researchgate.net/publication/288507923_Exploiting_global_priors_for_RGB-D_saliency_detection [40] Peng H W, Li B, Xiong W H, Hu W M, Ji R R. RGBD salient object detection: a benchmark and algorithms. In: Proceedings of 13th European Conference on Computer Vision. Zurich, Switzerland: Springer, 2014. 92-109 [41] Fang Y M, Wang J L, Narwaria M, Le Callet P, Lin W S. Saliency detection for stereoscopic images. IEEE Transactions on Image Processing, 2014, 23(6): 2625-2636 doi: 10.1109/TIP.2014.2305100 [42] Ciptadi A, Hermans T, Rehg J. An in depth view of saliency. In: Proceedings of 2013 British Machine Vision Conference. Bristol, United Kingdom: BMVA Press, 2013. 112.1-112.11 [43] Wu P L, Duan L L, Kong L F. RGB-D salient object detection via feature fusion and multi-scale enhancement. In: Proceedings of 2015 CCF Chinese Conference on Computer Vision. Xi'an, China: Springer, 2015. 359-368 doi: 10.1007/978-3-662-48570-5_35 [44] Iatsun I, Larabi M C, Fernandez-Maloigne C. Using monocular depth cues for modeling stereoscopic 3D saliency. In: Proceedings of 2014 IEEE International Conference on Acoustics, Speech and Signal Processing. Florence, Italy: IEEE, 2014. 589-593 [45] Ouerhani N, Hugli H. Computing visual attention from scene depth. In: Proceedings of the 15th International Conference on Pattern Recognition. Barcelona, Spain: IEEE, 2000. 375-378 [46] Xue H Y, Gu Y, Li Y J, Yang J. RGB-D saliency detection via mutual guided manifold ranking. In: Proceedings of 2015 IEEE International Conference on Image Processing. Quebec City, QC, Canada: IEEE, 2015. 666-670 [47] Wang J L, Da Silva M P, Le Callet P, Ricordel V. Computational model of stereoscopic 3D visual saliency. IEEE Transactions on Image Processing, 2013, 22(6): 2151-2165 doi: 10.1109/TIP.2013.2246176 [48] Iatsun I, Larabi M C, Fernandez-Maloigne C. Visual attention modeling for 3D video using neural networks. In: Proceedings of 2014 International Conference on 3D Imaging. Liege, Belglum: IEEE, 2014. 1-8 [49] Fang Y M, Lin W S, Fang Z J, Lei J J, Le Callet P, Yuan F N. Learning visual saliency for stereoscopic images. In: Proceedings of 2014 IEEE International Conference on Multimedia and Expo Workshops. Chengdu, China: IEEE, 2014. 1-6 [50] Bertasius G, Park H S, Shi J B. Exploiting egocentric object prior for 3D saliency detection. arXiv: 1511.02682, 2015. [51] Achanta R, Shaji A, Smith K, Lucchi A, Fua P, Süsstrunk S. Slic superpixels compared to state-of-the-art superpixel methods. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2012, 34(11): 2274-2282 doi: 10.1109/TPAMI.2012.120 [52] Qu L Q, He S F, Zhang J W, Tian J D, Tang Y D, Yang Q X. RGBD salient object detection via deep fusion. IEEE Transactions on Image Processing, 2017, 26(5): 2274-2285 doi: 10.1109/TIP.2017.2682981 [53] Gupta S, Hoffman J, Malik J. Cross modal distillation for supervision transfer. In: Proceedings of 2016 IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas, NV, USA: IEEE, 2016. 2827-2836 [54] Shan H H, Banerjee A, Oza N C. Discriminative mixed-membership models. In: Proceedings of the 9th IEEE International Conference on Data Mining. Miami, Florida, USA: IEEE, 2009. 466-475 [55] Wang S T, Zhou Z, Qu H B, Li B. Visual saliency detection for RGB-D images with generative model. In: Proceedings of the 13th Asian Conference on Computer Vision. Taipei, China: Springer, 2016. 20-35 [56] Rish I. An empirical study of the naive Bayes classifier. Journal of Universal Computer Science, 2001, 3(22): 41-46 [57] Blei D M, Jordan M I. Variational inference for dirichlet process mixtures. Bayesian Analysis, 2006, 1(1): 121-143 doi: 10.1214/06-BA104 [58] Sun D Q, Roth S, Black M J. Secrets of optical flow estimation and their principles. In: Proceedings of 2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition. San Francisco, CA, USA: IEEE, 2010. 2432-2439 期刊类型引用(12)
1. 李诗航，孙玉洁，崔建峰，曾建潮，卢志刚. 军用无人系统协同感知与分布式滤波技术. 火力与指挥控制. 2024(03): 88-94 . 
百度学术2. 李颖，杨晓坤，李思嘉，熊洪樟. 基于无迹卡尔曼滤波的反窃电自动化检验系统. 电子设计工程. 2024(13): 104-107+112 . 百度学术3. 胡晓工，苏志坚，贾晓亮，吴光平，刘鹏. 基于分布式容积信息卡尔曼滤波的锂电池SOC估计. 自动化技术与应用. 2024(12): 1-7 . 百度学术4. 符太东，刘松旭，李育强. 基于盲均衡算法的网络大数据异常节点检测. 计算机仿真. 2023(07): 462-466 . 百度学术5. 刘宇，袁正，陈燕苹，彭慧. 基于鲁棒增强的因子图多源信息融合算法. 电子质量. 2023(08): 27-32 . 百度学术6. 刘鹏，徐昕恒，曾建潮，张鹏，卢志刚，马跃东. 机器人单兵室内定位理论与关键技术分析. 火力与指挥控制. 2022(03): 1-7 . 百度学术7. 李旭妍，刘长明，陈燕，畅彦祥. 基于EKF算法的微型AHRS模块设计. 国外电子测量技术. 2022(04): 93-98 . 百度学术8. 刘鹏，于镇滔，曾建潮，张鹏，卢志刚，马跃东. 机器人班组协同定位理论与技术研究. 火力与指挥控制. 2022(04): 5-10+18 . 百度学术9. 李孟委，徐文武，张鹏. 基于四元数互补滤波算法的车载MIMU. 河南理工大学学报(自然科学版). 2021(01): 111-117 . 百度学术10. 李维刚，张鹏，李孟委，王树森. 基于卡尔曼滤波的主子惯组匹配标定方法设计. 河南理工大学学报(自然科学版). 2021(02): 118-126 . 百度学术11. 张鹏，王树森，李孟委. SINS/GPS/PDR室内外无缝导航定位算法. 河南理工大学学报(自然科学版). 2021(03): 113-119 . 百度学术12. 曹红燕，刘长明，沈小林，牛兴龙，李大威，陈燕. 基于GPS/INS的自适应无迹Kalman滤波算法. 河南理工大学学报(自然科学版). 2021(06): 149-156 . 百度学术其他类型引用(23)
-
下载:
计量
- 文章访问数: 5393
- HTML全文浏览量: 804
- PDF下载量: 343
- 被引次数: 35
