在实际应用中, 数据通常从不同的角度采集, 称为多视图数据^[1-2]. 多视图学习研究^[2-7]表明, 有效利用不同视图之间的一致性和互补性可以显著提高任务(如多视图聚类/分类)性能. 在聚类方面, 已有大量的研究将单视图聚类扩展到多视图聚类. 在这些方法中, 基于自表示的多视图子空间聚类^[8-12]方法通过可学习的关系矩阵处理复杂的高维数据, 取得了显著效果. 最近,一些相关研究^[13-15]将谱聚类和自表示关系图联合优化, 进一步提高多视图融合效果.

尽管基于自表示的多视图子空间聚类技术已经引起了人们的广泛关注, 并取得了很好的性能, 但是这些方法只适用于具有完整视图的数据, 不能处理具有缺失视图的数据. 对于视图缺失的情况, 现有的方法大多是先对缺失值进行补全, 然后对后续任务应用传统的多视图学习算法. 广泛使用的数据补全方法之一是矩阵补全^[16-17], 它基于低秩假设,对于随机缺失情况具有较好的效果. 基于深度学习的补全方法^[18-22]通常通过将问题建模为视图转换, 从可用视图生成缺失视图. 这些方法侧重于缺失视图的填充, 而不是具体的分析任务(如聚类), 因此不能保证后续任务的性能. 现有的不完整多视图聚类方法^[23-25]没有考虑与缺失视图对应的(互补)信息的一致性, 因此在挖掘不同视图之间的相关性时缺乏合理性和鲁棒性.

上述解决视图缺失问题的方法主要有以下局限性: 1)对于具有任意视图缺失模式的数据样本, 当前的补全方法通常不够灵活.此外, 对于具有较多视图的数据, 视图缺失模式(即可用视图的组合)将变得更加复杂, 这将导致大多数现有视图补全方法无法使用; 2)现有缺失视图聚类方法没有有效地利用多个视图之间的高阶相关性^{[8-9, 11]}. 为了解决上述问题, 本文提出了一种新颖的多视图聚类方法, 它可以同时补全缺失的数据和探索多个视图之间的高阶相关性. 所提模型的框架如图1所示.

图 1  同时用$P(X|H)$对隐空间$H$进行建模, 并基于隐表示生成完整特征. 根据完整的数据, GM-PMVC将子空间表示集成到一个张量中, 可以挖掘多视图数据高阶相关性

Fig. 1  Illustration of generative model for partial multi-view clustering (GM-PMVC). Given incomplete multi-view data, we simultaneously model latent space $H$ by $P(X|H)$ and generate complete feature based on latent representation. According to the completed data, GM-PMVC integrates subspace representation into a tensor which can effectively explores higher-order correlations equipped with low-rank constraint

下载: 全尺寸图片 幻灯片

本文的贡献总结如下: 1) 针对不完整视图数据, 提出了一种新的多视图子空间聚类算法, 该算法能够在统一的框架下补全缺失数据并进行多视图聚类. 因此, 数据补全和聚类可以迭代地相互促进; 2) 与现有的不完整多视图聚类算法相比, 该算法能够灵活地处理具有任意视图缺失模式的数据, 并利用生成模型和高阶张量充分挖掘不同视图之间的相关性; 3) 利用增广拉格朗日交替方向最小化(AL-ADM)方法对算法进行了有效的优化, 并在不同的数据集上进行了充分实验. 结果表明, 在不同的缺失率下, 该算法比现有算法具有更好的性能.

1.   张量奇异值分解(t-SVD)及其核范数(t-TNN)

本文所使用的主要符号和定义. 如表1所示:

表 1  符号与定义

Table 1  Notations and definitions

$b$	标量	$B$	矩阵
${\boldsymbol{b}}$	向量	${\cal{B}}$	张量
${\cal{I}}$	单位张量	$fft$	快速傅里叶变换
${\cal{B}}_{ijk}$	张量${\cal{B}}$第$(i,j,k)$元素	${\cal{Q}}$	正交张量
${\cal{B}}(i,:,:)$	第$i$水平切片	${\cal{B}}^{\rm T}$	${\cal{B}}$的转置
${\cal{B}}(:,i,:)$	第$i$侧面切片	${\cal{B}}_{f}$	$fft({\cal{B}},[],3)$
${\cal{B}}(:,:,i)$	第$i$正面切片	$B^{(i)}$	${\cal{B}}(:,:,i)$
$||B||_{F}$	$\sqrt{\sum\nolimits_{i,j}|B_{ij}|^{2}}$	$||B||_{*}$	矩阵$B$奇异值之和
$||{\cal{B}}||_{F}$	$\sqrt{\sum\nolimits_{i,j,k}|{\cal{B}}_{ijk}|^{2}}$	$||{\cal{B}}||_{1}$	$\sum\nolimits_{i,j,k}|{\cal{B}}_{ijk}|$

下载: 导出CSV 

| 显示表格

为了引入t-SVD和其产生的张量核范数, 本文首先介绍相关的张量操作. 具体地, 假设对于任意三阶张量表示为$ {\cal{B}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}} $, 则其块循环矩阵可以表示为:

块对角化矩阵及其逆过程可以定义为:

张量展开$ unfold(\cdot) $及其逆过程$ fold(\cdot) $定义为:

为了简明表示, 相关定义如下:

定义 1. 张量积 (t-product): 张量 ${\cal{B}} \in $$ {\bf R}^{n_{1} \times n_{2} \times n_{3}}$和$ {\cal{C}} \in {\bf R}^{n_{2} \times n_{4} \times n_{3}} $之间的张量积可以定义为 ${\cal{S}} \!=\! {\cal{B}}*{\cal{C}} \!=\! fold\{bcirc({\cal{B}})unfold({\cal{C}})\} \!\in \!{\bf R}^{n_{1} \times n_{4} \times n_{3}}$.

由于空间域的卷积运算等于频域的点积运算, 根据循环矩阵乘法(即循环卷积)的性质, 自然可以利用快速傅立叶变换(FFT)来优化张量积的运算速度.

定义 2. 正交张量 (Orthogonal tensor): 张量$ {\cal{Q}} \in {\bf R}^{n_{1} \times n_{1} \times n_{3} } $是对角的, 当且仅当

其中, $ {\cal{I}} \in {\bf R}^{n_{1} \times n_{1} \times n_{3}} $是单位张量,其满足第一个正面的切片是 $ n_{1} \times n_{1} $单位矩阵并且其他正面切片的元素全为0. (不失一般性, 张量$ {\cal{P}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}} $的转置为$ n_{2} \times n_{1} \times n_{3} $, 其计算过程为先转置$ {\cal{P}} $的每一个正面的切片, 然后将第2到$ n_{3} $的正面切片在张量中的顺序颠倒).

定义 3. 张量奇异值分解 (t-SVD)^[26]: 给定一个张量$ {\cal{B}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}} $, t-SVD可以表示为${\cal{B}} = {\cal{U}}* $$ {\cal{S}}*\mathcal{V}^{\rm T},$ 其中 $ {\cal{U}} \in {\bf R}^{n_{1} \times n_{1} \times n_{3}} ,$ $ \mathcal{V} \in {\bf R}^{n_{2} \times n_{2} \times n_{3}} $均是对角的, $ {\cal{S}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}} $ 是f 对角. 其中, 如果一个张量是f 对角的, 那么其每个正面切片都是对角的.

定义 4. 张量多秩 (Tensor multi-rank): 张量$ {\cal{B}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}} $的多秩是一个向量 $ {\pmb p} $, 其第$ i $个元素为$ {\cal{B}}_{f} $的第$ i $正面切片的秩.

基于t-SVD的张量核范数(t-TNN)定义为

其中$ {\cal{S}}_{f} $可以通过算法1中的快速傅里叶变换获得. 张量多秩被证明是一种有效的范数, 是张量多秩的$ l_1 $范数的最紧凸松弛^[27-28].

2.   生成式不完整多视图聚类模型

在本节中将首先引入生成模型来估算部分数据的缺失视图, 然后在完整数据的基础上进一步引入多秩张量来建模不同视图之间潜在的高阶相关性.

所提算法是基于子空间聚类的, 对于高维数据, 由于它能够恢复低维数据的子空间结构, 因此非常有效. 其基本假设是每个数据点可以通过所有数据点的线性组合来重建. 它的工作原理是构造一个关系矩阵来编码数据的“自表示”. 给定从多个子空间(簇)采集的N个数据样本 ${\boldsymbol{X}} = [{\boldsymbol{x}}_{1}, \cdots, {\boldsymbol{x}}_{N}]\in {\bf R}^{D \times N}$, 子空间聚类的形式可以表示为:

其中$ {\cal{L}}(\cdot,\cdot) $和$ \Theta(\cdot) $分别表示为数据重建损失和关系矩阵$ {Z} $的正则项, 而$ \lambda $是平衡这两项的超参数. 在获得自表示关系矩阵$ {Z} $后, 可以更进一步得到用来做谱聚类的相似度矩阵${S} = \dfrac{1}{2}(|{Z}|+|{Z}^{\rm T}|)$.

2.1   多视图生成模型

给定一组来自$ V $个视图的$ N $个样本, 表示为$ {X}^{(v)} = \{{\boldsymbol{x}}^{(v)}_i\}^{N}_{i = 1} \in {\bf R}^{d_{v} \times N} $, 其中$ d_{v} $是第$ v $个视图数据的维度. 考虑视图缺失的复杂情况(即任意的$ {\boldsymbol{x}}_i^{(v)} $可能缺失, 其中$ i \in [1, N] $且$ v \in [1, V] $), 为第$ v $个视图引入0/1对角指示矩阵$ \Omega^{(v)}\in {\bf R}^{N \times N} $来指明数据的缺失情况. 具体地, $ \Omega^{(v)}_{ii} $值取0用以指示第$ v $个视图的第$ i $个样本缺失, 反之, 指示第$ v $个视图的第$ i $个样本存在, $ {X}^{(v)}\Omega^{(v)} $表示第$ v $个视图所有非缺失数据^[29].

与现有的直接用均值填充缺失数据或忽略重建损失中缺失值的方法不同, 本文旨在联合生成缺失数据并整体上挖掘多视图之间的相关性. 为了实现这个目标, 本文提出了一个生成模型−使用共享的隐表示$ {\boldsymbol{h}} $来生成不同的视图(例如: $ {\boldsymbol{x}}^{(v)}_{i} = f_{v}({\boldsymbol{h}}_{i}) $, 其中$ f_{v} $表示第$ v $视图转换函数). 一般来说, 给定共享的隐表示$ {\boldsymbol{h}}_{i} $, 在假设每个视图都是条件独立的前提下对生成目标建模. 为了描述方便, 本文定义了${\cal{S}}_i = $$ \{{\boldsymbol{x}}_{i}^{(v)}\}_{v = 1}^{V}$, 相应地可以得到

式(7)表示所有视图$P\left({\boldsymbol{x}}_{i}^{(v)}|{\boldsymbol{h}}_{i}\right)$的联合分布. 其中, 对似然函数建模:

其中$\Delta\left({\boldsymbol{x}}_{i}^{(v)}, f_v({\boldsymbol{h}}_{i}; \Theta_v)\right)$表示重建损失, $ \Theta_v $是$ f_v(\cdot) $的参数. 因此, 通过假设数据服从独立同分布(IID), 可以得到如下的对数似然函数:

由于最大化似然函数等价于最小化损失$ \Delta $, 考虑到缺失的情况, 可以获得生成模型部分的以下目标函数:

其中本文使用了线性映射$ {P}^{(v)} $来表示转换函数. 由于数据中可能存在噪声. 本方法引入了一个误差项$ {E}_1 $. 然后将目标函数转换为:

$ ||\cdot||_{2,1} $ 表示重建误差项$ {E}^{(v)}_1 $的$ l_{2,1} $范数, $||{E}^{(v)}_1||_{2,1} = $$ \displaystyle \sum\nolimits_{j = 1}^{N}\sqrt{\displaystyle \sum\nolimits_{i = 1}^{N}{E}_{ij}^2}$期望误差项$ {E}^{(v)}_1 $的列趋于零^[30].

2.2   总体目标函数

实际上, 应该计算每个视图中每个样本对之间的相似性. 然而, 视图不完整的情况导致无法计算完整的相似度矩阵. 通过引入隐表示$ {\boldsymbol{h}} $, 可以动态生成缺失的视图, 从而使得每个样本具有完整的视图. 相应地, 利用基于低秩张量约束的子空间聚类来构造样本对之间的关系. 相应地, 目标函数如下:

其中$ {Z}^{(v)} $和$ {E}^{(v)}_2 $分别对应第$ v $个视图的子空间自表示矩阵和误差矩阵. $ \lambda_{1},\lambda_{2} $为超参数. 更进一步, 函数$ \delta $将所有关系矩阵$ {Z}^{(v)} $拼接为一个三阶张量, $ ||{\cal{Z}}||_{*} $表示张量多秩的低秩约束(见定义4).

为了使所提的目标可解, 本文引入中间变量$ {\cal{G}} $替代$ {\cal{Z}} $, $ {X}^{(v)}_{c} $表示生成的完整数据. 因此, 可得无约束目标函数:

为了方便表示, 定义$\phi({Y}, {A}) = \dfrac{\mu}{2}||{A}||^{2}_{F}+\langle {Y},{A} \rangle$, 其中$ \langle \cdot,\cdot \rangle $表示矩阵的内积, $ {Y} $为拉格朗日乘子矩阵, $ \mu $是一个正惩罚标量, 可以通过自适应策略进行更新^[31].

2.3   优化

模型的目标函数中存在多个变量块, 无法保证对整体变量具有凸性, 此处采用交替方向最小化策略^[31], 即通过固定其他变量来交替更新每个变量. 因此, 优化可以分解为如下多个优化子问题:

H-子问题: 固定其他变量后, 通过最小化以下目标来更新$ {H} $:

得到与$ {H} $相关的导数并将其设置为零.可以使用以下规则更新$ {H} $:

对于每个视图, 变量块$ {P}^{(v)}, {X}^{(v)}_{c}, {Z}^{(v)}, {E}^{(v)} $和$ {Y}^{(v)} $可以类似地更新.

P-子问题: 固定其他变量, 通过解决以下问题来更新$ {P}^{(v)} $:

具体地, 通过以下公式更新$ {P}^{(v)} $

Z-子问题: 为了更新子空间表示$ {Z}^{(v)} $, 需要解决以下子问题:

设$ {Z}^{(v)} $的目标函数的导数为零, 最终可以得到如下更新规则:

$ {X}_{c} $-子问题: 变量$ {X}_{c} $可以通过以下方式更新:

E-子问题: 重建误差 $ {E}^{(v)}_{1}, {E}^{(v)}_{2} $与如下的目标关联, 如下:

上面的子问题可以用文献[1]中的引理4.1来解决.

$ {\cal{G}} $-子问题: 固定其他参数, 通过优化如下目标获得更新:

进一步, 可转化为以下优化问题

类似于矩阵核范数^[16], 张量核范数可以基于t-SVD分解实现优化目标, 细节见算法1.

更新乘子项 最后, 根据LADMAP^[31]算法更新各个乘子系数矩阵:

其中, ${\rm{max}}_\mu$ 和$\rho $ 分别对应于乘子系数的上限和正系数.

算法1. 基于t-SVD的张量低秩约束

输入: 张量${\cal{F}} \in {\bf R}^{n_{1} \times n_{2} \times n_{3}}$, 标量$ {\rm \tau} > 0 $

输出: 张量${\cal{G}}$

1) ${\cal{F}}_{f}$ = fft(${\cal{F}},[],3),{\rm \tau}' = n_{3}{\rm \tau} $;

2) ${{\rm{for}}}\;j = 1 : n_{3}\;{{\rm{do}}}$

3) 　$\left[{\cal{U}}_{f}^{(j)},{\cal{S}}_{f}^{(j)},{\cal{V}}_{f}^{(j)}\right]$ = SVD$\left( {\cal{F}}_{f}^{(j)}\right)$;

4) 　${{\rm{for}}}\;i = 1 : \min(n_{1}, n_{2})\;{{\rm{do}}}$

5) 　　${\cal{J}}_{f}^{(j)} = {\rm{diag}}{\left\{1-\frac{{\rm \tau}'}{{\cal{S}}_{f}^{(j)}(i,i)}\right\}}$;

6) 　${{\rm{end}}}$

7) 　${\cal{S}}_{f,{\rm \tau}'}^{(j)} = {\cal{S}}_{f}^{(j)}{\cal{J}}_{J}^{(j)}$;

8) 　${\cal{G}}_{f}^{(j)} = {\cal{U}}_{f}^{(j)}{\cal{S}}_{f,{\rm \tau}'}^{(j)}{\cal{V}}_{f}^{(j){\rm T}}$;

9) ${{\rm{end}}}$

10) ${\cal{G}}$ = ifft(${\cal{G}}_{f}$,[],3).

算法2. 不完整多视图数据聚类

输入: 特征和指示器$\left\{{X}^{(v)},{\Omega}^{(v)}\right\}^{V}_{v = 1}$,参数$\lambda_{1},\lambda_{2}$, 簇数$K$

输出: 聚类结果

初始化: $\mu = 10^{-5},{\rm \epsilon} = 10^{-5}, {\rm \rho} = 1.5, {\rm{max}}_\mu = 10^{10}$;

随机化 ${H},\{{P}^{(v)}, {X}^{(v)}_{c}\}^{V}_{v = 1}$;

$\left\{{Z}^{(v)}, {E}^{(v)}, {G}^{(v)},\left\{{Y}^{(v)}_{i}\right\}^{4}_{i = 1}\right\}^{V}_{v = 1} = {0}$;

1) while not converged do

2) 　用等式(14)更新${H}$;

3) 　for each of V views do

4) 　　依次更新${P}^{(v)},{Z}^{(v)},{X}_{c}^{(v)},{Y}^{(v)}$;

5) 　${{\rm{end}}}$

6) 　${\cal{Z}} = {\Phi}({Z}^{(1)},{Z}^{(2)},\cdots,{Z}^{(V)})$;

7) 　通过子问题(22)用算法1更新${\cal{G}}$;

8) 　用等式(23)更新 ${\cal{Y}}$;

9) 　用$\mu = \min({\rm \rho}\mu$; ${\rm{max}}_\mu$)更新参数$\mu$;

10) 　检查以下收敛条件:

11) 　$\left\|{X}^{(v)}_{c}-{P}^{(v)}{H}-{E}^{(v)}_{1}\right\|_\infty < {\rm \epsilon}$;

12) 　$\left\|{X}_{c}^{(v)}-{X}_{c}^{(v)}{Z}^{(v)}-{E}^{(v)}_{2}\right\|_\infty < {\rm \epsilon}$ and

13) 　$\left\|{{Z}^{(v)}}-{{G}^{(v)}}\right\|_\infty < {\rm \epsilon}$

14) ${{\rm{end}}}$

15) 合并所有视图的子空间自表示 ${S} = \dfrac{1}{V}\sum\nolimits_{v = 1}^V |{{Z}^{(v)}}|+ $$ |{{Z}^{(v)}}^{\rm T}|$;

16) 在${S}$上应用谱聚类算法.

2.4   复杂度分析

所提算法由六个子问题组成. 完整的流程如算法2所示. 更新$ {H} $的复杂度为 ${\rm{O}}(v(k^{2}d+kdn)+ $$ k^{3}+k^{2}n)$, 其中$ v,n,d $和$ k $对应视图个数, 数据样本数量, 多视图特征的平均维数和隐表示的维数. 对于更新$ {P} $, 主要的复杂度是矩阵乘法和隐表示矩阵求逆, 其复杂度为 $ {\rm{O}}(v(kdn+k^{2}n+k^{3})) $. 对于更新$ {Z} $和$ {X}_{c} $, 主要的复杂度是矩阵求逆, 即 $ {\rm{O}}(v(n^{3})) $. 对于更新$ {E} $和乘子项系数, 主要复杂性是矩阵乘法, 即$ {\rm{O}}(v(kdn+kn^{2})) $. 对于$ {G} $子问题, 需要计算$n \times v \times $$ n$张量的傅里叶变换和逆变换, 及其频域中$ n $次$ n \times v $矩阵的SVD分解, 因此该问题的复杂度为${\rm{O}}(vn^{2}\log_2(n)+v^{2}n^{2})$. 总体上, 算法每次迭代更新的复杂度为${\rm{O}}(v(k^{2}d+kdn+k^{2}n+k^{3}+n^{3}+kn^{2}+ $$ n^2\log_2 n+vn^2))$. 因为在多视图情况下, 一般有$n \gg v$, 并且考虑谱聚类复杂度以及迭代次数$ t $, 整体复杂度为${\rm{O}}(tv(n^{3}+kdn+k^2d+k^3))$.

3.   实验

3.1   实验设置

实验主要在如下四个真实数据上进行:

1) Extended YaleB¹. 这个数据集由38个人在不同光照下各64张正面图像构成. 与当前相关方法^[30]类似, 实验中使用前10类 (每个人的所有图像即为同一类) 的图像, 从中提取3种类型的特征, 即有640个正面人脸图像样本的多视图特征.

2) ORL². ORL人脸数据集包含40个人的图像, 其中每个人有10张不同的图像. 图像在不同的时间、光照条件、面部表情状态下拍摄, 包括3种特征.

3) COIL20MV³. Columbia对象图像库(COIL20MV)数据集包含20个对象类别, 一共1440张图像, 这些图像与2个视图关联. 每个类别包含72张图像. 所有图像都被标准化为$ 32 \times 32 $像素阵列, 每个像素具有256灰度级.

4) BBCSport⁴. 该数据集由544篇对应5个主题的体育新闻文档组成, 其中提取了两种不同类型的特征.

在设置的实验中, 对于图像数据集, 本文均提取图像的如下三种特征: 灰度强度、局部二值模式、Garbor特征. 图像的强度特征表示单通道图像像素的值. 局部二值模式是描述图像局部特征的算子, 其具有灰度不变性和旋转不变性等特点. Gabor特征可以用来描述图像纹理信息特征. 图像的强度特征维度取决于图像的大小, 局部二值模式和Garbor特征的维度分别为3304和6750. 对于文本数据集, 每个文本被分为两个部分, 并且分别用TF-IDF归一化方法提取相应特征^[32].

由于所有数据集最初都是完整的, 因此, 实验中采取随机丢弃视图的策略. 本文缺失率定义为$1-\dfrac{\sum\nolimits_{i,v}{\Omega^{(v)}_{ii}}}{N \times V}$, 其中$ \Omega^{(v)}_{ii} $指示第$ i $个样本的第$ v $个视图是否存在. 在实验中, 缺失率从10 %调整到50 %, 步长为10 %. 为确保实验中样本数目的稳定性, 在进行随机丢弃时, 保证每个样本至少有一个视图可用.

为了证明所提方法对于不完整多视图数据是有效的, 将该方法与几种最新的方法进行比较: 联合表示学习与聚类(SRLC)^[25], 基于t-SVD的多视图子空间聚类(t-SVD-MSC)^[8], 不完整多视图聚类(PVC)^[23], 不完整多模态分组(IMG)^[24], 多个不完整视图聚类(MIC)^[33], 双对齐不完整多视图聚类(DAIMC)^[34]. 由于t-SVD-MSC^[8]方法不能处理不完整多视图数据集,因此在预处理阶段用该视图的平均值填充缺失的视图. 为了保证实验对比的公平性, 实验中使用网格搜索方法来调整超参数, 并使用ACC和NMI聚类度量来评估不同方法的性能在每一个数据集上, 分别对每种方法的不同缺失率重复10次实验, 得到其平均性能作为评价.

3.2   实验结果

图2显示了在不同的缺失率下, 不同方法在四个数据集上的聚类性能. 结果表明: 1)随着缺失率的增加, 各种方法的性能都有一定程度的下降. 2)在ORL和BBCsport数据集上, t-SVD-MSC方法表现出比其他方法更好的性能, 表明了低秩约束的有效性, 并且可以有效地探索数据的簇结构. 在另外两个数据集上, 所提方法的实验结果明显优于平均插值的t-SVD-MSC方法. 这是因为在所提模型中, 数据插补和聚类可以迭代地相互改进. 3)缺失率在10 %到50 %之间变化过程中, 所提出的方法始终优于其他比较方法. 特别是对于YaleB和COIL20MV数据集, 所提方法比其他方法有显著的效果提升. 这是因为所提模型可以利用生成模型和高阶张量有效地挖掘不同视图之间的相关性, 以保证聚类的性能.

图 2  在四个数据集上不同缺失率的准确度(ACC)和归一化互信息(NMI) (平均值 ± 标准差)

Fig. 2  Results (mean ± std) in terms of accuracy and NMI on four datasets with different missing rate

下载: 全尺寸图片 幻灯片

3.3   模型分析

超参数选择. 在实验中, 将$ {H} $的维数设为100, 并且提出的模型有两个超参数需要调整$ \lambda_{1} $和$ \lambda_{2} $. $ {H} $的维度是从特定的范围 $\{ {100,200,400,800} \}$中选择的. 在所提的方法中, $ \lambda_{1} $和$ \lambda_{2} $是从$\{ 10^{-2}, 10^{-1}, 10^0, $$ 10^1, 10^2, 10^3\}$中选择的两个折衷参数. 图3 (a)显示了这两个超参数对YaleB的影响.

图 3  YaleB数据集上缺失率为10 %时的模型分析: (a) 参数调整对NMI指标的影响; (b)迭代过程中的收敛条件数值和聚类指数曲线(收敛条件数值已归一化)

Fig. 3  Model analysis on YaleB with missing rate: 10 %: (a) Performence with parameter tuning; (b) Convergence and clustering index curves during iteration (convergence values are normlized)

下载: 全尺寸图片 幻灯片

收敛性分析. 图3 (b)显示了收敛曲线和聚类性能曲线. 可以看出, 在有限的迭代次数内, 收敛曲线下降较快, 聚类性能曲线上升较快, 证明了所设计的优化方法可以在一定的迭代次数下收敛.

4.   结论

本文提出了一种新颖的不完整多视图聚类模型(GM-PMVC), 可以在任意视图缺失的情况下补全缺失并完成子空间聚类. 通过隐表示$ {H} $有效利用所有可用视图信息, 有效地编码基于子空间聚类的多视图互补性(即每一个单一视图都来自于完整的隐空间). 在融合多视图信息的同时, 将各个视图的关系矩阵拼接为三阶张量. 由于高阶张量的低秩约束能有效挖掘数据之间的高阶相关性, 具体地, 基于三阶张量的奇异值分解(t-SVD) (如算法1所示)的低秩约束既能挖掘各个视图内的低维子空间结构, 又能同时保证各个视图关系矩阵之间的一致性. 视图的缺失能通过隐表示$ {H} $补全缺失信息, 所提框架同时补全缺失视图和挖掘多视图的高阶相关性, 两者相互促进, 从而提高聚类效果. 由于该框架涉及多个优化变量, 本文所使用的增广拉格朗日交替方向最小化(AL-ADM)方法能有效优化含复杂约束项的目标函数, 实验证明经过少量迭代次数即能收敛. 所提模型具有相对较高的时间复杂度(如表2所示), 因此模型在优化效率方面还具有改进空间. 本方法在基准数据集上的实验结果与现有的不完整多视图聚类方法相比,验证了GM-PMVC的有效性, 并且在多数验证数据上具有显著的效果提升.

表 2  算法运行时间对比(秒)

Table 2  Algorithm running time comparison (s)

Algorithms	ORL	yaleB
MIC	84.67	143.30
IMG	83.02	169.38
PVC	120.68	404.82
DAIMC	157.76	191.27
SRLCs	93.21	193.36
t-SVD-MSC	56.77	107.03
Ours	180.90	288.50

下载: 导出CSV 

| 显示表格