Improved Multi-dimensional Grey Prediction Model Based on Background Value and Structural Compatibility
-
摘要: 现有的多变量灰色预测模型的背景值估计误差及模型结构单一是导致该模型预测性能不稳定的重要因素, 致使该模型在实际预测领域中应用并不广泛. 本文通过分析背景值函数的几何意义, 结合积分几何面积公式, 提出一种改进的背景值优化方法, 使预测模型在背景值系数的选取上更加灵活.在此基础上, 模型中加入灰色作用量, 提出一种改进背景值及结构相容性的多维灰色预测模型(Improved background value and structure compatibility of grey prediction model, IBSGM(1, N)). 通过对模型参数的改变分析, 新模型理论上可达到与传统单变量和多变量灰色预测模型的兼容性. 为检验新模型的性能, 本文进行了三个案例对比分析, 实验结果表明, 与现有的灰色预测模型(Grey model, GM) GM(1, 1)和GM(1, N)相比较, 所提出的IBSGM(1, N)模型在背景值参数估计上误差明显减小, 结构相容性更强, 泛化性能更好, 具有更高的预测精度.
-
关键词:
- 背景值优化 /
- 结构相容性 /
- 多维灰色预测模型 /
- IBSGM(1, N)
Abstract: The background value estimation error of the existing multivariate gray prediction model and the single model structure are important factors that lead to the unstable prediction performance of the model. Therefore, the model is not widely used in the actual prediction field. In this paper, by analyzing the geometric meaning of the background value function, combined with the integral geometric area formula, an improved background value optimization method is proposed to make the prediction model more flexible in the selection of background value coefficients. On this basis, the gray effect is added to the model, and a new multi-dimensional gray prediction model called improved background value and structure compatibility of grey prediction model (IBSGM(1, N)) is proposed. Through the analysis of the change of model parameters, the new model can theoretically achieve compatibility with traditional univariate and multivariate gray prediction models. In order to test the performance of the new model, this paper conducts a comparative analysis of three cases. The experimental results show that compared with the existing grey prediction model (GM) GM(1, 1) and GM(1, N), the proposed IBSGM(1, N) model has significantly reduced error in background parameter estimation, stronger structural compatibility, better generalization performance, and higher prediction accuracy. -
深度神经网络(Deep neural network, DNN)由于其突出的性能表现, 已经成为人工智能系统的主流模型之一[1-2]. 针对不同的任务, DNN发展出了不同的网络结构和特征学习范式. 其中, 卷积神经网络(Convolutional neural network, CNN)[3-5]通过卷积层和池化层等具备平移不变性的算子处理图像数据; 循环神经网络(Recurrent neural network, RNN)[6-7]通过循环单元处理序列或时序数据. Transformer[8]作为一种新的神经网络结构, 目前已被证实可以应用于自然语言处理(Natural language processing, NLP)、计算机视觉(Computer vision, CV)和多模态等多个领域, 并在各项任务中展现出了极大的潜力.
Transformer[8]兴起于NLP领域, 它的提出解决了循环网络模型, 如长短期记忆(Long short-term memory, LSTM)[6]和门控循环单元(Gate recurrent unit, GRU)[7]等存在的无法并行训练, 同时需要大量的存储资源记忆整个序列信息的问题. Transformer[8]使用一种非循环的网络结构, 通过编码器−解码器以及自注意力机制[9-12]进行并行计算, 大幅缩短了训练时间, 实现了当时最优的机器翻译性能. Transformer模型与循环神经网络以及递归神经网络均具备对序列数据的特征表示能力, 但Transformer打破了序列顺序输入的限制, 以一种并行的方式建立不同词符间的联系. 基于Transformer模型, BERT[13]在无标注的文本上进行了预训练, 最终通过精调输出层, 在11项NLP任务中取得了最优表现. 受BERT启发, 文献[14]预训练了一个名为GPT-3的拥有1 750亿个参数的超大规模Transformer模型, 在不需要进行精调的情况下, 这一模型在多种下游任务中表现出强大的能力. 这些基于Transformer模型的工作, 极大地推动了NLP领域的发展.
Transformer在NLP领域的成功应用, 使得相关学者开始探讨和尝试其在计算机视觉领域的应用[15-16]. 一直以来, 卷积神经网络都被认为是计算机视觉的基础模型. 而Transformer的出现, 为视觉特征学习提供了一种新的可能[17-21]. 基于Transformer的视觉模型在图像分类[15, 22-23]、目标检测[16, 24]、图像分割[25-26]、视频理解[27-28]、图像生成[29]以及点云分析[30-31]等领域取得媲美甚至领先卷积神经网络的效果.
将Transformer应用于视觉任务并非一个自然的过程, 一方面, Transformer网络以序列作为输入形式, 其本身并不直接适用于二维的图像数据[15-16], 将其适配到视觉任务需要经过特殊设计; 另一方面基于全局信息交互的Transformer网络往往具有较大的计算量, 同时对数据量也有较高要求, 因此需要考虑其效率以及训练和优化等问题[32-33]. 此外, Transformer所定义的基于注意力的全局交互机制是否是一种完备的信息提取方式, 来自CNN中的经验和技巧能否帮助Transformer在计算机视觉任务中取得更好的性能也是需要思考的问题[34-35].
同其他Transformer相关的综述文献[17-19]相比, 本文的区别和主要贡献在于我们以视觉Transformer在应用过程中存在的关键问题为角度进行切入, 针对每个关键问题组织并综述了相关文章的解决方案和思路, 而其他文献[17-19]则更多是从技术和方法分类的角度入手. 本文梳理了Transformer在计算机视觉中应用中的若干关键问题, 同时总结了Transformer在计算机视觉的分类、检测和分割任务中的应用和改进. 本文剩余部分组织如下: 第 1 节以ViT[15]为例介绍视觉Transformer的原理和基本组成, 并对比了Transformer与CNN的区别和联系, 同时总结了Transformer的优势和劣势; 第 2 节给出了视觉Transformer的一般性框架; 第 3 节介绍Transformer研究中的关键问题以及对应的研究进展; 第 4 节介绍Transformer在目标检测领域的应用; 第 5 节介绍Transformer在图像分割领域的应用; 第 6 节总结了全文并展望了视觉Transformer的发展趋势.
1. ViT原理介绍与分析
ViT[15]将Transformer结构完全替代卷积结构完成分类任务, 并在超大规模数据集上取得了超越CNN的效果[36-39]. ViT结构如图1所示, 它首先将输入图像裁剪为固定尺寸的图像块, 并对其进行线性映射后加入位置编码, 输入到标准的Transformer编码器. 为了实现分类任务, 在图像块的嵌入序列中增加一个额外的可学习的类别词符(Class token).
1.1 图像序列化
对于NLP任务, Transformer的输入是一维的词符嵌入向量, 而视觉任务中, 需要处理的是二维的图像数据. 因此, ViT[15]首先将尺寸为
$H \times W \times $ $ C$ 的图像$ x \in {\bf{R}}^{H \times W \times C} $ 裁剪为$ N=HW/P^2 $ 个尺寸为$ P\times P \times C $ 的图像块, 并将每个图像块展开成一维向量, 最终得到$ x_p \in {\bf{R}}^{N \times (P^2 \times C)} $ . 记$ d $ 为Transformer输入嵌入向量的维度, ViT[15]将$ x_p $ 进行线性映射, 并与类别词符一起组成为$ d $ 维$ z_0 $ , 如式(1)所示, 作为Transformer编码器的输入.$$ \begin{split} &z_0=[x_{class}; x^1_p E; x^2_p E; \cdots; x^N_p E]+E_{pos},\\ &\qquad E \in {\bf{R}}^{(P^2 \times C) \times d}, E_{pos} \in {\bf{R}}^{(N+1) \times d} \end{split} $$ (1) 其中,
$ z^0_0=x_{class} $ 是为了实现分类任务加入的可学习的类别词符,$ E $ 是实现线性映射的矩阵,$ E_{pos} $ 是位置编码. 类别词符以网络参数的形式定义, 其本身是一种网络权重, 可以通过梯度进行更新. 类别词符$ z^0_0 $ 本身不具备当前输入的特征和信息, 而是在与图像块词符串联后通过自注意力机制实现对图像特征的信息交互或信息聚合, 在编码器最后一层之后, 类别词符$ z^0_L $ 作为对图像特征的聚合, 被送入分类头进行类别预测.1.2 编码器
ViT[15]的编码器由
$ L $ (ViT[15]中,$ L $ = 6)个相同的层堆叠而成, 每个层又由两个子层组成. 其中, 第一个子层是多头自注意力机制(Multi-head self-attention, MSA), 第二个子层是多层感知机(Multi-layer perceptron, MLP). 在数据进入每个子层前, 都使用层归一化(Layer normalization, LN)[40]进行归一化处理, 数据经过每个子层后, 又使用残差连接与输入进行直接融合. 值得注意的是, 为了实现残差连接[5], ViT编码器的每一层的输出维度都设计为$ d $ 维. 最后, 经过$ L $ 层网络编码之后, 类别词符$ z^0_L $ 被送入到由MLP构成的分类头中, 从而预测得到图像的类别$ y $ . 第$ l $ 层的特征计算过程如下:$$ z'_l={\rm{MSA}}({\rm{LN}}(z_{l-1}))+z_{l-1},\quad l=1,\cdots,L $$ (2) $$ z_l={\rm{MLP}}({\rm{LN}}(z'_{l}))+z'_{l},\quad l=1,\cdots,L $$ (3) 类别预测结果的产生可表示为:
$$ \begin{align} y={\rm{LN}}(z_L^0) \end{align} $$ (4) 1.3 注意力机制
注意力机制(Attention)最早应用于NLP任务中[9, 12, 41], 通过引入长距离上下文信息, 解决长序列的遗忘现象. 在视觉任务中, 注意力机制同样被用来建立空间上的长距离依赖, 以解决卷积核感受野有限的问题[42-43].
ViT使用的自注意力机制(Self-attention, SA)是一种缩放点积注意力(Scaled dot-product attention), 其计算过程如图2所示. 自注意力层通过查询(Query)与键(Key)-值(Value)对之间的交互实现信息的动态聚合. 对输入序列
$ z \in {\bf{R}}^{N \times d} $ , 通过线性映射矩阵$ U_{QKV} $ 将其投影得到$ Q $ 、$ K $ 和$ V $ 三个向量. 在此基础上, 计算$ Q $ 和$ K $ 间的相似度$ A $ , 并根据$ A $ 实现对$ V $ 进行加权. 自注意力的计算过程如下所示:$$ \begin{align} [Q, K, V]&=zU_{QKV},U_{QKV} \in {\bf{R}}^{d \times 3 d_h} \end{align} $$ (5) $$ \begin{align} A&={\rm{softmax}}(QK^T/\sqrt{d_h}), A \in {\bf{R}}^{h \cdot d_h \times d} \end{align} $$ (6) 加权聚合过程可表示为:
$$ \begin{align} SA(z)&=AV \end{align} $$ (7) 1.3.1 多头自注意力
为了提高特征多样性, ViT使用了多头自注意力机制. 多头自注意力层使用多个自注意力头来并行计算, 最后通过将所有注意力头的输出进行拼接得到最终结果. 多头注意力计算过程如下所示:
$$ \begin{split} {\rm{MSA}}(z)=[{\rm{SA}}_1 (z);{\rm{SA}}_2 (z);\cdots;{\rm{SA}}_k (z)]U_{msa} \end{split} $$ (8) 其中,
$ U_{msa} \in {\bf{R}}^{h \cdot d_h \times d} $ 为映射矩阵, 用于对拼接后的特征进行聚合,$ h $ 表示自注意力头的个数,$ d_h $ 为每个自注意力头的输出维度. 为了保证在改变$ h $ 时模型参数量不变, 一般将$ d_h $ 设置为$ d/h $ . 多头自注意力机制中并行使用多个自注意力模块, 可以丰富注意力的多样性, 从而增加模型的表达能力.1.4 位置编码
ViT使用了绝对位置编码来弥补图像序列化丢失的图像块位置信息. 位置编码信息与特征嵌入相加后被送入编码器进行特征交互. ViT使用的位置编码由不同频率的正弦和余弦函数构成, 其计算过程如下:
$$ \begin{align} PE_{(pos,2i)} &= \sin(pos/10\,000^{2i/d}) \end{align} $$ (9) $$ \begin{align} PE_{(pos,2i+1)} &= \cos(pos/10\,000^{2i/d}) \end{align} $$ (10) 其中,
$ pos $ 是每个图像块在图像中的位置,$i\in[0,\cdots, $ $ d/2]$ 用于计算通道维度的索引. 对于同一个$ i $ , 通道上第$ 2i $ 和$ 2i+1 $ 个位置的编码是具有相同角速度的正弦和余弦值. 为了使得位置编码可以与输入嵌入相加, 位置编码需要与嵌入保持相同的维度.1.5 Transformer同卷积神经网络的区别与联系
本节主要从连接范围[44]、权重动态性[44]和位置表示能力三个方面来阐述Transformer同卷积神经网络的区别与联系.
1.5.1 连接范围
卷积神经网络构建在输入的局部连接之上, 通过不断迭代, 逐渐扩大感受野, 而Transformer则具备全局交互机制, 其有效感受野能够迅速扩大. 图3展示了语义分割任务中, DeepLabv3+[45]和SegFormer[25]在有效感受野上的对比, 可以看到, 相比于卷积神经网络, Transformer网络的有效感受野范围具备明显优势. 虽然卷积核的尺寸可以设置为全图大小, 但这种设置在图像数据处理中并不常见, 因为这将导致参数量的显著增加.
1.5.2 权重动态性
传统卷积神经网络在训练完成后, 卷积核权重不随输入或滑动窗口位置变化而改变[46], 而Transformer网络通过相似性度量动态地生成不同节点的权重并进行信息聚合. Transformer的动态性与动态卷积[46]具备相似的效果, 都能响应输入信息的变化.
1.5.3 位置表示能力
Transformer使用序列作为输入形式, 其所使用的自注意力机制和通道级MLP模块均不具备对输入位置的感知能力, 因此Transformer依赖位置编码来实现对位置信息的补充. 相比之下, 卷积神经网络处理二维图像数据, 一方面卷积核中权重的排列方式使其具备了局部相对位置的感知能力, 另一方面, 有研究表明[47], 卷积神经网络使用的零填充(Zero padding)使其具备了绝对位置感知能力, 因此, 卷积神经网络不需要额外的位置编码模块.
1.6 ViT的优劣势分析
ViT[15]模型的优势在于其构建了全局信息交互机制, 有助于建立更为充分的特征表示. 此外, ViT采用了Transformer中标准的数据流形式, 有助于同其他模态数据进行高效融合. ViT存在的问题主要在三个方面, 首先全局注意力机制计算量较大, 尤其是面对一些长序列输入时, 其与输入长度成平方的计算代价极大地限制了其在高分辨率输入和密集预测任务中的应用; 其次, 不同于卷积中的局部归纳偏置, ViT模型从全局关系中挖掘相关性, 对数据的依赖较大, 需要经过大量数据的训练才能具备较好效果; 此外, ViT模型的训练过程不稳定且对参数敏感.
2. Transformer研究中的关键问题
本节以图像分类这一基本的视觉任务为切入, 着重介绍Transformer在用于视觉模型骨架时的关键研究问题以及对应的研究进展.
2.1 如何降低Transformer的计算代价
Transformer的设计使其具有全局交互能力, 但同时其全局自注意力机制也带来了较高的时间和空间代价, 如何设计更高效的Transformer机制成为研究热点之一[48]. 原始的Transformer使用了点积注意力机制(Dot-product attention), 其具有二次的时间和空间复杂度, 因此不利于推广到高分辨率图像和特征的处理中. 现有文献主要从输入和注意力设计两个角度来降低Transformer注意力机制的复杂度. 表1总结了多种Transformer模型的自注意力机制的计算复杂度.
表 1 不同Transformer自注意力机制以及卷积的时间和空间复杂度($ N $ ,$ d $ ,$ s $ 分别表示序列长度、特征维度和局部窗口尺寸, 其中$s<N$ )Table 1 The time and space complexity of different Transformer frameworks ($N$ ,$ d $ ,$ s $ denote the length, dimension and local window size respectively)名称 时间复杂度 空间复杂度 Convolution $ {\rm{O}}(Nd^2s) $ $ {\rm{O}}(Ns^2d^2+Nd) $ Transformer[8] $ {\rm{O}}(N^2d) $ $ {\rm{O}}(N^2+Nd) $ Sparse Transformers[49] $ {\rm{O}}(N\sqrt{N}d) $ — Reformer[50] $ {\rm{O}}(N\log Nd) $ $ {\rm{O}}(N\log N+Ld) $ Linear Transformer[33] $ {\rm{O}}(Nd^2) $ $ {\rm{O}}(Nd+d^2) $ Performer[54] $ {\rm{O}}(Nd^2\log d) $ $ {\rm{O}}(Nd\log d+d^2\log d) $ AFT-simple[56] $ {\rm{O}}(Nd) $ $ {\rm{O}}(Nd) $ AFT-full[56] $ {\rm{O}}(N^2d) $ $ {\rm{O}}(Nd) $ AFT-local (1D)[56] $ {\rm{O}}(Nsd) $ $ {\rm{O}}(Nd) $ Swin Transformer (2D)[23] ${\rm{O}}(Ns^2d)$ — 2.1.1 受限输入模式
减少输入到注意力层的序列的长度是降低计算量的直接手段, 现有文献主要从输入下采样、输入局部化和输入稀疏化三个角度来限制序列的长度[49].
1) 输入下采样: PVT[22]通过金字塔型的网络设计将图像分辨率层级尺度衰减, 来逐渐降低图像序列的长度. DynamicViT[51]通过输入学习动态的序列稀疏化策略, 以此逐渐降低图像序列长度. 该类方法在维持全局交互的基础上, 以减小分辨率的形式实现对计算量的降低.
2) 输入局部化: 输入局部化旨在限制注意力的作用范围, 通过设计局部的注意力机制降低计算量, 例如Swin Transformer[23]提出了基于窗口的多头注意力机制, 将图像划分成多个窗口, 仅在窗口内部进行交互.
3) 输入稀疏化: 稀疏化通过采样或压缩输入来降低注意力矩阵的尺寸, 例如, CrossFormer[52]提出了对输入进行间隔采样来构建长距离注意力(Long distance attention). Deformable DETR[24]将可形变卷积的设计引入到注意力的计算中, 通过学习采样点的位置信息实现稀疏交互机制, 在减小计算量的同时维持了较大范围的感受野.
2.1.2 高效注意力机制
核函数方法[33]和低秩分解[53]是用来降低注意力复杂度的主要方法[48]. 表1中总结了不同注意力机制的时间复杂度和空间复杂度, 同时我们给出了卷积算子的复杂度作为参考. 为了方便对比, 我们在卷积复杂度的计算中, 将特征图的长宽乘积等同于Transformer的输入序列长度, 将Transformer的词符特征的维度视为卷积输入与输出通道数, 将局部Transformer的窗口大小
$ s $ 视为卷积核大小.1) 核函数方法(Kernelization): 核函数方法通过重构注意力计算机制打破归一化函数对Q和K计算的绑定, 来降低注意力计算的时间和空间成本[33, 54-55]. 点积注意力机制可被表示为如下形式:
$$ {{D}}({{Q}}, {{K}}, {{V}})=\rho\left({{Q}} {{K}}^{{\rm{T}}}\right) {{V}} $$ (11) 其中,
$ \rho $ 表示激活函数, 在经典Transformer[8]中, 激活函数为Softmax. Efficient attention[32]和Linear Transformer[33]将注意力机制的计算转换为式(12)的形式, 实现对点积注意力的近似.$$ {{E}}({{Q}}, {{K}}, {{V}})=\phi({{Q}})\left(\phi({{K}})^{{\rm{T}}} {{V}}\right) $$ (12) 这种方式避免了对具有
${\rm{O}}\left(N^{2}\right)$ 时间和空间复杂度的注意力图的计算和存储, 提高了注意力的计算效率. AFT[56]采用了类似式(12)的设计, 但使用逐元素相乘代替矩阵的点积运算, 从而进一步降低了计算量.2) 低秩方法(Low-rank methods): 低秩分解假定了注意力矩阵是低秩的, 因此可以将序列长度进行压缩以减少计算量. 考虑到注意力层输出序列长度只与查询的节点个数有关, 因此通过压缩键和值向量的序列长度, 不会影响最终输入的尺寸. PVT[22]、ResT[53]和CMT[34]利用卷积减少了键和值对应的词符个数以降低计算量. SOFT[57]使用高斯核函数替换Softmax点积相似度, 并通过卷积或池化的方式从序列中采样, 实现对原始注意力矩阵的低秩近似.
2.2 如何提升Transformer的表达能力
本小节主要围绕如何提高Transformer模型的表达能力而展开, 视觉Transformer的研究仍处于起步阶段, 一方面可以借鉴CNN的改进思路, 通过类似多尺度等的方案实现对性能的提升, 另一方面由于Transformer基于全局信息的交互, 使其具有不同于CNN的特征提取范式, 从而为引入CNN设计范式进而提升性能提供了可能. CNN的局部性(Locality)设计范式可以丰富Transformer网络的特征多样性, 同时也有利于改善Transformer特征的过度光滑(Over-smoothing)的问题[59]. 此外, 对Transformer本身机制, 如注意力和位置编码等的改进也有望提高其表达能力. 表2展示了不同Transformer模型在ImageNet[4]上的性能对比.
表 2 视觉Transformer算法在ImageNet-1k上的Top-1准确率比较Table 2 The comparison of Top-1 accuracy of different vision Transformers on ImageNet-1k dataset方法名称 迭代轮次 批处理大小 参数量 (×106) 计算量 (GFLOPs) 图像尺寸 Top-1 准确率 训练 测试 ViT-B/16[15] 300 4 096 86 743 224 384 77.9 ViT-L/16[15] 307 5172 224 384 76.5 DeiT-Ti[58] 300 1 024 5 1.3 224 224 72.2 DeiT-S[58] 22 4.6 224 224 79.8 DeiT-B[58] 86 17.6 224 224 81.8 DeiT-B$ \uparrow $[58] 86 52.8 224 384 83.1 ConViT-Ti[60] 300 512 6 1 224 224 73.1 ConViT-S[60] 27 5.4 224 224 81.3 ConViT-B[60] 86 17 224 224 82.4 LocalViT-T[61] 300 1 024 5.9 1.3 224 224 74.8 LocalViT-S[61] 22.4 4.6 224 224 80.8 CeiT-T[73] 300 1 024 6.4 1.2 224 224 76.4 CeiT-S[73] 24.2 4.5 224 224 82.0 CeiT-S$ \uparrow $[73] 24.2 12.9 224 384 83.3 ResT-Small[53] 300 2 048 13.66 1.9 224 224 79.6 ResT-Base[53] 30.28 4.3 224 224 81.6 ResT-Large[53] 51.63 7.9 224 224 83.6 Swin-T[23] 300 1 024 29 4.5 224 224 81.3 Swin-S[23] 50 8.7 224 224 83.0 Swin-B[23] 88 15.4 224 224 83.3 Swin-B$ \uparrow $[23] 88 47.0 224 384 84.2 VOLO-D1[68] 300 1 024 27 6.8 224 224 84.2 VOLO-D2[68] 59 14.1 224 224 85.2 VOLO-D3[68] 86 20.6 224 224 85.4 VOLO-D4[68] 193 43.8 224 224 85.7 VOLO-D5[68] 296 69.0 224 224 86.1 VOLO-D5$ \uparrow $[68] 296 304 224 448 87.0 PVT-Tiny[22] 300 128 13.2 1.9 224 224 75.1 PVT-Small[22] 24.5 3.8 224 224 79.8 PVT-Medium[22] 44.2 6.7 224 224 81.2 PVT-Large[22] 61.4 9.8 224 224 81.7 DeepViT-S[66] 300 256 27 6.2 224 224 82.3 DeepViT-L[66] 55 12.5 224 224 83.1 Refined-ViT-S[59] 300 256 25 7.2 224 224 83.6 Refined-ViT-M[59] 55 13.5 224 224 84.6 Refined-ViT-L[59] 81 19.1 224 224 84.9 Refined-ViT-L$ \uparrow $[59] 512 81 69.1 224 384 85.7 CrossViT-9[63] 300 4 096 8.6 1.8 224 224 73.9 CrossViT-15[63] 27.4 5.8 224 224 81.5 CrossViT-18[63] 43.3 9.0 224 224 82.5 2.2.1 多尺度序列交互
多尺度特征在CNN中已经获得了较为广泛的应用[62], 利用多尺度信息能够很好地结合高分辨率特征和高语义特征, 实现对不同尺度目标的有效学习. 在视觉Transformer中, CrossViT[63]使用两种尺度分别对图像进行划分并独立编码, 对编码后的多尺度特征利用交互注意层实现两种尺度序列之间的信息交互. CrossFormer[52]则借助金字塔型网络, 在不同层得到不同尺度的特征, 之后融合不同层的特征, 以进行跨尺度的信息交互.
2.2.2 图像块特征多样化
DiversePatch[64]发现了在Transformer的深层网络中, 同层图像块的特征之间的相似性明显增大, 并指出这可能引起Transformer性能的退化, 使其性能无法随深度增加而继续提升. 基于该发现, DiversePatch[64]提出了三种方式来提高特征的多样性. 首先, 对网络最后一层的图像块特征之间计算余弦相似度, 并作为惩罚项加入到损失计算中. 其次, 基于对Transformer网络首层图像块特征多样性较高的观察, DiversePatch提出使用对比损失(Contrastive loss)来最小化同一图像块在首层和尾层对应特征的相似性, 而最大化不同图像块在首层和尾层对应特征的相似性. 最后, 基于CutMix[65]的思想, DiversePatch提出了混合损失(Mixing loss), 通过将来自不同图片的图像块进行混合, 使网络学习每个图像块的类别, 以避免特征同质化.
2.2.3 注意力内容多样化
DeepViT[66]观察到Transformer中的注意力坍塌(Attention collapse)现象, 即随着网络加深, 深层注意力图不同层之间的相似性逐渐增大甚至趋同, 并指出注意力相似性增加和特征图相似性增加有密切关系, 从而导致了Transformer性能随层数增加而快速饱和. 为了避免注意力坍塌现象, DeepViT提出了增加词符的嵌入维度的方法和重注意力(Re-attention)机制. 增加词符的嵌入维度有助于词符编码更多信息, 从而提高注意力的多样性, 但同时会带来参数量的显著增加. 重注意力机制基于层内多头注意力的多样性较大的现象, 通过对多头注意力以可学习的方式进行动态组合来提高不同层注意力的差异. 重注意力机制
$ {{R}} $ 可表示为式(13)的形式, 其中$ \Theta \in {\bf{R}}^{h \times h} $ .$$ {{R}}(Q, K, V)=\operatorname{Norm}\left(\Theta^{{\rm{T}}}\left(\rho \left(Q K^{{\rm{T}}}\right)\right)\right) V $$ (13) Refiner[59]基于类似的思想提出了注意力扩张(Attention expansion)和注意力缩减(Attention reduction)模块, 通过学习多头注意力的组合方式来构建多样化的注意力, 并可灵活拓展注意力的个数. 同时, Refiner提出使用卷积来增强注意力图的局部特征, 从而降低注意力图的光滑程度.
2.2.4 注意力形式多样化
经典Transformer中的注意力机制依赖点对间的交互来计算其注意力, 其基本作用是实现自我对齐, 即确定自身相对于其他节点信息的重要程度[67]. Synthesizer[67]指出这种通过点对交互得到的注意力有用但却并不充分, 通过非点对注意力能够实现对该交互方式的有效补充.
1) 非点对注意力(Unpaired attention): Synthesizer[67]提出了两种新的非点对注意力实现方法, 即基于独立词符和全局任务信息的注意力计算方法. 基于独立词符的注意力, 以每一个词符为输入, 在不经过与其他词符交互的情况下, 学习其他词符相对于当前词符的注意力; 基于全局任务信息的注意力生成方法则完全摆脱注意力对当前输入的依赖, 通过定义可训练参数从全局任务信息中学习注意力. 这两种方式可视为从不同的角度来拓展注意力机制, 实验验证了它们同基于点对的注意力能形成互补关系. VOLO[68]同样提出了基于独立词符的注意力生成方法, 并将注意力的范围限制在局部窗口内, 形成了类似动态卷积的方案.
2.2.5 Transformer与CNN的结合
局部性是CNN的一个典型特征, 它是基于临近像素具有较大相关性的假设而形成的一种归纳偏置(Inductive bias)[69-71]. 相比之下, Transformer的学习过程基于全局信息的交互, 因此在学习方式和特征性质等方面与CNN存在一定差异[72], 将CNN与Transformer进行结合有助于提升Transformer网络对特征的学习和表达能力[23, 58, 73-74]. 本节从机理融合、结构融合和特征融合三个角度介绍CNN与Transformer结合的工作.
1) 机理融合: 该方式通过在Transformer网络的设计中引入CNN的局部性来提高网络表达能力. 以Swin Transformer[23]为代表的Transformer网络通过将注意力限制在局部窗口内, 来显式地进行局部交互. 此外, CeiT[73]在FFN模块中, 引入局部特征学习, 以建模局部关系.
2) 结构融合: 这种融合方法通过组合Transformer和CNN的模块形成新的网络结构. CeiT[73]和ViTc[35]将卷积模块添加到Transformer前实现对底层局部信息的提取. MobileViT[75]将Transformer视为卷积层嵌入到卷积神经网络中, 实现了局部信息和全局信息的交互.
3) 特征融合: 该方式在特征级别实现对CNN特征和Transformer特征的融合. 这类方法往往采用并行的分支结构, 并将中间特征进行融合交互. MobileFormer[74]和ConFormer[76]采用并行的CNN和Transformer分支, 并借助桥接实现特征融合. DeiT[58]借助知识蒸馏的思路, 通过引入蒸馏词符(Distillation token)来将CNN的特征引入到Transformer的学习过程中.
2.2.6 相对位置编码
原始Transformer使用绝对位置编码为输入词符提供位置信息, 只能隐式地度量相对位置信息[77]. 相对位置编码 (Relative position encoding, RPE)则直接对序列的距离进行表示, 能够实现对不同长度的序列的表达不变性, 同时相关关系的显式度量也有利于提升模型性能[78].
为了说明不同编码方式在自注意力层的表现不同, 这里针对式(6)和式(7)对自注意力机制进一步说明. 对包含
$ n $ 个元素$ x_i \in {\bf{R}}^{d_x} $ 的输入序列$x= $ $ (x_1, \cdots, $ $ x_n)$ , 自注意力的输出序列为$ z=(z_1, \cdots, z_n) $ , 其中, 每一个输出元素$ z_i \in {\bf{R}}^{d_z} $ 是所有输入元素的加权和, 计算过程如下所示:$$ z_i = \sum\limits^n_{j=1} \alpha_{ij}(x_jW^V) $$ (14) 其中, 每个权重系数
$ \alpha_{ij} $ 通过Softmax计算得到:$$ \alpha_{ij}=\frac{\exp(e_{ij})}{\sum\limits_{k=1}^n \exp(e_{ik})} $$ (15) 其中,
$ e_{ij} $ 通过缩放点积比较两个输入元素计算得到:$$ e_{ij}=\frac{(x_i W^Q)(x_j W^K)^{\rm{T}}}{\sqrt{d_z}} $$ (16) 其中,
$ W^Q $ 、$ W^K $ 和$ W^V \in {\bf{R}}^{d_x \times d_z} $ 是参数矩阵. RPE在自注意力机制中加入输入元素间的相对位置信息, 以提升模型表达能力.Shaw等提出的RPE[78]: 基于自注意力的相对位置编码, 将输入词符建模为有向的全连接图, 任意两个位置
$ i $ 和$ j $ 间的边为可学习的相对编码向量$ p^V_{ij},p^K_{ij} $ . 将编码向量嵌入自注意力机制, 计算过程如下所示:$$ z_i = \sum\limits^n_{j=1} \alpha_{ij}(x_jW^V+p^V_{ij}) $$ (17) $$ e_{ij}=\frac{(x_i W^Q)(x_j W^K+p^K_{ij})^{\rm{T}}}{\sqrt{d_z}} $$ (18) 其中,
$ p^K_{ij}, p^V_{ij} \in {\bf{R}}^{d_z} $ 分别为加在键和值上的可学习的权重参数.Transformer-XL的RPE[79]: 相比Shaw的方法, 该方法加入了全局内容和全局位置偏置, 使得在特定长度序列下训练的模型能够泛化到更长的序列输入上. 计算过程如下所示:
$$ e_{ij}=\frac{(x_i W^Q+u)(x_j W^K)^{\rm{T}}+(x_i W^Q+v)(s_{i-j} W^R)^{\rm{T}}}{\sqrt{d_z}} $$ (19) 其中,
$ u,v \in {\bf{R}}^{d_z} $ 替换原始绝对位置信息的可学习向量,$ s_{i-j} W^R $ 替换绝对位置信息的相对位置信息.$ W^R \in {\bf{R}}^{d_z \times d_z} $ 是可学习的矩阵,$ s $ 是正弦编码向量.Huang等提出的RPE[80]: 相比Shaw的RPE中只建模了键和查询、查询和相对位置编码的交互, 增加了对键和相对位置交互的显式建模, 使其具有更强的表达能力. 计算过程如下所示:
$$ e_{ij}=\frac{(x_i W^Q+p_{ij})(x_j W^K+p_{ij})^{\rm{T}}-p_{ij}p_{ij}^{\rm{T}}}{\sqrt{d_z}} $$ (20) 其中,
$ p_{ij} \in {\bf{R}}^{d_z} $ 是查询和键共享的相对位置编码.相比NLP任务中输入为一维词符序列的语言模型, 视觉任务中输入为二维图像, 因此需要二维的位置信息.
SASA中的RPE[81]: 将二维的相对位置信息分为水平和垂直的两个方向, 在每一个方向进行一维位置编码, 并与特征嵌入相加, 相对位置信息的计算过程如下所示:
$$ e_{ij}=\frac{(x_i W^Q)(x_j W^K+concat(p^K_{\delta x}, p^K_{\delta y}))^{\rm{T}}}{\sqrt{d_z}} $$ (21) 其中,
$ \delta x=x_i-x_j $ 和$ \delta y=y_i-y_j $ 分别为$ x $ 轴和$ y $ 轴的相对位置偏置,$ p^K_{\delta x} $ 和$ p^K_{\delta y} $ 分别为长度为$ \dfrac{1}{2}d_z $ 的可学习向量,$ concat $ 将这两个向量拼接起来组成最终的长度为$ d_z $ 的相对位置编码.Axial-Deeplab中的RPE[81]: 相比SASA中的RPE只在键上加入偏置, 该方法同时对查询、键和值引入了偏置项. 通过轴向注意力, 将二维的注意力先后沿高度和宽度轴分解为两个一维的注意力.
iRPE (image RPE)[82]: 以往的相对位置编码都依赖于输入嵌入, 为了研究位置编码对输入嵌入的依赖关系, 该方法提出了两种相对位置编码模式, 偏置模式和上下文模式. 偏置模式的相对位置编码不依赖输入嵌入, 上下文模式则考虑了相对位置编码与查询、键和值间的交互. 二者都可以表示为如下形式:
$$ e_{ij}=\frac{(x_i W^Q)(x_j W^K)^{\rm{T}}+b_{ij}}{\sqrt{d_z}} $$ (22) 其中,
$ b_{ij} \in {\bf{R}} $ 是决定偏置和上下文模式的二维相对位置编码. 偏置模式下表示为如下形式:$$ b_{ij}=r_{ij} $$ (23) 其中,
$ r_{ij} $ 是可学习的标量, 表示位置$ i $ 和$ j $ 间的距离. 上下文模式下表示为如下形式:$$ b_{ij}=(x_i W^Q)r_{ij}^{\rm{T }} $$ (24) 其中,
$ r_{ij} \in {\bf{R}}^{d_z} $ 是与键相加的可学习偏置向量. 在ImageNet[83]上使用DeiT-S[58]完成分类任务发现, 上下文模式比偏置模式具有更好的表达能力.同时, 为了研究相对位置的方向性是否有助于视觉任务, 设计了不同的相对位置映射函数以实现无方向性位置编码和有方向性位置编码. 无方向的映射包括欧氏距离法和量化欧氏距离法, 都是通过相对位置坐标
$ (x_i-x_j,y_i-y_j) $ 的欧氏距离计算得到:$$ r_{ij}=p_{I(i,j)} $$ (25) $$ I(i,j)=g\left(\left(\sqrt{(x_i-x_j)^2+(y_i-y_j)^2}\right)\right) $$ (26) $$ I(i,j))=g\left(quant\left(\sqrt{(x_i-x_j)^2+(y_i-y_j)^2}\right)\right) $$ (27) 其中, 偏置模式下
$ p_{I(i,j)} $ 是可学习的标量, 上下文模式下是向量.$ g(\cdot) $ 是将相对位置映射为权重的分段函数.$ quant $ 将具有不同相对位置的邻居映射为不同的值.方向性的映射位置编码包括交叉法和乘积法, 交叉法分别计算横纵方向的位置编码, 并进行相加, 其计算过程如下所示:
$$ r_{ij}=p^x_{I^x(i,j)}+p^y_{I^y(i,j)} $$ (28) $$ I^x(i,j)=g(x_i-x_j) $$ (29) $$ I^y(i,j)=g(y_i-y_j) $$ (30) 乘积法将两个方向上的位置偏移构成索引对, 进而产生位置编码如下所示:
$$ r_{ij}=p_{I^x(i,j),I^y(i,j)} $$ (31) 实验发现, 方向性位置编码比非方向性位置编码具有更好的表达能力.
2.3 Transformer的训练和优化问题
Transformer的训练过程需要精心设计学习率以及权重衰减等多项参数, 并且对优化器的选择也较为苛刻, 例如其在SGD优化器上效果较差[35]. 文献[35]和CeiT[73]在图像编码前使用卷积层级来解决Transformer的难优化以及参数敏感的问题, 引入卷积后, 模型对学习率和权重衰减等参数的敏感性得到了显著降低, 收敛速度得到加快, 同时在SGD优化器上也可以进行稳定的学习. 关于在早期引入卷积机制使模型性能得到改善的原因, Raghu等[72]给出了解释和分析, 他们利用充足的数据训练视觉Transformer, 发现模型在性能提升的同时, 其在浅层也逐步建立了局部表示. 这表明浅层局部表示对性能提升可能有显著的影响, 同时也为解释在浅层引入具备局部关系建模能力的卷积层从而提升Transformer的训练稳定性和收敛速度的现象提供了一个思路.
2.4 结构设计问题
本节将从整体结构和局部结构两个角度对Transformer方法以及类Transformer方法进行介绍. 其中, 整体结构上, 我们以图像特征尺寸变化情况为依据, 将其分为单尺度的直筒型结构和多尺度的金字塔型结构[84]; 在局部结构上, 我们主要围绕Transformer中基本特征提取单元的结构, 分析卷积以及MLP方法在其中的替代和补充作用以及由此形成的不同局部结构设计.
2.4.1 单尺度和多尺度结构设计
单尺度和多尺度的结构简图如图4所示[84], 其中交互模块表示空间或通道级的信息交互层, 聚合层表示对全局信息进行聚合, 例如全局最大值池化或基于类别词符的查询机制等. 与单尺度结构相比, 多尺度设计的典型特征在于下采样模块的引入. ViT[15]是单尺度直筒型结构的代表, 其在网络不同阶段中使用同等长度或尺寸的图像词符序列; 与之相对应的是以PVT[22]、Swin Transformer[23]以及CrossFromer[52]等为代表的多尺度金字塔型结构. 多尺度方案可以有效降低网络参数和计算量, 从而使得处理高分辨率数据成为可能. 文献[84]对单尺度和多尺度方法进行了对比, 实验表明多尺度方法相比于单尺度在多种框架中均具备稳定的性能优势.
图 4 单尺度与多尺度结构对比Fig. 4 The comparison of single-scale framework and multi-scale framework2.4.2 交互模块结构设计
如图1所示, 在ViT[15]的编码器结构中, 信息交互模块主要由多头注意力层和MLP层构成, 其中多头自注意力层主要完成空间层级的信息交互, 而MLP主要完成通道级别的信息交互[15]. 当前大多数视觉Transformer的交互模块设计基本都遵循了这一范式, 并以自注意力机制为核心. 同多头注意力机制相比, 虽然卷积以及MLP在原理和运行机制上与之存在差异, 但它们同样具备空间层级信息交互的能力, 因此许多工作通过引入卷积或MLP来替换或增强多头自注意力机制[34, 85-91], 形成了多样的交互模块设计方案. 其中最为典型的是以纯MLP架构为代表的无自注意力方案[85-88], 和引入卷积的增强自注意力的方案[34, 91]. 为了简洁起见, 在本文后续内容中, 我们将在空间层级进行信息交互的MLP称为空间MLP机制(Spatial MLP), 将在通道层级进行信息交互的MLP机制称为通道MLP (Channel MLP). 不同交互模块的结构如图5所示.
1) 无自注意力交互模块: MLP-Mixer[85]引入了空间MLP来替换多头自注意力机制, 成为基于纯MLP的类Transformer架构的早期代表. 在对图像块序列的特征提取中, MLP-Mixer在每一层的开始首先将图像块序列转置, 从而实现利用MLP进行不同词符之间的交互, 之后经过反转置, 再利用MLP进行通道层级的信息交互. 相比于自注意力机制, MLP的方案实现了类似的词符间信息聚合功能且同样具备全局交互能力; 此外, 由于MLP每层的神经元的顺序固定, 因此其具备位置感知能力, 从而不再需要位置编码环节. MLP-Mixer彻底去除了自注意力机制, 仅依靠纯MLP组合取得了与ViT相媲美的性能. ResMLP[86]同样是完全基于MLP的架构, 同时其指出纯MLP设计相比于基于自注意力的Transformer方法在训练稳定性上具备优势, 并提出通过使用简单的仿射变换(Affine transformation)来代替层归一化等规范化方法. gMLP[87]提出一种基于空间MLP的门控机制以替代自注意力, 并使用了通道MLP-空间门控MLP-通道MLP的组合构建了交互单元. 为了应对MLP无法处理变长输入的问题, CycleMLP[88]提出一种基于循环采样的MLP机制, 其在类似卷积核的窗口内部, 按照空间顺序采样该位置的某一通道上的元素, 且不同空间位置的采样元素对应的通道也不同, 从而构建了一种不依赖输入尺寸的空间交互方法, 同时也具备通道交互能力.
基于卷积也可以实现空间信息交互, 从而同样具备取代自注意力的可能, ConvMixer[89]使用了逐深度卷积(Depthwise convolution)和逐点卷积(Pointwise convolution)来进行空间和通道信息交互, 从而打造了一个基于纯卷积的类Transformer网络. PoolFormer[90]则使用了更为简单的Pooling操作来进行空间信息交互, 并进一步提出了更为一般的交互模块方案MetaFormer[90]. ConNeXt[92]将Swin Transformer[23]网络的特点迁移到卷积神经网络的设计中, 通过调整不同卷积块的比例、卷积核大小、激活函数以及正则化函数等, 使卷积神经网络的结构尽可能趋近Swin Transformer, 从而在相似计算量下, 实现下超越Swin Transformer的性能. RepLKNet[93]指出在图像处理中, Transformer的优势可能来源于较大的感受野. 基于这个观点, RepLKNet通过扩大卷积核, 加入旁路连接和重参数化机制, 来改造卷积神经网络从而取得了媲美Swin Transformer的效果.
总的来说, 无论是使用MLP还是卷积或者Pooling等具备空间交互能力的算子, 在Transformer的基本框架下, 替换自注意力模块后依然能够达到与Transformer类似的性能. 这也表明, 或许自注意力机制并不是Transformer必需的设计, Transformer的性能可能更多来自于整体的架构[90]以及全局交互给感受野带来的优势[93].
2) 引入卷积的自注意力交互模块: 卷积所具备的局部空间交互性和通道交互性能够有效地与自注意力机制形成互补[84], 通过卷积来增强交互模块的设计在CMT[34]以及CVX[91]等工作中均进行了尝试并取得了超越基准Transformer的效果. 其中CMT[34]在自注意力前引入卷积增强局部特性建模, 并在通道MLP中加入了卷积增强空间特性建模能力. CVX[91]使用了Performer[54]等线性自注意力机制, 并借助卷积本身的归纳偏置去除了位置编码和类别词符.
3. 视觉Transformer的一般性框架
视觉Transformer结构的设计是一个活跃的研究方向, 无论是ViT[15]还是后续的改进方法, 都很好地拓展了视觉Transformer的设计思路. 但目前仍然缺乏对视觉Transformer通用设计方案的讨论. 本节以底层视觉分类任务为例, 给出视觉Transformer的一般性框架VTA (Vision Transformers architecture), 如图6所示. VTA给出的视觉Transformer一般性框架包含七层: 输入层、序列化层、位置编码层、交互层、采样层、聚合层以及输出层. 其中输入层和输出层分别完成对输入的读取和结果的产生, 下面将对剩余各层进行简要介绍.
3.1 序列化层
序列化层的功能在于将输入划分为词符序列的形式, 并进行序列编码. 其中, 序列划分方式可以分为局部序列划分和全局序列划分. 局部序列划分将序列分组, 位于同一组的词符可在后续环节进行交互, 典型的局部序列划分方法有Swin Transformer[23]所使用的局部窗口机制等. 全局序列划分则是更一般的序列划分方法, 这种方式下, 全部词符均可以进行直接交互. 对编码方式而言, 主要有浅编码和深编码两种方式, 相对于浅编码方案, 深度编码利用更多的卷积层对图像或划分后的序列进行处理, 更有利于视觉Transformer的训练和优化[73].
3.2 位置编码层
对不具备位置感知能力的视觉Transformer方案, 位置编码层被用来显式地提取位置信息. 位置编码方案主要包括绝对位置编码、相对位置编码以及可学习位置编码. 绝对位置编码仅考虑词符在序列中的位置信息, 相对位置编码则考虑词符对之间的相对位置信息, 更有利于提高模型的表达能力[78]. 此外, 位置编码还可以可学习的方式进行[16], 以建立更为一般的位置编码信息.
3.3 交互层
交互层旨在对词符序列中的特征进行交互, 主要可分为空间交互、通道交互和混合交互模式. 原始的Transformer方案[15]将空间交互和通道交互分离, 并使用基于自注意力机制实现空间交互功能. 其通过计算词符对之间的相似性来进行加权信息聚合. 基于注意力机制的空间交互是早期Transformer方法的典型特质. 但随着更多相关工作的开展, 研究人员发现, 自注意力机制也仅是空间交互功能的一种实现方式, 其可以被卷积或空间MLP所替代. 通道信息交互常用的方法是通道MLP. 混合交互机制则打破了空间和通道独立的限制, 利用包括卷积在内的算子, 同时建立词符在空间和通道中的关系[73, 89-90].
3.4 采样层
采样层旨在对词符序列进行采样或合并, 以减少序列中词符个数, 从而降低计算量. 常见的采样方式包括均匀采样、稀疏采样以及动态采样. 其中, 均匀采样[22]通过池化层或卷积层对相邻词符进行合并; 稀疏采样[24, 52]则在更大的范围内进行词符的选择或合并, 有利于提高感受野范围. 动态采样[51]是一种更为一般性的采样方案, 其往往通过可学习的过程从输入的词符序列中自适应地选择一些数量的词符, 作为后续网络的输入.
3.5 聚合层
对分类任务而言, 聚合层主要完成对词符特征全局信息的聚合. 全局池化、全连接层是常见的全局信息聚合方式. 这两种方式都属于静态聚合方案, 其聚合方式不随输入内容变化而改变. ViT[15]使用了基于类别词符的查询机制, 通过定义可学习和更新的类别词符变量, 并与输入词符序列进行互注意力实现对信息的动态聚合.
4. 基于Transformer的目标检测模型
基于卷积神经网络的目标检测模型训练流程主要由特征表示, 区域估计和真值匹配三部分组成:
1) 特征表示: 特征表示基于卷积神经网络来提取输入的语义特征[5, 94].
2) 区域估计: 区域估计通过区域特征提取算子, 如卷积、裁剪、感兴趣区域池化(RoI pooling)[95]或感兴趣区域对齐(RoI align)[99]等, 获得局部特征, 并对局部输入的类别和位置等信息进行估计和优化.
3) 真值匹配: 基于卷积神经网络的真值匹配往往通过具备位置先验的匹配策略, 如重叠度(IoU)、距离等, 进行标注框同锚点框[95, 100]、关键点[101]或中心点[102]等参考信息之间的匹配, 建立参考信息的真值, 以此作为网络学习的监督信息.
基于Transformer的目标检测模型拓展了以上三个过程的实现方式. 在特征学习方面, 基于Tranformer的特征构建方式可以取代卷积神经网络的角色[23]; 在区域估计方面, 基于编码器−解码器的区域估计方式也被大量尝试和验证[16]; 在真值匹配方面, DETR[16]提出了基于二分匹配(Bipartite matching)的真值分配方式, 该方法事先不依赖于位置先验信息, 而是将预测结果产生后将预测值同真实值进行匹配. 本节将从以上三个角度对基于Transformer的工作进行介绍. 表3总结了不同基于Transformer的目标检测模型在COCO[103]数据集上的性能对比.
表 3 基于Transformer和基于CNN的目标检测算法在COCO 2017 val数据集上的检测精度比较. 其中C. 表示基于CNN的算法, T. 表示基于Transformer的算法Table 3 The comparison of detection performance of Transformer-based and CNN-based detectors on COCO 2017 val set. C. denotes CNN-based methods, T. denotes Transformer-based methods类型 方法名称 迭代轮次 计算量 (GFLOPs) 参数量 (×106) 帧数 (FPS) 多尺度输入 $ AP $ $ AP_{50} $ $ AP_{75} $ $ AP_{S} $ $ AP_{M} $ $ AP_{L} $ C. FCOS[116] 36 177 — 17 √ 41.0 59.8 44.1 26.2 44.6 52.2 Faster R-CNN[95] 36 180 42 26 √ 40.2 61.0 43.8 24.2 43.5 52.0 Faster R-CNN+[95] 108 180 42 26 √ 42.0 62.1 45.5 26.6 45.4 53.4 Mask R-CNN[99] 36 260 44 — √ 41.0 61.7 44.9 — — — Cascade Mask R-CNN[105] 36 739 82 18 √ 46.3 64.3 50.5 — — — T. ViT-B/16-FRCNN$ \ddagger $[117] 21 — — — — 36.6 56.3 39.3 17.4 40.0 55.5 ViT-B/16-FRCNN*[117] 21 — — — — 37.8 57.4 40.1 17.8 41.4 57.3 DETR-R50[16] 500 86 41 28 — 42.0 62.4 44.2 20.5 45.8 61.1 DETR-DC5-R50[16] 500 187 41 12 — 43.3 63.1 45.9 22.5 47.3 61.1 ACT-MTKD (L=16)[113] — 156 — 14 — 40.6 — — 18.5 44.3 59.7 ACT-MTKD (L=32)[113] — 169 — 16 — 43.1 — — 22.2 47.1 61.4 Deformable DETR[24] 50 78 34 27 — 39.7 60.1 42.4 21.2 44.3 56.0 Deformable DETR-DC5[24] 50 128 34 22 — 41.5 61.8 44.9 24.1 45.3 56.0 Deformable DETR[24] 50 173 40 19 √ 43.8 62.6 47.7 26.4 47.1 58.0 Two-Stage Deformable DETR[24] 50 173 40 19 √ 46.2 65.2 50.0 28.8 49.2 61.7 SMCA[110] 50 152 40 22 — 41.0 — — 21.9 44.3 59.1 SMCA+[110] 108 152 40 22 — 42.7 — — 22.8 46.1 60.0 SMCA[110] 50 152 40 10 √ 43.7 63.6 47.2 24.2 47.0 60.4 SMCA+[110] 108 152 40 10 √ 45.6 65.5 49.1 25.9 49.3 62.6 Efficient DETR[109] 36 159 32 — √ 44.2 62.2 48.0 28.4 47.5 56.6 Efficient DETR*[109] 36 210 35 — √ 45.1 63.1 49.1 28.3 48.4 59.0 Conditional DETR[111] 108 90 44 — — 43.0 64.0 45.7 22.7 46.7 61.5 Conditional DETR-DC5[111] 108 195 44 — — 45.1 65.4 48.5 25.3 49.0 62.2 UP-DETR[112] 150 86 41 28 — 40.5 60.8 42.6 19.0 44.4 60.0 UP-DETR+[112] 300 86 41 28 — 42.8 63.0 45.3 20.8 47.1 61.7 TSP-FCOS[115] 36 189 51.5 15 √ 43.1 62.3 47.0 26.6 46.8 55.9 TSP-RCNN[115] 36 188 64 11 √ 43.8 63.3 48.3 28.6 46.9 55.7 TSP-RCNN+[115] 96 188 64 11 √ 45.0 64.5 49.6 29.7 47.7 58.0 YOLOS-S[114] 150 200 30.7 7 — 36.1 56.4 37.1 15.3 38.5 56.1 YOLOS-S[114] 150 179 27.9 5 √ 37.6 57.6 39.2 15.9 40.2 57.3 YOLOS-B[114] 150 537 127 — — 42.0 62.2 44.5 19.5 45.3 62.1 4.1 利用Transformer进行目标检测网络的特征学习
作为特征提取器, Transformer网络具有比CNN更大的感受野和更灵活的表达方式, 因此也有望取得更好的性能以为下游任务提供高质量输入. 考虑到特征学习属于Transformer网络的基础功能，并已在第 2 节中进行了详细梳理, 因此本节将简要介绍其设计, 而更多地关注此类方法在目标检测器中的应用.
基于层级结构设计的PVT[22]、基于卷积和Transformer融合的CMT[34]、基于局部−整体交互的Cross Former[52]、Conformer[76]以及基于局部窗口设计的Swin Transformer[23]均被成功应用到了RetinaNet[104]、Mask R-CNN[99]、Cascade R-CNN[105]、ATSS[106]、RepPoints-v2[107]和Sparse RCNN[108]等典型目标检测网络中, 相比于ResNet等卷积神经网络取得了更好的效果. 这类方法基于典型的目标检测流程, 将Transformer作为一种新的特征学习器, 替代原有的卷积神经网络骨架, 从而完成目标检测任务.
4.2 利用Transformer进行目标信息估计
不同于CNN利用卷积实现对区域信息的估计和预测, 基于Transformer的目标检测网络使用了查询机制, 通过查询与特征图的注意力交互实现对目标位置、类别等信息的估计. 本小节将以DETR[16]中的目标查询机制为例介绍查询机制的作用, 并总结目前存在的问题以及解决方案. DETR的基本结构如图7所示.
4.2.1 DETR中的目标查询机制
DETR[16]首先通过编码器提取图像特征, 之后利用随机初始化的目标查询机制来与图像特征进行交互, 以互注意力的机制进行目标级别信息的提取, 经过多层交互之后, 利用全连接层从每个目标查询中预测目标的信息, 形成检测结果.
目标查询向量包含了潜在目标的位置信息和特征信息, 其与图像特征进行交互的过程实现了从全局信息中对潜在目标特征的抽取, 同时完成了对预测位置的更新. 多个查询层的堆叠构建了一种类似Cascade RCNN[105]的迭代网络[109], 以更新目标查询的方式实现对位置和特征信息的优化. 为了清楚地介绍Transformer的设计机制, 本文将目标查询所表示的内容分成两部分, 一部分是与特征内容有关的, 记为内容嵌入(Content embedding), 一部分是与位置有关的, 记作位置嵌入(Positional embedding).
这种目标查询的方式实现了较为有效的目标检测功能, 但同时存在着收敛速度较慢[24, 110-111] (DETR需要500个轮次的训练才能收敛)、小目标检测效果不佳[24]以及查询存在冗余[113]等问题. 其中, 针对小目标检测效果差的问题, 现有文献的主要做法是利用多尺度特征[24], 通过在不同分辨率特征图上进行目标查询, 增加对小目标物体的信息表示, 以提高小目标的准确率. 针对目标查询存在冗余的现象, ACT[113]提出使用局部性敏感哈希(Locality sensitivity hashing, LSH)算法实现自适应聚类, 以压缩目标查询的个数, 从而实现更为高效的目标查询. 本小节将主要针对以DETR[16]为代表的网络收敛速度慢的问题, 分析其原因并总结提升训练速度的方案.
4.2.2 收敛速度提升
图8展示了DETR[16]以及其改进方法与基于CNN的检测器的收敛速度对比, 可以看到DETR需要长达500个轮次的训练才能得到较为稳定的效果. 其收敛较慢的主要原因在于目标查询机制的设计[24, 110-111], 本节从查询初始化、参考点估计和目标分布三个方面分析DETR的设计并总结了提升收敛速度的方法.
1) 输入依赖的目标查询初始化: DETR[16]对目标查询使用了随机初始化的方法, 通过训练时的梯度更新来实现对目标查询输入的优化, 以学习输入数据集中的物体的统计分布规律. 这种方式需要较长的过程才能实现对物体位置分布的学习, 其可视化表现为交叉注意图(Cross-attention map)的稀疏程度需要较长的训练轮次才能收敛[115] (如图9所示). 此外, 关于目标分布的统计信息属于一种数据集层面的特征, 无法实现对具体输入的针对性初始化, 也影响了模型的收敛速度.
为了改善由于初始化而造成的收敛速度慢的问题, TSP[115]和Efficient DETR[109]等工作提出了输入依赖的查询初始化方法, 从输入图像特征中预测潜在目标的位置和尺寸等信息, 作为初始的目标查询输入到编码器或解码器网络, 进而得到最终的目标检测结果. 其中, TSP[115]使用了CNN网络作为产生初始目标查询的途径, 借鉴FCOS[116]和RCNN[118]的思路, 分别提出了TSP-FCOS和TSP-RCNN进行图像中目标信息的估计, 并借助Transformer编码器实现对目标估计的优化; Efficient DETR[109]使用基于Transformer的编码器网络学习到的词符特征进行密集预测, 得到相应位置可能的目标的位置、尺寸和类别信息, 并选择置信度较高的结果作为目标查询的初始状态, 然后利用解码器进行稀疏预测, 得到最终结果.
TSP[115]和Efficient DETR[109]所提出的目标查询初始化方法一方面够根据不同输入得到不同的目标查询初始化结果, 是一种输入依赖的初始化方式; 另一方面, 实现了目标查询所包含的内容嵌入和位置嵌入的显式对齐, 从而较好地加速了目标检测器的收敛.
2) 输入依赖的位置嵌入更新: DETR位置嵌入的弱定位能力也是影响DETR模型收敛的主要原因之一. 在DETR[16]解码器中的多层网络中, 目标查询的内容嵌入通过交叉注意力实现对自身信息的更新, 但位置嵌入并不在层之间进行更新. 这种方式一方面导致了位置嵌入与内容嵌入的不匹配, 另一方面还导致位置嵌入难以准确表达潜在目标的准确位置信息, 使得获取位置信息的任务转移到内容嵌入中[111]. Conditional DETR[111]通过对比实验发现, 去掉解码器中第2层之后的位置嵌入信息, DETR的平均准确率仅下降0.9%, 从而说明了在原始的DETR的解码器中的位置嵌入所发挥的作用很小.
Deformable DETR[24]、SMCA[110]和Conditional DETR[111]等方法从每层输入信息中学习位置嵌入信息的更新, 能够较好地弥补DETR设计中位置嵌入定位能力不足的缺陷. 其中, Deformable DETR[24]和SMCA[110]从目标查询中预测了每个查询对应的参考点坐标, 来提高定位能力; Conditional DETR[111]利用目标查询预测二维坐标信息, 并利用内容嵌入学习对坐标嵌入信息的变换, 使位置嵌入和内容嵌入在统一空间, 进而使得目标查询和键值在统一空间, 从而提高相似性判别和定位能力.
3) 显式目标分布建模: DETR[16]使用了信息相似性度量来实现在全局范围内的目标嵌入的信息聚合, 这种方式有助于更完全地获取目标的信息, 但同时也可能引入较多的噪声干扰[24], 从而影响学习过程, 而且, 从全局信息中收敛到潜在目标的局部空间也需要较长的训练过程.
建立对潜在目标分布空间的建模机制有助于加速目标检测过程, 减少训练时间, 同时减少噪声的引入[24, 110]. 矩形分布假设是基于CNN的目标检测器的常用设计之一[95, 100], 在基于Transformer的目标检测器中, 虽然图片以序列的方式进行编码和解码, 但仍可以借助逆序列化获取二维的图片结构的数据. 并在此基础上,实现类似CNN网络中的感兴趣区域池化等操作, 以此实现对目标空间的建模. 现有对Transformer目标分布进行显式建模的方法主要有两种: 散点分布[24]和高斯分布[110].
散点分布: Deformable DETR[24]利用了散点采样实现对目标空间分布的建模. 针对每一个目标查询, Deformable DETR首先从中学习目标的参考点坐标、采样点坐标和采样点权重, 然后在若干采样点之间计算局部范围内的注意力, 并进行信息聚合. 这种方式大大减少了计算量, 同时可以较灵活地模拟目标的空间分布, 实现对于与目标查询有关联的点的聚合, 从而加速了网络的收敛过程.
高斯分布: SMCA[110]提出了一种利用高斯函数建模目标空间分布, 实现局部信息聚合的方法. SMCA首先从目标查询中学习潜在目标的位置和尺寸信息, 之后, 根据预测得到的位置和物体尺寸信息建立二维高斯分布函数, 来对近距离特征赋予较高权重, 对远距离特征赋予较低权重.
4.3 基于Transformer的目标检测模型的真值匹配
DETR[16]将目标检测建模为集合预测的问题, 并使用了二分匹配(Bipartite Matching)来为目标查询赋予对应的真值. 二分匹配利用匈牙利算法来进行快速实现. 定义:
$ \sigma $ 表示匹配策略,$ y_{i}=(c_{i},b_{i}) $ 表示真实值,$ c_{i} $ 表示真实类别,$ b_{i} $ 表示标注框的值,$ \hat{y}_{\sigma(i)}=(\hat{p}_{\sigma(i)}, \hat{b}_{\sigma(i)}) $ 表示第$ \sigma(i) $ 个预测值. 则$ y_{i} $ 与$ \hat{y}_{\sigma(i)} $ 的匹配损失为:$$ \begin{split} {\cal{L}}_{\rm {match }}\left(y_{i}, \hat{y}_{\sigma(i)}\right)=\;& -\text{1}_{\left\{c_{i} \neq \emptyset\right\}} \hat{p}_{\sigma(i)}\left(c_{i}\right)+\\ &\text{1}_{\left\{c_{i} \neq \emptyset\right\}} {\cal{L}}_{\rm {box }}\left(b_{i}, \hat{b}_{\sigma(i)}\right) \end{split} $$ (32) 最佳匹配定义为:
$$ \begin{align} \hat{\sigma}=\underset{\sigma \in \mathfrak{S}_{N}}{\arg \min } \sum_{i}^{N} {\cal{L}}_{\rm {match }}\left(y_{i}, \hat{y}_{\sigma(i)}\right) \end{align} $$ (33) 不同于CNN中基于锚点框或关键点的真值匹配方式, 二分匹配是在得到预测结果后进行, 基本上是一种不确定性策略, 且容易受到训练过程的干扰[115], 进而导致训练过程(尤其是训练过程的早期)收敛速度较慢. 针对这个问题TSP[115]基于FCOS提出了一种新的匹配策略, 仅将落在真实标注框内的预测值或与标注框有一定重合的预测值与该真实值进行匹配, 从而加速收敛速度.
5. 基于Transformer的图像分割模型
图像分割主要包括语义分割, 实例分割和全景分割[119], 近些年, 以FCN[120]、DeepLab[45]、Mask RCNN[99]等方法为代表的图像分割方法已经取得了较好的效果, 但这种基于卷积神经网络的图像分割方法在建立远程依赖上依旧存在不足. 相比之下, Transformer网络所具备的全局信息交互能力能够帮助特征提取器快速建立全局感受野, 从而实现更准确的场景理解[121]. 表4、表5和表6分别展示了基于Transformer的语义分割、实例分割和全景分割方法的结果以及其与经典CNN方法的对比. 本节将主要从特征提取、分割结果生成两个方面介绍Transformer在图像分割中的应用.
表 4 基于Transformer的语义分割算法在ADE20K val数据集上的语义分割精度比较. 其中, 1k表示ImageNet-1k, 22k表示ImageNet-1k和ImageNet-21k的结合Table 4 The comparison of semantic segmentation performance of Transformer-based methods on ADE20K val set. 1k denotes ImageNet-1k dataset, 22k denotes the combination of ImageNet-1k and ImageNet-21k方法名称 骨干网络 预训练数据集 图像尺寸 参数量 (×106) 计算量 (GFLOPs) 帧数 (FPS) 多尺度输入 mIoU UperNet[122] R-50 1k 512 — — 23.4 √ 42.8 R-101 1k 512 86 1 029 20.3 √ 44.9 Swin-T 1k 512 60 236 18.5 √ 46.1 Swin-S 1k 512 81 259 15.2 √ 49.3 Swin-B 22k 640 121 471 8.7 √ 51.6 Swin-L 22k 640 234 647 6.2 √ 53.5 Segformer[25] MiT-B3 1k 512 47.3 79 — √ 50.0 MiT-B4 1k 512 64.1 95.7 15.4 √ 51.1 MiT-B5 1k 512 84.7 183.3 9.8 √ 51.8 Segmenter[124] ViT-S/16 1k 512 37.0 — 34.8 √ 46.9 ViT-B/16 1k 512 106 — 24.1 √ 50.0 ViT-L/16 22k 640 334 — — √ 53.6 MaskFormer[125] R-50 1k 512 41 53 24.5 √ 46.7 R-101 1k 512 60 73 19.5 √ 47.2 Swin-T 1k 512 42 55 22.1 √ 48.8 Swin-S 1k 512 63 79 19.6 √ 51.0 Swin-B 22k 640 102 195 12.6 √ 53.9 Swin-L 22k 640 212 375 7.9 √ 55.6 Mask2Former[26] R-50 1k 512 — — — √ 49.2 R-101 1k 512 — — — √ 50.1 Swin-S 1k 512 — — — √ 52.4 Swin-B 22k 640 — √ 55.1 Swin-L 22k 640 — — — √ 57.3 表 5 基于Transformer的实例分割方法和基于CNN算法在COCO test-dev数据集上的实例分割精度比较Table 5 The comparison of instance segmentation performance of Transformer-based and typical CNN-based methods on COCO test-dev dataset方法名称 骨干网络 迭代轮次 帧数 (FPS) $ Ap^m $ $ Ap_S^m $ $ Ap_M^m $ $ Ap_L^m $ $ Ap^b $ Mask R-CNN[99] R-50-FPN 36 15.3 37.5 21.1 39.6 48.3 41.3 R-101-FPN 36 11.8 38.8 21.8 41.4 50.5 43.1 Blend Mask[96] R-50-FPN 36 15.0 37.8 18.8 40.9 53.6 43.0 R-101-FPN 36 11.5 39.6 22.4 42.2 51.4 44.7 SOLO v2[97] R-50-FPN 36 10.5 38.2 16.0 41.2 55.4 40.7 R-101-FPN 36 9.0 39.7 17.3 42.9 57.4 42.6 ISTR[127] R-50-FPN 36 13.8 38.6 22.1 40.4 50.6 46.8 R-101-FPN 36 11.0 39.9 22.8 41.9 52.3 48.1 SOLQ[98] R-50 50 — 39.7 21.5 42.5 53.1 47.8 R-101 50 — 40.9 22.5 43.8 54.6 48.7 Swin-L 50 — 45.9 27.8 49.3 60.5 55.4 QueryInst[126] R-50-FPN 36 7.0 40.6 23.4 42.5 52.8 45.6 R-101-FPN 36 6.1 41.7 24.2 43.9 53.9 47.0 Swin-L 50 3.3 49.1 31.5 51.8 63.2 56.1 Mask2Former[26] R-50 50 — 43.7 — — — 30.6 R-101 50 — 44.2 — — — 31.1 Swin-T 50 — 45.0 — — — 31.8 Swin-L 50 — 50.1 — — — 36.2 表 6 基于Transformer的全景分割算法在COCO panoptic minval数据集上的全景分割精度比较Table 6 The comparison of panoptic segmentation performance of Transformer-based methods on COCO panoptic minival dataset方法名称 骨干网络 迭代轮次 参数量 (×106) 计算量 (GFLOPs) $ PQ $ $ PQ^{Th} $ $ PQ^{St} $ DETR[16] R-50 150+25 42.8 137 43.4 48.2 36.3 R-101 61.8 157 45.1 50.5 37 MaxDeepLab[123] Max-S 54 61.9 162 48.4 53.0 41.5 Max-L 451 1 846 51.1 57.0 42.2 MaskFormer[125] R-50 300 45 181 46.5 51.0 39.8 R-101 64 248 47.6 52.5 40.3 Swin-T 42 179 47.7 51.7 41.7 Swin-S 63 259 49.7 54.4 42.6 Swin-B 102 411 51.1 56.3 43.2 Swin-L 212 792 52.7 58.5 44.0 Panoptic SegFormer[128] R-50 12 51.0 214 48.0 52.3 41.5 R-50 24 51.0 214 49.6 54.4 42.4 R-101 69.9 286 50.6 55.5 43.2 Swin-L 221.4 816 55.8 61.7 46.9 5.1 基于Transformer进行分割网络的特征学习
Transformer网络以一定尺寸的图像块作为最小特征单元, 其编码后的特征经过上采样操作就可以集成到现有的图像分割框架中. Transformer以其全局感受野和动态交互能力, 使得图像分割模型能够对图像中的上下文关系进行充分表示和建模, 从而取得更好的效果[22-23, 34, 52-53, 72, 76].
除了将Transformer集成到现有分割框架以替换CNN之外, 近期的一些工作还针对Transformer设计了新的分割框架以充分利用其在有效感受野等方面的优势[25, 121]. 其中, SETR[121]以序列学习的视角提出了基于ViT[15]的完全由自注意力机制构成的特征编码网络, 并在此基础上提出了三种解码方案(简单上采样解码器、渐进式解码器和多尺度融合解码器)产生分割结果, 打破了语义分割任务基于编码器−解码器的FCN范式, 其结构如图10所示. SegFormer[25]针对SETR柱状编码方式计算量较大以及固定位置编码不利于拓展等问题, 提出了使用具备层次结构的Transformer网络以保留粗粒度和细粒度两种特征, 并通过在自注意力中引入卷积机制来去除位置编码提高了网络灵活性. SegFormer同时指出, 基于Transformer的图像分割网络可以在仅使用较为简单的解码器的情况下，实现不错的效果, 并提出了一种仅包含数个线性层的解码器方案.
5.2 利用Transformer产生图像分割结果
像素分割和实例分割是图像分割中的两个基本任务, 在基于卷积神经网络的方法中, 前者往往基于解码器−编码器的结构产生, 后者则通常借助RCNN实现对目标级别信息的输出[119]. Transformer的出现, 尤其是其目标查询机制, 为解决图像分割提供了一种新的思路, 而且有望以一种统一的方式实现像素和实例级别的分割. Transformer的查询机制可以用来表示多种信息, 既可以表示类别信息[124]、位置信息[26, 125]同时也可以表示其他特征信息[126], 这种具备通用性的表示形式为实现统一形式的图像分割提供了基础. 本节将主要从基于目标查询的语义分割和实例分割两方面介绍Transformer给图像分割领域带来的启发和改变, 并结合全景分割, 总结以统一的方式进行图像分割的工作.
5.2.1 基于查询的语义分割方法
按照产生结果的形式, 基于查询的语义分割方法可以分为像素级预测[124]和掩码级预测[125], 前者为每一个像素输出一个类别信息, 后者则对掩码内的像素统一预测一个类别信息. 在语义分割任务中, 查询以随机初始化的方式产生, 之后通过与图像特征的交互实现对类别信息的提取, 并最终用于产生分割结果.
1) 像素级语义分割: Segmenter[124]利用类别嵌入(Class embedding)建立目标查询, 通过交叉注意力与图像序列进行信息交互, 最终利用类别嵌入与图像序列之间的注意力图进行图像块的逐像素分割结果预测.
2) 掩码级语义分割: MaskFormer[125]借鉴了DETR[16]中的集合预测思想, 提出了掩码级的语义分割思路, 其使用了Transformer和CNN两种解码器, 其中Transformer解码器基于随机初始化的查询实现对类别信息的预测, CNN解码器则通过常规卷积实现对二进制掩码信息的预测, 最后通过融合类别预测和掩码预测得到语义分割结果. 这种掩码级的语义分割结果生成方式一方面简化了语义分割任务, 另一方面能够与实例分割实现较好的统一. 在性能上, MaskFormer也验证了在类别数目较多的情况下, 基于掩码的语义分割相比于像素级分割方式在性能上更具优势.
Mask2Former[26]进一步提升了掩码级语义分割的性能和训练速度, 其基于MaskFormer[125]提出了利用多尺度特征来增强对小目标的分割能力, 同时使用了掩码注意力来关注目标局部信息, 从而加速Transformer网络的收敛速度.
5.2.2 基于目标查询的实例分割和全景分割方法
在基于Transformer的语义分割方法中[26, 125], 查询通常与类别信息相关, 而在实例分割中, 查询则往往与前景目标的位置和特征相关[126-128], 这与基于Transformer的目标检测网络中的查询机制所表示的信息基本一致[16]. 根据目标信息预测和掩码生成的顺序, 本小节将基于目标查询的实例/全景分割方法分为基于检测的分割方法和检测分割并行的方法.
1) 基于检测的实例/全景分割方法: DETR[16]在目标检测结果的基础上生成检测框嵌入, 通过与图像编码特征进行交互提取目标特征, 之后基于查询与图像特征的注意力图进行目标和背景掩码的预测. 不同于DETR[16]中将目标和背景均表示为检测框的方式, Panoptic SegFormer[128]提出区分前景目标和背景信息更有利于产生准确的背景预测. 在解码阶段, Panoptic SegFormer首先使用位置解码器针对前景目标提取目标信息, 在此基础上引入背景查询, 并利用掩码解码器产生掩码结果.
2) 检测分割并行的实例分割方法: 基于Sparse RCNN[108], QueryInst[126]和ISTR[127]提出了检测分割并行的实例分割方法. 其中, QueryInst[126]基于随机初始化的目标位置从图像中获取区域信息, 同时以随机初始化的方式生成目标特征信息, 之后通过不断地迭代, 优化查询的学习以及对目标的信息提取. 目标特征信息用于学习动态卷积的参数以实现对区域特征的动态处理, 在此基础上并行产生包围框和掩码预测. ISTR[127]同样采用了随机初始化的查询来表示目标的包围框信息, 但采用了图像特征作为产生动态卷积参数的输入. QueryInst[126]和ISTR[127]这种基于查询的迭代式预测方式降低了对目标包围框预测的要求, 使得随机初始化的目标信息依然能够在几轮迭代之后建立对目标的准确描述.
6. 总结与展望
本文介绍了视觉Transformer模型基本原理和结构, 以图像分类为切入点总结了Transformer作为骨干网络的关键研究问题和最新进展, 并提出了视觉Transformer的一般性框架, 同时以目标检测和图像分割为例介绍了视觉Transformer模型在上层视觉任务中的应用情况. 视觉Transformer网络作为一种新的视觉特征学习网络, 在连接范围、权重动态性以及位置表示能力等方面与CNN网络有着较大的差异. 其远距离建模能力和动态的响应特质使之具备了更为强大的特征学习能力, 但同时也带来了严重的数据依赖和算力资源依赖等问题. 对视觉Transformer的效率和能力的研究仍将是未来的主要研究方向之一, 此外, Transformer模型为多模态数据特征学习和多任务处理提供了一种统一的解决思路, 基于Transformer的视觉模型有望实现更好的信息融合和任务融合.
-
图 3 例1中四种模型的模拟预测结果曲线图
Fig. 3 Curves of simulated prediction results of the four models in Example 1
图 4 例2中四种模型的模拟预测结果曲线图
Fig. 4 Curves of simulation prediction results of the four models in Example 2
图 5 例3中四种模型的模拟预测结果曲线图
Fig. 5 Curves of simulation prediction results of the four models in Example 3
表 1 寸草塔煤矿日均瓦斯浓度及影响因素
Table 1 Daily average gas concentration and influencing factors in Cuncaota Coal Mine
序号 X1(0) X2(0) X3(0) X4(0) 1 0.34 0.34 21.7 0.34 2 0.34 0.29 18.1 0.36 3 0.26 0.29 25.3 0.31 4 0.26 0.41 21.4 0.33 5 0.23 0.51 25.3 0.28 6 0.22 0.37 22.3 0.29 7 0.21 0.38 23.2 0.23 8 0.17 0.41 22.5 0.35 9 0.17 0.36 24.1 0.19 10 0.16 0.48 22.9 0.25 
下载: 导出CSV
表 2 IBSGM(1, N)与GM(1, N)模型预测模拟值误差对比
Table 2 Comparison of prediction and simulation errors between IBSGM(1, N) and GM(1, N) model
实际值 0.34 0.34 0.26 0.26 0.23 0.22 0.21 0.17 0.17 0.16 平均误差 GM(1, N) 0.34 0.259 0.364 0.367 0.188 0.269 0.135 0.347 0.054 0.113 0.38 IBSGM(1, N) 0.34 0.33 0.27 0.25 0.247 0.219 0.204 0.173 0.16 0.165 0.0337
下载: 导出CSV
表 3 一种热处理钢在400℉至1100℉的抗拉强度及布氏硬度
Table 3 The tensile strength and Brinell hardness of a heat-treated steel from 400°F to 1100°F
序号 X1(0) X2(0) X3(0) 1 897 514 400 2 897 495 500 3 890 444 600 4 876 401 700 5 848 352 800 6 814 293 900 7 779 269 1000 8 738 235 1100
下载: 导出CSV
表 4 IBSGM(1, N)模型的参数值
Table 4 Parameter values of IBSGM(1, N) model
$ a $ $ {b}_{1} $ $ {b}_{2} $ $ \gamma $ $ \lambda $ 0.1711 0.2974 0.0247 728.1782 0
下载: 导出CSV
表 5 四种模型下预测结果和误差对比
Table 5 Comparison of prediction results and errors under the four models
序号 原始数据 IBSGM(1, N)模型 OGM(1, N)模型 GM(1, N)模型 GM(1, 1)模型 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 1 897 897 0 897 0 897 0 897 0 2 897 897.013 0.0015% 896.782 0.0243% 791.446 11.7674% 911.544 1.6214% 3 890 890.421 0.0473% 890.882 0.0991% 1013.103 13.8317% 886.265 0.4197% 4 876 874.707 0.1476% 874.589 0.1611% 919.923 5.0140% 861.687 1.6340% 5 848 849.283 0.1513% 848.921 0.1086% 854.567 0.7744% 837.790 1.2040% 6 814 813.571 0.0527% 813.797 0.0250% 797.161 2.0686% 914.556 0.0683% 7 779 779.005 0.0007% 778.952 0.0062% 798.870 2.5507% 791.967 1.6646% 平均拟合误差 0.0573% 0.0606% 5.1438% 0.9446% 预测结果 预测值 相对误差 预测值 相对误差 预测值 相对误差 预测值 相对误差 8 738 735.263 0.3709% 742.147 0.5619% 787.425 6.6972% 770.004 4.3366%
下载: 导出CSV
表 6 中国无线通信用户数量和相关因素
Table 6 Number of wireless communication users and related factors in China
序号 X1(0) X2(0) X3(0) X4(0) X5(0) 1 8453.3 13985.6 99241.6 563.5498 17825.6 2 14522.2 21926.3 109655.2 703.5769 25566.3 3 20600.5 27400.3 120322.7 773.01 28656.8 4 26995.3 33698.4 135822.8 869.3998 35082.5 5 33482.4 39684.3 159878.3 1262.998 42346.9 6 39340.6 48241.7 184937.4 1371.631 47196.1 7 46105.8 61032 216314.4 1442.343 50279.9 8 54730.6 85496.1 265810.3 1709.221 51034.6 9 64124.5 114531.4 314045.4 1690.719 50863.2 10 74721.4 144084.7 340902.8 1684.903 49265.6 11 85900.3 150284.9 401.202 1641.464 46537.3
下载: 导出CSV
表 7 IBSGM(1, N)模型的参数值
Table 7 Parameter values of IBSGM(1, N) model
$ a $ $ {b}_{1} $ $ {b}_{2} $ $ {b}_{3} $ $ {b}_{4} $ $ \gamma $ $ \lambda $ 0.5083 0.2095 −0.0067 0.7883 0.2811 −533.748 0
下载: 导出CSV
表 8 四种模型下预测结果和误差对比
Table 8 Comparison of prediction results and errors under the four models
序号 原始数据 IBSGM(1, N)模型 OBGM(1, N)模型 GM(1, N)模型 GM(1, 1)模型 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 1 8453.3 8453.3 0 8453.3 0 8453.3 0 8453.3 0 2 14522.2 14487.37 0.24% 14522.13 0 13547.07 6.71% 18836.59 29.71% 3 20600.5 20703.43 0.49% 20767.87 0.81% 26762.83 29.91% 22465.68 9.05% 4 26995.3 26927.63 0.25% 27021.5 0.10% 36603.21 35.59% 26793.96 0.75% 5 33482.4 33346.36 0.41% 33260.96 0.66% 44119.87 31.77% 31956.14 4.56% 6 39340.6 39540.97 0.51% 39664.41 0.82% 50502.83 28.37% 38112.87 3.12% 7 46105.8 46149.15 0.09% 46512.32 0.88% 57002.66 23.63% 45455.77 1.41% 8 54730.6 54533.32 0.36% 54578.75 0.28% 66192.81 20.94% 54213.37 0.95% 9 64124.5 64228.94 0.16% 64095.54 0.05% 77398.69 20.70% 64658.22 0.83% 10 74721.4 74706.12 0.02% 74999.45 0.37% 88385.60 18.29% 77115.40 3.20% 平均拟合误差 0.25% 0.4% 21.59% 5.36% 预测结果 预测值 相对误差 预测值 相对误差 预测值 相对误差 预测值 相对误差 11 85900.3 86179.62 0.32% 85586.72 0.37% 95722.40 11.43% 91972.60 7.07%
下载: 导出CSV
表 9 2003-2011年浙江省经济总产值与固定资产投资额
Table 9 2003-2011 Zhejiang province′s total economic output value and fixed asset investment
序号 X1(0) X2(0) 1 9705.02 4180.38 2 11648.7 5384.38 3 13417.7 6138.39 4 15718.47 6964.28 5 18753.73 7704.9 6 21462.69 8550.71 7 22990.35 9906.46 8 27722.31 11451.98 9 32318.85 14077.25
下载: 导出CSV
表 10 IBSGM(1, N)模型的参数值
Table 10 Parameter values of IBSGM(1, N) model
$ a $ $ {b}_{1} $ $ \gamma $ $ \lambda $ 0.0048 0.3268 8.6375 1
下载: 导出CSV
表 11 四种模型下预测结果和误差对比
Table 11 Comparison of prediction results and errors under the four models
序号 原始数据 IBSGM(1, N)模型 时滞GM(1, N)模型 GM(1, N)模型 GM(1, 1)模型 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 模拟值 相对误差 1 9705.02 9705.02 0 9705.02 0 9705.02 0 9705.02 0 2 11648.7 11660.78 0.10% 9554.96 17.97% 9991.74 20.43% 11562.08 0.74% 3 13417.7 13602.45 1.38% 12461.41 7.13% 16856.45 33.23% 13911.74 3.68% 4 15718.47 15802.97 0.54% 15718.47 0.00% 18698.06 10.94% 15882.74 1.05% 5 18753.73 18230.98 2.79% 20665.31 10.19% 19884.38 2.99% 18133.00 3.31% 6 21462.69 20922.41 2.52% 20773.85 3.21% 21595.31 8.91% 20702.07 3.54% 7 22990.35 24049.57 4.61% 25883.56 12.58% 25006.36 8.77% 23892.54 3.92% 8 27722.31 27659.11 0.23% 27355.39 1.32% 28491.67 2.78% 27293.70 1.55% 平均拟合误差 1.52% 6.55% 11.01% 2.22% 预测结果 预测值 相对误差 预测值 相对误差 预测值 相对误差 预测值 相对误差 9 32318.85 32104.52 0.66% 31523.81 2.46% 34864.8 7.88% 31179.03 3.53%
下载: 导出CSV
-
[1] 刘思峰, 党耀国, 方志耕, 等. 灰色系统理论及其应用. 第五版. 北京: 科学出版社, 2010. 3−4Liu Si-Feng, Dang Yao-Guo, Fang Zhi-Geng, et al. Gray system theories and its applications. Fifth Edition. Beijing: Science Press, 2010. 3−4 [2] 张熙来, 赵俭辉, 蔡波. 针对PM2.5单时间序列数据的动态调整预测模型. 自动化学报, 2018, 44(10): 1790-1798.Zhang Xi-Lai, Zhao Jian-Hui, Cai Bo. Prediction model with dynamic adjustment for single time series of PM2.5. Acta Automatica Sinica, 2018, 44(10): 1790-1798. [3] Ding S, A novel discrete grey multivariable model and its application in forecasting the output value of China’s high-tech industries, Computers & Industrial Engineering, 2019, 127, 749–760. [4] 陈宁, 彭俊洁, 王磊, 郭宇骞, 桂卫华. 模糊灰色认知网络的建模方法及应用. 自动化学报, 2018, 44(7): 1227-1236.Chen Ning, Peng Jun-Jie, Wang Lei, Guo Yu-Qian, Gui Wei-Hua. Fuzzy grey cognitive networks modeling and its application. Acta Automatica Sinica, 2018, 44(7): 1227-1236. [5] Xie N M, Liu S F. Discrete grey forecasting model and its optimizationl. Applied Mathematical Modelling, 2009, 33(2): 1173-1186. doi: 10.1016/j.apm.2008.01.011 [6] 李鹏, 刘思峰. 基于灰色关联分析和D-S证据理论的区间直觉模糊决策方法. 自动化学报, 2011, 37(8): 993-998.Li Peng, Liu Si-Feng. Interval-valued intuitionistic fuzzy numbers decision-making method based on grey incidence analysis and D-S theory of evidence. Acta Automatica Sinica, 2011, 37(8): 993-998. [7] Ma X, Liu Z B, Wang Y. Application of a novel nonlinear multivariate grey Bernoulli model to predict the tourist income of China, Journal of Computational and Applied Mathematics. 2019, 347, 84–94. doi: 10.1016/j.cam.2018.07.044 [8] Zeng B, Luo C, Liu S, Bai Y, Li C. Development of an optimization method for the GM(1, N) model. Engineering Applications of Artificial Intelligence, 2016, 55(oct.): 353-362. [9] Xiao X, Cheng S. Research on multicollinearity in the grey GM(1,N) model. Journal of Grey System, 2018, 30(4): 60-77. [10] Guo J, Xiao X, Yang J, Sun Y. GM(1,1) model considering the approximate heteroscedasticity. Journal of Grey System. 2017, 29, 53-66. [11] 蒋诗泉, 刘思峰, 周兴才. 基于复化梯形公式的GM(1,1) 模型背景值的优化. 控制与决策, 2014, 29(12): 2221-2225.Jiang Shi-Quan, Liu Si-Feng, Zhou Xing-Cai. Optimization of background value of GM(1,1) model based on complex trapezoidal formula. Control and Decision, 2014, 29(12): 2221-2225. [12] Wang Y H, Liu Q, Tang J R, Cao W B, Li X Z. Optimization approach of background value and initial item for improving prediction precision of GM(1,1) model. Journal of Systems Engineering and Electronics, 2014, 25(1): 77-82. doi: 10.1109/JSEE.2014.00009 [13] Zeng B, Li C. Improved multi-variable grey forecasting model with a dynamic background-value coefficient and its application. Computers & Industrial Engineering, 2018, 118(APR.): 278-290. [14] Luo Y, Liu Q. The non-homogenous multi-variable grey model NFMGM(1,n) with fractional order accumulation and its application. Journal of Grey System. 2017, 29, 39-52. [15] Luo Y X, Liu Q Y, The non-homogenous multi-variable grey model NFMGM(1,n) with fractional order accumulation and its application, Journal of Grey System. 2017, 29: 39–52. [16] 丁松, 党耀国, 徐宁, 朱晓月. 基于驱动因素控制的DFCGM(1,N)及其拓展模型构建与应用. 控制与决策, 2018, 33(4): 712-718.Ding Song, Dang Yao-Guo, Xu Ning, Zhu Xiao-Yue. Modelling and applications of DFCGM(1,N) and its extended model based on driving factors control, Control and Decision. 2018, 33 (4): 712–718. [17] Wei B L, Xie N M, Yang Y J. Data-based structure selection for unified discrete grey prediction model. Expert Systems with Application, 2019, 136: 264-275. doi: 10.1016/j.eswa.2019.06.053 [18] Zeng B, Duan H, Zhou Y. A new multivariable grey prediction model with structure compatibility. Applied Mathematical Modelling, 2019, 75: 385-397. doi: 10.1016/j.apm.2019.05.044 [19] 刘思峰, 杨英杰, 吴利丰等. 灰色系统理论及其应用[M]. 第七版. 北京: 科学出版社, 2014.1-2Liu Si-Feng, Yang Ying-Jie, Wu Li-Feng, et al. Grey System Theory and Its Application. Seventh Edition. Beijing: Science Press, 2014.1-2 [20] Luo Y, Liu Q. Multivariable non-equidistance grey model with fractional order accumulation and its application. Multivariable non-equidistance grey model with fractional order accumulation and its application. 2018, 30, 239-248. [21] 陈帅. 寸草塔煤矿回采工作面上隅角瓦斯涌出浓度预测研究[J]. 陕西煤炭, 2019, 38(02): 21-24.Chen Shuai. Study on the prediction of gas emission concentration at the upper corner of the working face in Cuncaota Coal Mine. Shaanxi Coal, 2019, 38(02): 21-24. [22] Zeng B, Luo C, Liu S, et al. Development of an optimization method for the GM(1, N) model. Engineering Applications of Artificial Intelligence, 2016, 55(oct.): 353-362. [23] 张可. 基于驱动控制的多变量离散灰色模型. 系统工程理论与实践, 2014, 34(8): 2084-2091. doi: 10.12011/1000-6788(2014)8-2084Zhang Ke. Multi-variables discrete grey model based on driver control. Systems Engineering-Theory & Practice, 2014, 34(8): 2084–209. doi: 10.12011/1000-6788(2014)8-2084 [24] 王正新. 多变量时滞GM(1,N)模型及其应用. 控制与决策, 2015, 30(12): 2298-2304.Wang Zheng-Xin. Multivariable time-delay GM(1,N) model and its application. Control and Decision, 2015, 30(12): 2298-2304. 期刊类型引用(66)
1. 李玉洁，马子航，王艺甫，王星河，谭本英. 视觉Transformer(ViT)发展综述. 计算机科学. 2025(01): 194-209 . 
百度学术2. 周建亭，宣士斌，王婷. 融合遮挡信息的改进DDETR无人机目标检测算法. 计算机工程与应用. 2024(01): 236-244 . 百度学术3. 张英俊，白小辉，谢斌红. CNN-Transformer特征融合多目标跟踪算法. 计算机工程与应用. 2024(02): 180-190 . 百度学术4. 王飞跃，王雨桐. 数字科学家与平行科学：AI4S和S4AI的本源与目标. 中国科学院院刊. 2024(01): 27-33 . 百度学术5. 彭斌，白静，李文静，郑虎，马向宇. 面向图像分类的视觉Transformer研究进展. 计算机科学与探索. 2024(02): 320-344 . 百度学术6. 田鑫驰，王亚刚，尹钟，陈浩. 整合卷积与高效自注意力机制的图像分类模型. 小型微型计算机系统. 2024(03): 684-691 . 百度学术7. 胡杰，昌敏杰，徐博远，徐文才. ConvFormer：基于Transformer的视觉主干网络. 电子学报. 2024(01): 46-57 . 百度学术8. 刘建华，王楠，白明辰. 手机室内场景要素实例化现实增强方法研究进展. 计算机工程与应用. 2024(07): 58-69 . 百度学术9. 王杨，李迎春，许佳炜，王傲，马唱，宋世佳，谢帆，赵传信，胡明. 基于改进Vision Transformer网络的农作物病害识别方法. 小型微型计算机系统. 2024(04): 887-893 . 百度学术10. 黄荣，宋俊杰，周树波，刘浩. 基于自监督视觉Transformer的图像美学质量评价方法. 计算机应用. 2024(04): 1269-1276 . 百度学术11. 缪青海，王兴霞，杨静，赵勇，王雨桐，陈圆圆，田永林，俞怡，林懿伦，鄢然，马嘉琪，那晓翔，王飞跃. 从基础智能到通用智能:基于大模型的GenAI和AGI之现状与展望. 自动化学报. 2024(04): 674-687 . 本站查看12. 田永林，王兴霞，王雨桐，王建功，郭超，范丽丽，沈甜雨，武万森，张红梅，朱正秋，王飞跃. RAG-PHI：检索增强生成驱动的平行人与平行智能. 智能科学与技术学报. 2024(01): 41-51 . 百度学术13. 林飞，王飞跃，田永林，丁显廷，倪清桦，王静，申乐. 平行药物系统：基于大语言模型和三类人的框架与方法. 智能科学与技术学报. 2024(01): 88-99 . 百度学术14. 苏宇. 大型语言模型的法律风险与治理路径. 法律科学(西北政法大学学报). 2024(01): 76-88 . 百度学术15. 刘新，刘冬兰，付婷，王勇，常英贤，姚洪磊，罗昕，王睿，张昊. 基于联邦学习的时间序列预测算法. 山东大学学报(工学版). 2024(03): 55-63 . 百度学术16. 陈俊英，李朝阳，席月芸，刘冲. ViT和注意力融合的类别不均衡PCB缺陷检测方法. 仪器仪表学报. 2024(04): 294-306 . 百度学术17. 范诗萌，孙炜，覃宇，覃业宝，胡曼倩，刘崇沛. 基于三分支混合特征提取的双目立体匹配算法. 机器人. 2024(04): 414-424 . 百度学术18. 邵攀，石卫超，秦道龙，张晓东，董婷，管宗胜. 集成CNN和Transformer的通道交互多层级融合变化检测. 测绘科学. 2024(05): 110-121 . 百度学术19. 陈天航，曾业战，邓倩，钟春良. 基于Transformer与信息融合的绝缘子缺陷检测方法. 电气技术. 2024(08): 11-17 . 百度学术20. 李广丽，叶艺源，吴光庭，李传秀，吕敬钦，张红斌. 联合多视角Transformer编码与在线融合互学习的乳腺癌病理图像分类模型. 电子学报. 2024(07): 2369-2381 . 百度学术21. 李俊仪，李向阳，龙朝勋，李海燕，李红松，余鹏飞. 基于多级区域选择与跨层特征融合的野生菌分类. 计算机工程. 2024(09): 179-188 . 百度学术22. 孙红，吴一凡，徐广辉，田鑫驰，朱江明. Rmcvit:一种融合卷积与自注意力的轻量级图像识别算法. 小型微型计算机系统. 2024(08): 1929-1934 . 百度学术23. 文思佳，张栋，赵伟强，孙瑞，尚佳童，雷涛. 融合CNN-Transformer的医学图像分割网络. 计算机与数字工程. 2024(08): 2452-2456 . 百度学术24. 王飞跃. 智能科技与K21教育：未来社会的未来学校与未来师生. 智能科学与技术学报. 2024(03): 281-283 . 百度学术25. 张志成，王静，张阳，田永林，张濛濛，吕宜生，王飞跃. OrthoGPT：面向精准诊疗的多模态骨科大模型. 智能科学与技术学报. 2024(03): 338-346 . 百度学术26. 朱守泰，李康宇，王西峰. 物流移动机器人的视觉全局定位方法研究. 制造业自动化. 2024(10): 100-104+120 . 百度学术27. 王林，刘景亮，王无为. 基于空洞卷积融合Transformer的无人机图像小目标检测方法. 计算机应用. 2024(11): 3595-3602 . 百度学术28. 韩宇超，同向前，邓亚平. 基于概率密度估计与时序Transformer网络的风功率日前区间预测. 中国电机工程学报. 2024(23): 9285-9296 . 百度学术29. 周慧，朱虹，陈澎. 基于可变形的多尺度自注意力特征融合SAR影像舰船识别. 大连海事大学学报. 2024(04): 110-118 . 百度学术30. 李文华，叶洪涛，罗文广，刘乙奇. 基于MHSA-LSTM的软测量建模及其在化工过程中的应用. 化工学报. 2024(12): 4654-4665 . 百度学术31. 任书玉，汪晓丁，林晖. 目标检测中注意力机制综述. 计算机工程. 2024(12): 16-32 . 百度学术32. 李翔，张涛，张哲，魏宏杨，钱育蓉. Transformer在计算机视觉领域的研究综述. 计算机工程与应用. 2023(01): 1-14 . 百度学术33. 田鑫驰，王亚刚，尹钟. FuseNet:应用于移动端的轻量型图像识别网络. 计算机应用研究. 2023(01): 288-293+298 . 百度学术34. 瞿定垚，王学. 基于Swin Transformer的家居垃圾分类系统. 电子制作. 2023(01): 67-74 . 百度学术35. Fei-Yue Wang，Jing Yang，Xingxia Wang，Juanjuan Li，Qing-Long Han. Chat with ChatGPT on Industry 5.0:Learning and Decision-Making for Intelligent Industries. IEEE/CAA Journal of Automatica Sinica. 2023(04): 831-834 . 必应学术36. 杜康宁，宁少慧，邓功也. 基于视觉Transformer的滚动轴承智能故障诊断. 组合机床与自动化加工技术. 2023(04): 96-99 . 百度学术37. 付忠广，王诗云，高玉才，周湘淇. 基于Mobile-VIT的旋转机械故障诊断方法. 汽轮机技术. 2023(02): 119-121+86 . 百度学术38. 卢经纬，郭超，戴星原，缪青海，王兴霞，杨静，王飞跃. 问答ChatGPT之后:超大预训练模型的机遇和挑战. 自动化学报. 2023(04): 705-717 . 本站查看39. 田永林，陈苑文，杨静，王雨桐，王晓，缪青海，王子然，王飞跃. 元宇宙与平行系统：发展现状、对比及展望. 智能科学与技术学报. 2023(01): 121-132 . 百度学术40. 李兰兰，周颖，林禹，尤梦翔，林美福，陈文新. 基于多模态图像构建CNN-ViT模型在弥漫性大B细胞淋巴瘤骨髓受累诊断中的应用. 中国医学影像学杂志. 2023(04): 390-394 . 百度学术41. 艾振华，臧升睿，陈敏，陈倩倩，迟洁茹，杨国为，于腾. 基于NATCA-Greater YOLO的航拍小目标检测. 青岛大学学报(工程技术版). 2023(02): 18-25 . 百度学术42. 李建，杜建强，朱彦陈，郭永坤. 基于Transformer的目标检测算法综述. 计算机工程与应用. 2023(10): 48-64 . 百度学术43. 杨海燕，李涛. ChatGPT教学应用：场景、局限与突破策略. 中国教育信息化. 2023(06): 26-34 . 百度学术44. 刘华平，郭迪，孙富春，张新钰. 基于形态的具身智能研究:历史回顾与前沿进展. 自动化学报. 2023(06): 1131-1154 . 本站查看45. 王敏，王培东. 基于深度学习的高分辨率遥感图像语义分割方法综述. 广州城市职业学院学报. 2023(02): 96-100 . 百度学术46. 丛晓峰，桂杰，贺磊，章军. 基于视觉多头注意力与跨层白化的水下图像增强网络. 模式识别与人工智能. 2023(05): 407-418 . 百度学术47. 吴珺，董佳明，刘欣，王春枝. 注意力优化的轻量目标检测网络及应用. 智能系统学报. 2023(03): 506-516 . 百度学术48. 熊聪，于安宁，高兴华，原森浩，曾孝平. 基于改进YOLOX的钢材表面缺陷检测算法. 电子测量技术. 2023(09): 151-157 . 百度学术49. 王飞跃. 平行医生与平行医院：ChatGPT与通用人工智能技术对未来医疗的冲击与展望. 协和医学杂志. 2023(04): 673-679 . 百度学术50. 杨乐，郭一鸣，霍勇博，任晓龙，林平远，张志宏. 改进YOLOv5在电力生产违规穿戴检测中的应用. 电力系统保护与控制. 2023(14): 160-168 . 百度学术51. 阳东升，卢经纬，李强，王飞跃. 超大预训练模型在指挥控制领域的应用与挑战. 指挥与控制学报. 2023(02): 146-155 . 百度学术52. 杜泉成，王晓，李灵犀，宁焕生. 行人轨迹预测方法关键问题研究：现状及展望. 智能科学与技术学报. 2023(02): 143-162 . 百度学术53. 黄峻，田永林，戴星原，王晓，平之行. 基于深度学习的自动驾驶多模态轨迹预测方法：现状及展望. 智能科学与技术学报. 2023(02): 180-199 . 百度学术54. 蒿敬波，阳广贤，肖湘江，陶阳. 基于Transformer模型的心音小波谱图识别. 计算机技术与发展. 2023(10): 189-194 . 百度学术55. 高皓章，唐友，辛鹏，朱国东. 基于TransUnet的田间杂草分割研究. 无线互联科技. 2023(15): 100-103 . 百度学术56. 周涛，党培，陆惠玲，侯森宝，彭彩月，师宏斌. 跨模态跨尺度跨维度的PET/CT图像的Transformer分割模型. 电子与信息学报. 2023(10): 3529-3537 . 百度学术57. 林峰，宁琪琳，朱智勤. 改进DAB-DETR算法的非规则交通对象检测. 现代电子技术. 2023(21): 141-148 . 百度学术58. 李伟文，缪小冬，顾曹雨，左朝杰. 融合点柱网络和DETR的三维复杂道路目标检测. 重庆理工大学学报(自然科学). 2023(11): 32-39 . 百度学术59. 刘富州，袁博文，吕桐，卢炳文，周杰，吴大明. 基于sViT的风电场集电线故障区段定位. 电工电气. 2023(12): 29-36+53 . 百度学术60. 刘金宇，杜健民. 基于视觉Transformer的荒漠草原微斑块识别. 信息技术与信息化. 2023(12): 200-203 . 百度学术61. 陈凡，宋文革，范誉瀚，陈塞. 基于CNN-Transformer融合模型的选煤厂振动筛上杂物语义分割研究. 煤炭工程. 2023(S1): 193-199 . 百度学术62. 王飞跃. 平行智能数字警察构建平行安全新格局：从平行警务到平安中国. 智能科学与技术学报. 2023(04): 431-435 . 百度学术63. 汪磊，何怡刚，谭畅. 基于DA-Transformer的风机叶片覆冰检测. 三峡大学学报(自然科学版). 2022(05): 1-8 . 百度学术64. Fei-Yue Wang. The DAO to MetaControl for MetaSystems in Metaverses: The System of Parallel Control Systems for Knowledge Automation and Control Intelligence in CPSS. IEEE/CAA Journal of Automatica Sinica. 2022(11): 1899-1908 . 必应学术65. 张文娟，杨皓哲，张彬，李秀杰. 考虑多时间尺度特征的城市轨道交通短时客流量预测模型. 交通运输系统工程与信息. 2022(06): 212-223 . 百度学术66. 王本礼，王也. 基于深度学习的遥感影像地类信息获取技术现状研究. 国土资源导刊. 2022(04): 74-80 . 百度学术其他类型引用(85)
-
下载:
计量
- 文章访问数: 1142
- HTML全文浏览量: 380
- PDF下载量: 180
- 被引次数: 151
