Effect of Robot-assisted Gait Training on Walking Ability in Patients with Incomplete Spinal Cord Injury
-
摘要: 为探讨康复机器人辅助步行训练（Robot-assisted gait training，RAGT）对不完全性脊髓损伤（Incomplete spinal cord injury，ISCI）患者步行能力的影响，将16例ISCI患者随机分配至对照组（常规康复治疗+地面步行训练）及试验组（常规康复治疗+RAGT）.治疗前及治疗4周、8周、12周后，分别进行下肢运动功能评分（Low extremity motor score，LEMS）及脊髓损伤步行指数II（Walking index for spinal cord injury II，WISCI II）评定.治疗后，两组患者LEMS均有提高（P < 0.05），但试验组LEMS与对照组比较差异无统计学意义（P>0.05）.对照组治疗后各时间点WISCI II均较治疗前改善（P < 0.05），试验组在治疗8周及12周后WISCI II较治疗前改善（P < 0.05），但试验组WISCI II在训练12周后较对照组有明显提高（P < 0.05）.RAGT与地面步行训练在提高肌力上比较无明显差异，但在改善步行能力上RAGT优于地面步行训练.
-
关键词:
- 康复机器人辅助步行训练 /
- 地面步行训练 /
- 脊髓损伤 /
- 步行能力
Abstract: In order to determine the effect of robot-assisted gait training (RAGT) on walking ability in patients with incomplete spinal cord injury (ISCI), 16 patients were randomly grouped into either the control group receiving conventional rehabilitation and over-ground training or the test group receiving conventional rehabilitation and RAGT. Low extremity motor score (LEMS) and walking index for spinal cord injury II (WISCI II) were evaluated before treatment and after 4-week, 8-week and 12-week treatment, respectively. Both the LEMS in the two groups significantly increased after 4-week, 8-week and 12-week treatment (P < 0.05), but no significant differences were found between the two groups (P>0.05). The WISCI II in control group were significantly improved after 4-week, 8-week and 12-week treatment (P < 0.05), while the values for WISCI II in test group were significantly improved after 8-week and 12-week treatment (P < 0.05). But only after 12-week treatment, the WISCI II in test group was significantly greater than that in control group (P < 0.05). In conclusion, RAGT might be not superior in improvement of muscle strength, but be superior in increase of walking ability when compared to over-ground training. -
在现代信号处理和数据分析领域, 从高维输入信号中提取能够反映系统本质属性的信息是一件非常有意义的工作, 通常将能够完成此类工作的方法称为系统特征提取方法, 而主成分分析方法是应用比较广泛的一种系统特征提取方法.主成分分析主要是通过正交变换将高维的数据映射到低维空间, 从而达到数据压缩和系统特征提取的目的[1].在信号处理领域, 通常又将输入信号自相关矩阵最大特征值对应的特征向量称之为信号的主成分, 将由信号的多个主成分张成的子空间称为信号的主子空间, 而将能够实现对输入信号的主成分或主子空间进行提取的方法称为主成分分析方法[2].目前, 主成分分析方法已经广泛应用于图像处理[3]、故障诊断[4]、模式识别[5]等领域.
采用神经网络方法来提取输入信号中的主成分是目前国内外的一个研究热点.因为相比传统的数值算法, 如EVD (Eigenvalue decomposition)和SVD (Singular value decomposition), 神经网络算法可以避免对输入信号自相关矩阵的计算, 而且能够处理非平稳的随机输入信号.自从Oja提出的第一个主成分分析神经网络算法以来[6], 学者们相继提出了很多主成分分析算法, 如NIC (Novel information criterion)算法[7]、ULA (Unified learning algorithm)算法[8]、UIC (Unified information criterion)算法[9]等.虽然这些算法已经在各个领域得到了广泛的应用.但是这些算法在应用范围上仍然存在一定的限制, 如Oja算法和ULA算法只能提取一个主成分; NIC算法和UIC算法只能进行主子空间跟踪, 不能提取多个主成分.而在某些信号处理领域需要对信号的多个主成分进行提取, 因此研究如何提取多个主成分就成为一件非常有意义的工作.
目前为止, 学者们已经提出了一些多个主成分提取算法.根据主成分的获取方式不同, Ouyang等将现行算法分为串行算法和并行算法两类[10].串行算法首先采用单个主成分提取算法提取信号的第一个主成分, 然后采用压缩技术对采样信号进行处理, 消除信号中第一个主成分的影响, 而后依旧采用单个主成分提取算法来提取信号的第二个主成分; 重复上述步骤, 就可以实现多个主成分的提取.串行算法的缺点主要有以下4个方面: 1) 由于串行算法在每次提取过程中都需要用到全部的采样数据, 因此需要大量的存储器件; 2) 由于主成分的提取过程是顺序进行的, 因此会造成很大的提取时延; 3) 由于下一个主成分的提取依赖于当前主成分的提取结果, 因此当前主成分的提取误差会传播到下一次提取过程中, 当提取主成分的维数很大时, 串行算法会造成很大的误差累积; 4) 串行算法必须是信号全部采集完成后才能使用, 因此难以满足实时信号处理的要求.相比串行算法, 并行算法可以在一个算法迭代过程中实现多个主成分的同时提取, 因此可以避免串行算法的上述缺点.此外由于并行算法还具有很好的实时性, 因此引发了大量学者的研究.
在文献[11]中, Oja等采用对神经网络输出进行加权的方式, 提出了第一个多个主成分并行提取算法; Ouyang等则是对NIC算法进行了加权改进, 提出了一种非对称结构的算法---WNIC (Weighted NIC)算法[10]; Tanaka等[12]对加权的Oja算法进行改进, 提出了一类更为一般化的多个主成分提取算法; 通过对正交投影子空间跟踪算法(Orthogonal projection approximation and subspace tracking, OPAST)进行适当改进, Bartelmaos等提出了一种可以并行提取多个主成分的PC-OPAST (Principal component-OPAST)算法[13], 仿真实验表明PC-OPAST算法的估计精度要高于WNIC算法; Li等通过对NIC算法进行了改进, 提出了一种具有对称结构的算法---MNIC (Modified NIC)算法[14];此后基于Givens空间旋转变换法, Thameri等[15-16]采用提出了4种不同类型的多个主成分并行提取算法(MED-GOPAST (Maximum error deviation-generalized OPAST)、IMED-GOPAST (Improved MED-generalized OPAST)、AS-GOPAST (Automatic selection-generalized OPAST)、H-GOPAST (Hybrid-generalized OPAST)).相比上述其他算法, Thameri等所提算法具有较低的计算复杂度.然而, 上述大多数并行提取算法都属于二阶算法, 算法的收敛速度较慢.为了进一步提升算法的收敛速度, 本文提出了一种新型的算法.
本文的章节安排如下:第1节主要介绍本文中符号的命名规则和重要符号说明; 第2节根据现有的算法提出了一种新型的多个主成分提取算法; 第3节主要是对算法进行收敛性分析; 算法的自稳定性证明安排在第4节; 第5节是算法的数值仿真和实际应用; 第6节是本文的结论.
1. 符号说明
为了规范符号使用, 这里对本文中符号的使用规则进行确定.在本文中, 矩阵用斜体大写字母表示(如 ${{R}}$ ); 而加粗的斜体小写字母则代表向量(如 ${{\pmb y}}$ ); 标量一般用不加粗的斜体小写字母表示(如 $\eta $ ).此外, 这里还给出了一些常用符号的含义:
${{R}}$ 向量的自相关矩阵
${{W}}$ 神经网络的权矩阵
${{A}}$ 加权矩阵
$\eta $ 神经网络的学习因子
$\alpha$ 遗忘因子
$n$ 提取主成分的维数
2. 新型的多个主成分提取算法
考虑满足如下多输入多输出关系的线性神经网络模型:
$ \begin{equation} {{\pmb y}}(k)= {{{W}}^{\rm T}}(k){{\pmb x}}(k) \end{equation} $
(1) 其中, ${{\pmb y}}(k)\in\textbf{R}{^{r \times 1}}$ 是神经网络的输出, ${{W}}(k)\in \textbf{R} {^{n \times r}}$ 是神经网络的权矩阵, 输入信号 ${{\pmb x}}(k)\in {\textbf{R}^{n \times 1}}$ 是一个零均值的随机过程, 这里作为神经网络的输入, $n$ 代表输入向量的维数, $r$ 代表所需提取主成分的维数.
令为输入信号的自相关矩阵, ${\lambda _i}$ 和分别为自相关矩阵 ${{R}}$ 的特征值和对应的特征向量.则根据矩阵理论的知识可得:矩阵 ${{R}}$ 是一个对称正定矩阵, 且其特征值均是非负的.对矩阵 ${{R}}$ 进行特征值分解得:
$ \begin{equation} {{R}} = {{U\Lambda }}{{{U}}^{\rm T}} \end{equation} $
(2) 其中, 是由矩阵 ${{R}}$ 的特征向量构成的矩阵, 是由矩阵 ${{R}}$ 的特征值组成的对角矩阵.为了后续使用方便, 这里将特征值按照降序的方式进行排列, 即特征值满足如下方程:
$ \begin{equation} {\lambda _1} > {\lambda _2} > \cdots > {\lambda _r} > \cdots > {\lambda _n} > 0 \end{equation} $
(3) 根据主成分的定义可知, 特征值所对应的特征向量称为矩阵 ${{R}}$ 的前 $r$ 主成分, 而通常将由这些主成分张成的空间称为信号的主子空间.而多个主成分提取算法的任务就是构造合适的神经网络权矩阵迭代更新方程, 使神经网络的权矩阵能够收敛到矩阵 ${{R}}$ 的前 $r$ 主成分.
在文献[11]中, Oja等利用加权子空间法提出了多个主成分并行提取算法, 其算法形式为:
$ \begin{align} {{W}}(k + 1)=& {{W}}(k)+ \eta [{{RW}}(k)- \nonumber\\ &{{W}}(k){{{W}}^{\rm T}}(k){{RW}}(k){{A}}] \end{align} $
(4) 其中, $\eta$ 是神经网络的学习因子且满足关系 $0< \eta <1$ , $A$ 是一个 $r \times r$ 维对角矩阵且其对角线元素为: .在式(4) 所描述的学习算法的约束下, 神经网络算法的权矩阵将收敛到信号自相关矩阵 ${{R}}$ 的前 $r$ 个主成分.然而算法(4) 存在收敛速度慢的问题, 为此本文提出了如下算法, 其算法形式为:
$ \begin{align} {{W}}(k &+ 1) =\nonumber\\ &{{W}}(k)+ \eta {{W}}(k)[{({{{W}}^{\rm T}}(k){{W}}(k))^{-1}}- \nonumber\\ &{{I}}]+\eta ({{RW}}(k){{{W}}^{\rm T}}(k){{W}}(k){{{A}}^2} -\nonumber\\ &{{W}}(k){{A}}{{{W}}^{\rm T}}(k){{RW}}(k){{A}}) \end{align} $
(5) 其中矩阵 ${{A}}$ 同样为一个 $r \times r$ 维对角矩阵且其对角线元素为: ${a_1} > {a_2} > \cdots > {a_r} > 0$ , 这点是与算法(4) 一致的.式(5) 是一种全新的多个主成分提取算法.对比式(4) 和式(5) 可以发现, 式(5) 是一个非二阶的算法.根据文献[9]的结论, 非二阶算法可以在算法迭代过程中引入一个自适应的学习因子, 进而加速算法的收敛速度.因此式(5) 所描述的算法应具有较快的收敛速度, 这点将在稍后的仿真实验部分予以验证.
在主成分分析神经网络算法领域, 通常将与学习因子相乘的项称为算法的学习步长[9].显然, 式(5) 中算法的学习步长由两部分构成.为了简便起见, 这里令矩阵和矩阵.如果令式(5) 中的加权矩阵 ${{A}} = {{I}}$ , 且省去算法的矩阵 $C$ , 则算法退化成为另外一种主成分分析算法---Chen算法[17].然而仅仅由矩阵 ${{B}}$ 构成学习步长时, 算法很容易发生边界不稳定现象.为此, 需要对神经网络的加权矩阵加以限制, 最常用的方法就是增加正交约束[9].这里采用了一个非二阶的权矩阵约束措施(即添加矩阵 $C$ ), 这一操作不仅可以解决算法的不稳定问题, 还可以提升算法的收敛速度.
式(5) 所描述的算法只适用于自相关矩阵已知的情况, 而在实际使用时只能得到信号的观测值, 自相关矩阵通常是未知的且是需要实时估计的.这里给出自相关矩阵的估计公式:
$ \begin{equation} {{\hat R}}(k)= \frac{{(k - 1)}}{k}\alpha {{\hat R}}(k - 1)+ \frac{{{{{\pmb x}}_k}{{\pmb x}}_k^{\rm T}}}{k} \end{equation} $
(6) 其中, $\alpha$ 为遗忘因子, 且满足 $0<\alpha <1$ .显然当时, 矩阵 ${{\hat R}}(k)\to {{R}}$ .因此式(5) 在实际使用时, 应首先使用式(6) 对自相关矩阵进行估计, 然后将估计得到的矩阵代入式(5), 即可以完成对输入信号多个主成分的提取.为方便使用, 这里将式(5) 所描述的算法记为FMPCE (Fast multiple principle components extraction algorithm)算法.
3. 多个主成分提取算法的性能分析
本节将对所提算法在平稳点处的收敛特性进行分析, 相关结论由定理1给出.
定理1. 当且仅当权矩阵 ${{W}} = {{P}}$ 时, 式(5) 所描述的FMPCE算法达到稳定状态, 其中 $P$ 是由矩阵 $R$ 的前 $r$ 个特征值对应的特征向量构成的矩阵, 即有.
证明. 根据文献[18]的描述, 算法的学习步长通常为一个损失函数的梯度.通过对损失函数平稳点的分析就可以完成算法收敛性的分析.这里假设该损失函数为 $JW$ , 则该损失函数对于权矩阵 $W$ 的一阶微分可以表示为:
$ \begin{align} \nabla J({{W}})&=\nonumber \\ &{{RW}}{{{W}}^{\rm T}}{{W}}{A^2} - {{WA}}{{{W}}^{\rm T}}{{RWA}}+ \nonumber\\ & {{W}}{({{{W}}^{\rm T}}{{W}})^{ - 1}} - {{W}} \end{align} $
(7) 如果权矩阵 ${{W}} = {{P}}$ , 则有
$ \begin{align} \nabla J({{W}})&|_{W= P}=\nonumber\\& {{RP}}{{{P}}^{\rm T}}{{P}}{{{A}}^2} - {{PA}}{{{P}}^{\rm T}}{{RPA}}~+ \nonumber\\&{{P}}{({{{P}}^{\rm T}}{{P}})^{ - 1}} - {{P}}=\nonumber\\& {{P}}{{{\Lambda }}_r}{{{A}}^2} - {{PA}}{{{\Lambda }}_r}{{A}}= {{0}} \end{align} $
(8) 其中, 是由矩阵 $R$ 的前 $r$ 个特征值构成的对角矩阵.反之, 根据矩阵分析理论, 在平稳点处有 $\nabla J({{W}})= {{0}}$ , 即
$ \begin{equation} \begin{split} &{{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2} - {{WA}}{{{W}}^{\rm T}}{{RWA}} = \\ &~~~~~~~~~{{W}} - {{W}}{({{{W}}^{\rm T}}{{W}})^{ - 1}} \end{split} \end{equation} $
(9) 对上式两边左乘以 ${{{W}}^{\rm T}}$ , 可得
$ \begin{equation} \begin{split} &{{{W}}^{\rm T}}{{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2} - {{{W}}^{\rm T}}{{WA}}{{{W}}^{\rm T}}{{RWA}}=\\ & \quad\quad\quad\quad {{{W}}^{\rm T}}{{W}} - {{I}} \end{split} \end{equation} $
(10) 定义矩阵 ${{Q}} = {{{W}}^{\rm T}}{{W}} - {{I}}$ , 则矩阵 $Q$ 是一个对称矩阵, 由于权矩阵 $W$ 的任意性, 则有矩阵和分别是两个对称矩阵, 即有
$ \begin{equation} {{{W}}^{\rm T}}{{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2} = {{{A}}^2}{{{W}}^{\rm T}}{{W}}{{{W}}^{\rm T}}{{RW}} \end{equation} $
(11) $ \begin{equation} {{{W}}^{\rm T}}{{WA}}{{{W}}^{\rm T}}{{RWA}} = {{A}}{{{W}}^{\rm T}}{{RWA}}{{{W}}^{\rm T}}{{W}} \end{equation} $
(12) 由于矩阵 ${{{W}}^{\rm T}}{{RW}}$ 和矩阵 $A$ 均是对称矩阵, 则根据上面两式可得 ${{{W}}^{\rm T}}{{W}} = {{I}}$ .也就是说, 在 $J({{W}})$ 的平稳点处权矩阵 $W$ 的各列向量之间是相互正交的.将其代入式(9) 可得, $J({{W}})$ 平稳点有:
$ \begin{equation} {{RW}}{{{A}}^2} = {{WA}}{{{W}}^{\rm T}}{{RWA}} \end{equation} $
(13) 令是矩阵的特征值分解, 其中 $Q$ 是一个正交矩阵.将其代入式(13) 可得: ${{RP'}} = {{P'}}{{{\Lambda '}}_r}$ , 其中, .由于矩阵 ${{{\Lambda '}}_r}$ 是一个对角矩阵且 ${{P'}}$ 是一个列满秩矩阵, 则矩阵 ${{{\Lambda'}}_r}$ 和 ${{P'}}$ 必定等于矩阵 ${{{\Lambda }}_r}$ 和 ${{P}}$ .
下面对加权矩阵 ${{A}}$ 的作用做进一步讨论.令和 ${{{R}}_y} = {{{W}}^{\rm T}}{{RW}}$ , 将其代入式(13) 并进行适当化简可得:
$ \begin{equation} {{W}} = {{{R}}_{xy}}{({{A}}{{{R}}_y}{{{A}}^{ - 1}})^{ - 1}} \end{equation} $
(14) 矩阵的作用就是对矩阵 ${{{R}}_{xy}}$ 的各列向量施加Gram-Schmidt正交化操作[19].由于矩阵是一个非对称矩阵且矩阵的各元素可以写为:
$ \begin{align} \begin{array}{l} {{A}}{{{R}}_y}{{{A}}^{ - 1}}=~~~~~\\ ~~~ \left[{\begin{array}{*{10}{c}} {{\rm E}\{ z_1^2\} }&{\dfrac{{{a_1}}}{{{a_2}}}z}&{\dfrac{{{a_1}}}{{{a_3}}}z}& \cdots &{\dfrac{{{a_1}}}{{{a_r}}}z}\\ {\dfrac{{{a_2}}}{{{a_1}}}z}&{{\rm E}\{ z_2^2\} }&{\dfrac{{{a_2}}}{{{a_3}}}z}& \cdots &{\dfrac{{{a_2}}}{{{a_r}}}z}\\ \vdots&\vdots&\vdots &\ddots&\vdots \\ {\dfrac{{{a_r}}}{{{a_1}}}z}&{\dfrac{{{a_2}}}{{{a_r}}}z}&{\dfrac{{{a_3}}}{{{a_r}}}z}& \cdots &{{\rm E}\{ z_r^2\} } \end{array}} \right] \end{array} \end{align} $
(14) 其中用 $z$ 来代表矩阵 ${{{R}}_y}$ 的元素.根据式(15) 可得矩阵 ${{{R}}_y}$ 的上三角部分的元素均是乘以一个大于1的数, 而下三角部分则是乘以一个小于1的数.通过使用第一列正交化 ${{R}}_{xy}$ 可以获得矩阵 ${{{R}}}$ 的第一个主成分, 通过第二列正交化 ${{R}}_{xy}$ 可以获得矩阵 ${{{R}}}$ 的第二个主成分, 依次类推.值得注意的是第二列中只有一个大于1的系数 ${{a}_{1}}/{{a}_{2}}$ , 而其他所有系数均是小于1.根据文献[20]可得, 系数 ${{a}_{1}}/{{a}_{2}}$ 可以避免后续操作对已经提取的主成分造成影响.上述分析表明, 可以通过合理的选择加权矩阵 ${{A}}$ , 使得算法最终将能够实现对矩阵 $R$ 的多个主成分的提取.
4. 算法的自稳定性分析
自稳定性是指不论神经网络初始权矩阵如何选择, 神经网络权矩阵的模值均能收敛到一个常值, 而与初始权矩阵无关.在文献[21]中Möller指出:所有不具备自稳定性的神经网络算法都具有发散的可能性, 因此自稳定性已经成为了神经网络算法的一个必备特性.本节将对FMPCE算法的自稳定性进行分析证明.
定理2. 如果输入信号是有界的且学习因子 $\eta$ 足够小, 则FMPCE算法的权矩阵模值将收敛到一个常值(该值等于提取主成分维数的均方根, 即 $\sqrt{r}$ ), 而与初始权矩阵的选择无关.
证明. 根据式(5) 可得, 在 $k+1$ 时刻权矩阵的模值为:
$ \begin{align*} \begin{array}{l} \left\| {{{W}}(k + 1)} \right\|_F^2=~~~~\\ ~~~~~~~~ {\rm tr}\left[{{{{W}}^{\rm T}}(k + 1){{W}}(k + 1)} \right]=\\~~~~~~~~ {\rm tr}\left\{ {\left[{{{W}} + \eta {{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2}- \eta {{W}}-} \right.} \right.\\~~~~~~~~ {\left. {\eta {{WA}}{{{W}}^{\rm T}}{{RWA}} + \eta {{W}}{{({{{W}}^{\rm T}}{{W}})}^{-1}}} \right]^{\rm T}}\times\\~~~~~~~~ \left[{{{W}} + \eta {{W}}{{({{{W}}^{\rm T}}{{W}})}^{-1}}-\eta {{W}}} \right. + \\~~~~~~~~ \left. {\left. { \eta {{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2}-\eta {{WA}}{{{W}}^{\rm T}}{{RWA}}} \right]} \right\}=\\~~~~~~~~ {\rm tr}\left\{ {{{{W}}^{\rm T}}{{W}} + 2\eta {{{W}}^{\rm T}}{{RW}}{{{W}}^{\rm T}}{{W}}{{{A}}^2}}- \right.\\~~~~~~~~ 2\eta {{{W}}^{\rm T}}{{WA}}{{{W}}^{\rm T}}{{RWA}} - 2\eta {{{W}}^{\rm T}}{{W}}+ \\~~~~~~~~ 2\eta {{{W}}^{\rm T}}{{W}}{({{{W}}^{\rm T}}{{W}})^{ - 1}} + o(\eta ) \approx\\~~~~~~~~ {\rm tr}\left\{ {{{{W}}^{\rm T}}{{W}}} \right\} + 2\eta {\rm tr}\left\{ {{{I}} - {{{W}}^{\rm T}}{{W}}} \right\} \end{array}\\[-6mm] \end{align*} $
(16) 在上式中为了书写方便, 而省略了第二个等号以后的迭代时刻符号 $k$ .由于学习因子足够小, 因此可以忽略有关学习因子的二阶项.对比前后两个时刻权矩阵模值的大小可得:
$ \begin{equation} \begin{split} &\frac{{\left\| W(k + 1) \right\|_F^2}}{{\left\| {{{W}}(k)} \right\|_F^2}}=~~~~~~~~~~~~\\ &~~~~~~~~~~~~1+\frac{{ 2\eta {\rm tr}\left\{ {{{I}} - {{{W}}^{\rm T}}(k){{W}}(k)} \right\}}}{{{\rm tr}\left\{ {{{{W}}^{\rm T}}(k){{W}}(k)} \right\}}}=\\ &~~~~~~~~~~~~ 1 + 2\eta \frac{{r - \left\| {{{W}}(k)} \right\|_F^2}}{{\left\| {{{W}}(k)} \right\|_F^2}}~~~~~~\\ &~~~~~~~~~~~~ \left\{ {\begin{array}{*{20}{c}} { > 1}, &\mbox{若}&{\left\| {{{W}}(k)} \right\|_F^{} < \sqrt r }\\ { = 1}, &\mbox{若}&{\left\| {{{W}}(k)} \right\|_F^{} = \sqrt r }\\ { < 1}, &\mbox{若}&{\left\| {{{W}}(k)} \right\|_F^{} > \sqrt r } \end{array}} \right. \end{split} \end{equation} $
(17) 通过式(17) 可以发现, 无论 $k$ 时刻的权矩阵模值是否等于 $\sqrt r $ , 下一时刻 $k+1$ 的权矩阵模值都将趋于 $\sqrt r $ , 即在收敛时权矩阵模值将趋于一个常数.这一特性表明, 无论初始时刻的权矩阵模值如何选择, 将不会对算法的收敛结果造成任何影响, 即FMPCE算法具有自稳定性.
5. 仿真实验
本节将提供4个仿真实验来对所提算法的性能进行验证.第一个实验主要验证FMPCE算法提取信号中多个主成分的能力; 第二实验主要考察FMPCE算法的自稳定性; 第三个实验则是将FMPCE算法与一些现存的多个主成分提取算法进行比较; 第四个实验则是应用FMPCE算法进行图像压缩和重建并与一些现有算法进行比较.在整个实验过程中, 为了定量地对算法性能进行评价, 这里引入如下两个评价函数, 第一个是方向余弦(Direction cosine, DC):
$ \begin{equation} {\rm DC}_i(k)= \frac{{\left| {{{\pmb w}}_i^{\rm T}(k){{{\pmb u}}_i}} \right|}}{{\left\| {{{\pmb w}_i}(k)} \right\| \cdot \left\| {{{{\pmb u}}_i}} \right\|}} \end{equation} $
(18) 其中, $i = 1, 2, \cdots, r$ 且 ${{{\pmb w}}_i}$ 代表权矩阵 $W$ 的第 $i$ 列, ${{{\pmb u}}_i}$ 则代表信号的第 $i$ 个主成分.从式(18) 可以得出:如果方向余弦曲线能够收敛到1, 神经网络算法的权矩阵必定已经收敛到信号主成分的方向.方向余弦衡量的是算法的估计精度, 而权向量模值则能够评价算法的收敛性.
$ \begin{equation} {\rm{Nor}}{{\rm{m}}_i}{\rm{(}}k{\rm{)= }}\left\| {{{{\pmb w}}_i}(k)} \right\|, {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\kern 1pt} i = 1, 2, \cdots, r \end{equation} $
(19) 5.1 多个主成分提取能力验证
本实验采用文献[10]中所使用的信号产生方法, 输入信号采用如下一阶滑动回归模型来产生:
$ \begin{equation} x(k)= 0.75x(k - 1)+ e(k) \end{equation} $
(20) 该模型由一个均值为0方差为1的高斯白噪声 $e(k)$ 作为模型驱动输入.取该模型的10个不连续的输出构成神经网络的输入向量, 即 $n=10$ .接下来采用本文所提出的FMPCE算法对该输入信号的前3个主成分进行提取, 即 $r=3$ . FMPCE算法的初始化参数设置为:初始权矩阵为随机的, 学习因子 $\eta=0.1$ , 加权矩阵 ${{A}} ={\rm diag}\{3, 2, 1\}$ .图 1和图 2分别给出了FMPCE算法的仿真结果, 在该图中, 所有学习曲线均是为100次独立实验的平均结果.
从图 1中可以看出:大约经过1500次左右的迭代后, FMPCE算法的3条方向余弦曲线就都收敛到了1, 这就说明FMPCE算法的权矩阵已经收敛到了信号主成分的方向; 对照图 2可以看出, 经过30次迭代运算后, 权矩阵模值均已经收敛到1, 也就是说此时的FMPCE算法已经收敛.该仿真实验表明: FMPCE算法具备提取信号多个主成分的能力.
5.2 FMPCE算法的自稳定性实验
本实验主要对FMPCE算法的自稳定性进行仿真验证.本实验同样采取式(20) 产生的输入信号. FMPCE算法的初始化参数设置为:学习因子 $\eta = 0.01$ , 加权矩阵, 初始化权矩阵为随机产生的且其模值被标准化为模值大于3, 等于3和小于3等情况.然后分别考察在这种不同初始权矩阵情况下, FMPCE算法的权矩阵模值收敛情况.
图 3是经过100次独立仿真获得的FMPCE算法权矩阵模值曲线, 从图 3中可以看出:不论初始权矩阵如何选择, FMPCE算法收敛时权矩阵模值均等于 $\sqrt{3}$ , 这点是与定理2中的分析一致的.通过该实验可得: FMPCE算法具有自稳定性.
5.3 FMPCE算法与其他算法的对比
本节将所提出的FMPCE算法与文献[14]中的MNIC算法和文献[15]中的MED-GOPAST算法进行对比.本实验中的输入信号同样由式(20) 产生, 这里分别采用这三种算法对该输入信号的前2个主成分进行提取, 即 $r=2$ .三种算法的初始化参数设置为:对MNIC算法和FMPCE算法而言, 加权矩阵 ${{A}} ={\rm diag}\{2, 1\}$ , 学习因子 $\eta = 0.15$ ; 对MED-GOPAST算法而言, 遗忘因子 $\alpha = 0.998$ .为了公平比较, 三种算法的初始化权矩阵均是随机产生的.三种算法对于该信号的提取结果如图 4和图 5所示, 该结果是100次独立实验结果的平均值.
从图 4和图 5中可以看出:大约经历了200次左右的迭代运算后, FMPCE算法的方向余弦曲线就已经收敛到了1, 这一收敛速度要优于MED-GOPAST算法和MNIC算法.从上面两图的最后放大结果中还可以看出, 虽然三种算法均收敛到了单位1, 但是三种算法的最终收敛值并不相同:其中MNIC算法与单位1偏差最大, MED-GOPAST算法次之, 三种算法中FMPCE算法偏差最小.由于方向余弦可以表征算法的估计精度, 所以可以说在这三种算法中, FMPCE算法具有最好的估计精度.通过此实验可以得出结论: FMPCE算法不仅具有较快的收敛速度, 而且具有很高的估计精度.
5.4 FMPCE算法在图像压缩中的应用
图像压缩一直是计算机图形图像学领域内的热点问题, 通过图像压缩技术可以减小图像数据中的冗余信息从而实现更加高效的格式存储和数据传输, 而基于主成分分析的压缩方法又是图像压缩领域内的一种常用方法[22].本小节将采用主成分分析方法对著名的Lena图像进行压缩和重构. Lena原始图像如图 6(a)所示, 该图像的分辨率512像素 $\times$ 512像素.这里将Lena图像分解为若干个8像素 $\times$ 8像素的不重叠小块并将这些小块按照从左到右从上到下的顺序排列, 就构成了一个64维的数据向量.将这些数据进行中心化处理后作为主成分分析算法的输入序列.然后分别采用FMPCE算法、MED-GOPAST算法和MNIC算法对Lena图像进行压缩后重建.
三种算法的初始化参数设置方法与第5.3节相同, 这里不再重复.图 6(b) $\sim$ (d)分别给出了在重构维数为1, 4, 7三种不同情况下采用FMPCE算法对于Lena图像的重构结果, 表 1给出了在不同的重构维数下, 三种算法的重构误差.从图 6和表 1中可以得出:利用FMPCE算法对Lena图像进行压缩重构可以获得较清晰的重构图像和较低的重构误差, 即可以利用FMPCE算法解决图像重构问题.对比三种不同算法的重构误差还可以发现, 在相同的重构维数下FMPCE算法具有最小的重构误差, 即FMPCE算法对提取的主成分具有最高的估计精度, 这点是与第5.3节中的结论一致的.
表 1 不同重构维数下三种算法的重构误差Table 1 Reconstitution errors of the three algorithms with different reconstitution dimensions重构维数 1 4 7 FMPCE 0.094 0.0837 0.0813 MED-GOPAST 0.0959 0.0852 0.0846 MNIC 0.1283 0.1015 0.0933 6. 结论
本文首先对一些多个主成分提取并行算法进行了研究, 针对现有算法收敛速度慢的问题, 提出了一种新的具有较快收敛速度的非二阶算法, 该算法可以从输入信号中并行提取多个主成分; 然后采用平稳点分析法对所提算法的收敛性和自稳定性进行了证明; 最后通过仿真实验对所提算法的性能进行了验证.仿真结果表明:相比一些现有算法, 所提算法不仅收敛速度快而且估计精度较高.
-
表 1 2组患者一般资料比较
Table 1 The comparison of general data between the control and test groups
比较项目 对照组 试验组 例数 8 8 性别(例数) 男 6 2 女 7 1 年龄(岁) 47.50±5.53 44.00±6.02 病程(月) 3.19±1.22 3.25±0.93 导致SCI的
疾病(例)脊柱骨折 6 6 脊髓血管病变 1 1 脊髓炎 0 1 鞘膜瘤 1 0 损伤节段
(例)C4 1 2 T10 2 1 T11 1 1 T12 1 1 L1 1 3 L2 2 0 损伤程度(例) C级 5 6 D级 3 2 
下载: 导出CSV
表 2 2组患者LEMS比较
Table 2 The comparison of LEMS between the control and test groups
组别 治疗前 治疗4周后 治疗8周后 治疗12周后 F值 P 对照组 19.625±8.193 21.750±7.797# 23.000±7.856# 24.125±7.736# 22.996 0.000* 试验组 15.125±12.287 18.875±13.830# 20.750±14.665# 22.750±15.276# 22.996 0.000* F值 0.743 0.262 0.146 0.052 P 0.403Δ 0.616Δ 0.708Δ 0.824Δ *: P=0.000, 对照组及试验组的LEMS在治疗前后不同时间点上不全相同, 差异有统计学意义.
#:治疗后与治疗前比较, P < 0.05, 差异有统计学意义.
Δ:试验组与对照组比较, P > 0.05, 差异无统计学意义.
下载: 导出CSV
表 3 2组患者WISCI Ⅱ比较
Table 3 The comparison of WISCI Ⅱ between the control and test groups
组别 治疗前 治疗4周后 治疗8周后 治疗12周后 F值 P 对照组 0.500±0.535 2.500±1.414# 5.500±3.162# 7.250±4.234# 22.831 0.000* 试验组 2.250±3.882 7.500±7.387 10.875±6.664# 13.750±5.036# 22.831 0.000* F值 1.595 3.535 4.248 7.809 P 0.227 0.081 0.058 0.014Δ *: P=0.000, 对照组及试验组的WISCI Ⅱ在治疗前后不同时间点上不全相同, 差异有统计学意义.
#:治疗后与治疗前比较, P < 0.05, 差异有统计学意义.
Δ:试验组与对照组比较, P < 0.05, 差异有统计学意义.
下载: 导出CSV
-
[1] 潘钰, 郄淑燕.下肢康复机器人及其在脊髓损伤康复中应用的研究进展.中国脊柱脊髓杂志, 2013, 23(11):1010-1014 http://www.cnki.com.cn/Article/CJFDTOTAL-ZJZS201311011.htmPan Yu, Qie Shu-Yan. Research of lower limb rehabilitation robot and its application in spinal cord injury. Chinese Journal of Spine and Spinal Cord, 2013, 23(11):1010-1014 http://www.cnki.com.cn/Article/CJFDTOTAL-ZJZS201311011.htm [2] Barbeau H. Locomotor training in neurorehabilitation:emerging rehabilitation concepts. Neurorehabilitation and Neural Repair, 2003, 17(1):3-11 doi: 10.1177/0888439002250442 [3] Dobkin B, Apple D, Barbeau H, Basso M, Behrman A, Deforge D, Ditunno J, Dudley G, Elashoff R, Fugate L, Harkema S, Saulino M, Scott M. Weight-supported treadmill vs over-ground training for walking after acute incomplete SCI. Neurology, 2006, 66(4):484-493 doi: 10.1212/01.wnl.0000202600.72018.39 [4] Leahy T E. Impact of a limited trial of walking training using body weight support and a treadmill on the gait characteristics of an individual with chronic, incomplete spinal cord injury. Physiotherapy Theory and Practice, 2010, 26(7):483-489 doi: 10.3109/09593980903580225 [5] 闫金玉, 李剑锋, 张旭, 刘遵南, 李东生.电针配合减重平板训练治疗胸腰段椎体骨折致脊髓损伤的临床研究.中华物理医学与康复杂志, 2010, 32(9):693-696 http://d.wanfangdata.com.cn/Periodical/zhwlyx201009019Yan Jin-Yu, Li Jian-Feng, Zhang Xu, Liu Zun-Nan, Li Dong-Sheng. Electroacupuncture and body-weight supported treadmill training after vertebral fractures. Chinese Journal of Physical Medicine and Rehabilitation, 2010, 32(9):693-696 http://d.wanfangdata.com.cn/Periodical/zhwlyx201009019 [6] 王朝阳, 张继荣, 吴霜, 黄宇, 龙燕, 郑栋华, 裴强.减重步态训练对胸腰段脊髓损伤患者步行能力及综合功能恢复的临床疗效.中华物理医学与康复杂志, 2013, 35(3):181-184 http://cpfd.cnki.com.cn/Article/CPFDTOTAL-GZKX201305002007.htmWang Chao-Yang, Zhang Ji-Rong, Wu Shuang, Huang Yu, Long Yan, Zheng Dong-Hua, Pei Qiang. The clinical efficacy of body weight supported treadmill training for the recovery of walking ability and comprehensive function after thoracolumbar spinal cord injury. Chinese Journal of Physical Medicine and Rehabilitation, 2013, 35(3):181-184 http://cpfd.cnki.com.cn/Article/CPFDTOTAL-GZKX201305002007.htm [7] 李建民, 郝正玮, 赵雅宁.不同步态训练方法对慢性不完全性脊髓损伤患者步行功能效果的Meta分析.中国康复理论与实践, 2013, 19(2):183-188 http://www.cnki.com.cn/Article/CJFDTOTAL-ZKLS201302026.htmLi Jian-Min, Hao Zheng-Wei, Zhao Ya-Ning. Efficacy of different gait training on walking for chronic incomplete spinal cord injury:a meta-analysis. Chinese Journal of Rehabilitation Theory and Practice, 2013, 19(2):183-188 http://www.cnki.com.cn/Article/CJFDTOTAL-ZKLS201302026.htm [8] 郭素梅, 李建民, 吴庆文, 沈海涛.机器人步态训练对不完全性脊髓损伤患者肌肉及步行功能的影响.中国康复医学杂志, 2012, 27(4):360-363 http://www.cnki.com.cn/Article/CJFDTOTAL-ZGKF201204021.htmGuo Su-Mei, Li Jian-Min, Wu Qing-Wen, Shen Hai-Tao. Effect of robot gait training on muscles and walking ability in patients with incomplete spinal cord injury. Chinese Journal of Rehabilitation Medicine, 2012, 27(4):360-363 http://www.cnki.com.cn/Article/CJFDTOTAL-ZGKF201204021.htm [9] 郭素梅, 李建民, 吴庆文, 沈海涛. Lokomat全自动机器人步态训练与评定系统对不完全性脊髓损伤患者步行功能的影响.中国组织工程研究, 2012, 16(13):2324-2327 http://www.cnki.com.cn/Article/CJFDTOTAL-XDKF201213016.htmGuo Su-Mei, Li Jian-Min, Wu Qing-Wen, Shen Hai-Tao. Effect of gait training and assessment system of Lokomat automatic robot on walking ability of patients with incomplete spinal cord injury. Chinese Journal of Tissue Engineering Research, 2012, 16(13):2324-2327 http://www.cnki.com.cn/Article/CJFDTOTAL-XDKF201213016.htm [10] 郭素梅, 李建民, 吴庆文, 沈海涛, 刘广天.步态训练机器人对不完全性脊髓损伤患者步态的影响.中国康复理论与实践, 2013, 19(7):676-679 http://www.cnki.com.cn/Article/CJFDTOTAL-ZKLS201307025.htmGuo Su-Mei, Li Jian-Min, Wu Qing-Wen, Shen Hai-Tao, Liu Guang-Tian. Effect of robot-assisted walking therapy on gait of patients with incomplete spinal cord injury. Chinese Journal of Rehabilitation Theory and Practice, 2013, 19(7):676-679 http://www.cnki.com.cn/Article/CJFDTOTAL-ZKLS201307025.htm [11] Moreh E, Meiner Z, Neeb M, Hiller N, Schwartz I. Spinal decompression sickness presenting as partial Brown-Sequard syndrome and treated with robotic-assisted body-weight support treadmill training. Journal of Rehabilitation Medicine, 2009, 41(1):88-89 doi: 10.2340/16501977-0279 [12] Lam T, Pauhl K, Krassioukov A, Eng J J. Using robot-applied resistance to augment body-weight-supported treadmill training in an individual with incomplete spinal cord injury. Physical Therapy, 2011, 91(1):143-151 doi: 10.2522/ptj.20100026 [13] Alcobendas-Maestro M, Esclarín-Ruz A, Casado-López R M, Muñoz-González A, Pérez-Mateos G, González-Valdizán E, Martín J L R. Lokomat robotic-assisted versus overground training within 3 to 6 months of incomplete spinal cord lesion:randomized controlled trial. Neurorehabilitation and Neural Repair, 2012, 26(9):1058-1063 doi: 10.1177/1545968312448232 [14] Del-Ama A J, Gil-Agudo Á, Pons J L, Moreno J C. Hybrid gait training with an overground robot for people with incomplete spinal cord injury:a pilot study. Frontiers in Human Neuroscience, 2014, 8:Article No. 298 [15] Fleerkotte B M, Koopman B, Buurke J H, Van Asseldonk E H, Van Der Kooij H, Rietman J S. The effect of impedance-controlled robotic gait training on walking ability and quality in individuals with chronic incomplete spinal cord injury:an explorative study. Journal of Neuroengineering and Rehabilitation, 2014, 11:Article No. 26 [16] Sale P, Russo E F, Russo M, Masiero S, Piccione F, Calabró R S, Filoni S. Effects on mobility training and de-adaptations in subjects with spinal cord injury due to a wearable robot:a preliminary report. BMC Neurology, 2016, 16:Article No. 12 [17] Morawietz C, Moffat F. Effects of locomotor training after incomplete spinal cord injury:a systematic review. Archives of Physical Medicine and Rehabilitation, 2013, 94(11):2297-2308 doi: 10.1016/j.apmr.2013.06.023 [18] Mehrholz J, Kugler J, Pohl M. Locomotor training for walking after spinal cord injury. Spine, 2008, 33(21):E768-E777 doi: 10.1097/BRS.0b013e3181849747 [19] Kirshblum S C, Burns S P, Biering-Sorensen F, Donovan W, Graves D E, Jha A, Johansen M, Jones L, Krassioukov A, Mulcahey M J, Schmidt-Read M, Waring W. International standards for neurological classification of spinal cord injury (revised 2011). The Journal of Spinal Cord Medicine, 2011, 34(6):535-546 doi: 10.1179/204577211X13207446293695 [20] 叶超群, 胥少汀, 孙天胜.脊髓损伤患者的步行功能评定.中国脊柱脊髓杂志, 2007, 17(10):785-787 http://www.cnki.com.cn/Article/CJFDTOTAL-ZJZS200710027.htmYe Chao-Qun, Xu Shao-Ting, Sun Tian-Sheng. Assessment for walking ability in patients with spinal cord injury. Chinese Journal of Spine and Spinal Cord, 2007, 17(10):785-787 http://www.cnki.com.cn/Article/CJFDTOTAL-ZJZS200710027.htm [21] Labruyére R, Van Hedel H J A. Strength training versus robot-assisted gait training after incomplete spinal cord injury:a randomized pilot study in patients depending on walking assistance. Journal of Neuroengineering and Rehabilitation, 2014, 11:Article No. 4 [22] Lam T, Pauhl K, Ferguson A, Malik R N, Krassioukov A, Eng J J. Training with robot-applied resistance in people with motor-incomplete spinal cord injury:pilot study. Journal of Rehabilitation Research and Development, 2015, 52(1):113-129 doi: 10.1682/JRRD.2014.03.0090 [23] Wirz M, Zemon D H, Rupp R, Scheel A, Colombo G, Dietz V, Hornby T G. Effectiveness of automated locomotor training in patients with chronic incomplete spinal cord injury:a multicenter trial. Archives of Physical Medicine and Rehabilitation, 2005, 86(4):672-680 doi: 10.1016/j.apmr.2004.08.004 [24] Harkema S J. Neural plasticity after human spinal cord injury:application of locomotor training to the rehabilitation of walking. Neuroscientist, 2001, 7(5):455-468 doi: 10.1177/107385840100700514 [25] 吴宗耀.机器人与截瘫患者的行走康复.中华物理医学与康复杂志2011, 33(8):624-629 http://www.cqvip.com/QK/95475A/201108/38964964.htmlWu Zong-Yao. Robot and walking rehabilitation in patients with paraplegia. Chinese Journal of Physical Medicine and Rehabilitation, 2011, 33(8):624-629 http://www.cqvip.com/QK/95475A/201108/38964964.html 期刊类型引用(21)
1. 李伟，邓志翔. 列车运行控制系统运营中的安全分析方法. 武汉冶金管理干部学院学报. 2023(02): 17-20 . 
百度学术2. 张友鹏，魏智健，杨妮，张迪. 基于KPCA-SVM的S700K转辙机故障诊断方法. 安全与环境学报. 2023(09): 3089-3097 . 百度学术3. 欧阳鑫锋，孔令刚. 基于改进动态时间规整的道岔故障诊断方法. 现代信息科技. 2023(20): 136-139+143 . 百度学术4. Yong Chen，Christian Buerger，Miao Lin，Xudong Li，Volker Labenski，Haixia Jin，Hai Wang，Yang Liu，Tsuyoshi Ino，Harald Feifel，Tian Tan，Fangrong Chang. Left-turn-across-path-from-opposite-direction accidents in China:CIDAS accident study. Transportation Safety and Environment. 2023(04): 358-370 . 必应学术5. Yunting Zheng，Shaohua Chen，Zhiyong Tan，Yongkui Sun. Research on fault diagnosis of a railway point machine based on a multi-entropy feature extraction method and support vector machine. Transportation Safety and Environment. 2023(04): 338-346 . 必应学术6. 陈蕊. 基于电流曲线的道岔卡阻识别算法及实现. 自动化与仪表. 2022(04): 21-27 . 百度学术7. 池毅，陈光武. 基于一维卷积神经网络的实时道岔故障诊断. 计算机工程与应用. 2022(20): 293-299 . 百度学术8. 吴小雪，丁大伟，任莹莹，刘贺平. 二维FM系统的同时故障检测与控制. 自动化学报. 2021(01): 224-234 . 本站查看9. 李婉婉，李国宁. 基于GMM聚类和PNN的道岔故障诊断研究. 控制工程. 2021(03): 429-434 . 百度学术10. 郑云水，白邓宇，王妍. 基于相似度的道岔健康状态评估及故障检测方法研究. 铁道科学与工程学报. 2021(04): 877-884 . 百度学术11. 刘美容，刘津涛，何怡刚. 基于EMD复合多尺度熵的模拟电路故障诊断方法. 电子测量技术. 2021(04): 51-56 . 百度学术12. 李林，于颖. 智能继电保护回路故障监测全数字仿真研究. 计算机仿真. 2021(12): 460-464 . 百度学术13. 阮莹，梁利娟. 数字集成电路老化故障高精度预测方法仿真. 计算机仿真. 2020(02): 434-437 . 百度学术14. 高亚丽，陈光武. 基于改进FNN的道岔电路故障诊断方法. 科技创新与应用. 2020(15): 125-127 . 百度学术15. 孔令刚，焦相萌，陈光武，范多旺. 基于Mallat小波分解与改进GWO-SVM的道岔故障诊断. 铁道科学与工程学报. 2020(05): 1070-1079 . 百度学术16. 孔令刚，焦相萌，陈光武，范多旺. 基于多域特征提取与改进PSO-PNN的道岔故障诊断. 铁道科学与工程学报. 2020(06): 1327-1336 . 百度学术17. 杨菊花，于苡健，陈光武，司涌波，邢东峰. 基于CNN-GRU模型的道岔故障诊断算法研究. 铁道学报. 2020(07): 102-109 . 百度学术18. 姬文江，左元，黑新宏，高橋聖，中村英夫. 基于FastDTW的道岔故障智能诊断方法. 模式识别与人工智能. 2020(11): 1013-1022 . 百度学术19. Huidong Wang，Shifan He，Chengdong Li，Xiaohong Pan. Pythagorean Uncertain Linguistic Variable Hamy Mean Operator and Its Application to Multi-attribute Group Decision Making. IEEE/CAA Journal of Automatica Sinica. 2019(02): 527-539 . 必应学术20. 张友鹏，江雪莹，赵斌. 融合粗糙集与灰色模型的道岔故障预测. 铁道科学与工程学报. 2019(09): 2331-2338 . 百度学术21. 吴永成，阳长琼，何涛. 基于Fretchet距离与TWSVM的多机牵引道岔故障诊断研究. 铁道科学与工程学报. 2019(11): 2866-2872 . 百度学术其他类型引用(27)
-
下载:
计量
- 文章访问数: 1896
- HTML全文浏览量: 253
- PDF下载量: 980
- 被引次数: 48
