[发明专利]基于门控的独立循环神经网络及骨架动作识别方法

说明书

本发明公开了一种基于门控的独立循环神经网络及骨架动作识别方法，其中，基于门控的独立循环神经网络由基于门控的独立循环神经元构成，所述基于门控的独立循环神经元是在独立循环神经元的基础上，加入门控单元；门控单元的输入信息包括使用当前时刻的输入信息或者是使用当前的输入信息和循环输入信息，具体为：i_t＝σ(W_ix_t+b_i)或i_t＝σ(W_ix_t+u_i⊙h_t‑1+b_i)，其中，σ是激活函数，W_i和b_i分别为权重和偏移，x为当前输入信息，u_i为该门的循环权重，h为循环输入，t为当前时刻；基于门控的独立循环神经元的整体公式为h_t＝g(i_t⊙f(Wx_t+b)+u⊙h_t‑1+b_o)；本方明基于门控的独立循环神经网络应用于骨架动作识别中，可以更加有效地对骨架信息进行提取及在循环时间网络中的积累，提升骨架动作识别的准确率。

技术领域

本发明涉及神经网络技术领域，特别是一种基于门控的独立循环神经网络及骨架动作识别方法。

背景技术

动作识别技术在虚拟现实、视频监控等领域被广泛的应用；随着微软Kinect等深度传感器的发展，基于骨架数据的动作识别算法被广泛的研究。另一方面，随着深度学习的快速进展，基于深度学习的骨架动作识别获得了长足的进展。因为骨架动作识别涉及视频，是一种时序序列处理问题，因此，深度学习中的循环神经网络被深入研究用于骨架动作识别。

循环神经网络(RNN)主要包括基本循环神经网络、长短期记忆网络(LSTM)、门控循环单元(RU)等。其中，基本循环神经网络的训练由于迭代使用循环变量矩阵存在梯度爆炸和梯度消失的问题，因此不能处理长时间的序列信号。为了改善该问题，长短期记忆网络(LSTM)和门控循环单元(GRU)相继提出，使用门控技术在一定程度上解决了梯度爆炸和梯度消失的问题。但因为他们在结构中使用多个门，参数量急剧增加，导致训练效率降低。近期独立循环神经网络(IndRNN)被提出，改变了网络循环连接的处理方式，利用哈达马积(Hadamard product)对每个循环输入进行点乘；并通过控制循环权重的方式解决了梯度爆炸和梯度消失的问题。该独立循环网络方法及上述长短期记忆网络(LSTM)都被用于骨架动作识别中，并取得了较好的结果。下面对两种神经网络简单说明。

独立循环神经网络(IndRNN)：h_t＝g(Wx_t+u⊙h_t-1+b)；

其中，h为输出和下一时刻的循环输入，x为输入信息，W，u和b分别为输入处理权重，循环处理权重和偏移权重，其中u为向量，⊙表示哈达马积，即向量点乘。g为激活函数。每个时刻的输出按上述公式为当前输入信息经过输入权重处理，叠加循环权重处理的循环输入和偏移权重，然后经过激活函数进行处理作为输出。

长短期记忆网络(LSTM)：

输入控制：z_t＝g(W_zx_t+R_zy_t-1+b_z)

输入门：i_t＝σ(W_ix_t+R_iy_t-1+b_i)

遗忘门：f_t＝σ(W_fx_t+R_fy_t-1+b_f)