[发明专利]一种中文深度学习输入法、装置及电子设备

权利要求书

1.一种中文深度学习输入法，其特征在于，包括：

将当前输入的拼音序列，转化为整数编码；

将所述整数编码经过嵌入层处理，得到初始编码矩阵；所述拼音序列中的每个字的拼音，对应所述初始编码矩阵中的一行向量；

将所述初始编码矩阵经过卷积网络处理后得到第一向量；

将第一向量作为第一门控循环单元网络的输入，经过深度学习得到语义编码向量；

将所述语义编码向量，以及第二门控循环单元网络在上一时刻的输出，作为第二门控循环单元网络当前时刻的输入，经过深度学习后经过输出层输出预测结果；

在将第一向量输入第一门控循环单元网络之前，所述输入法还包括：

将所述第一向量，以及所述初始编码矩阵，作为残差函数的输入，进行残差处理；

将所述残差函数的输出，作为所述第一门控循环单元网络的输入。

2.根据权利要求1所述的中文深度学习输入法，其特征在于，所述将所述初始编码矩阵经过卷积网络处理后得到第一向量，包括：

将所述初始编码矩阵经过卷积层处理，得到第一中间向量；

将所述第一中间向量经过池化层处理，得到第二中间向量；第二中间向量的维数低于第一中间向量的维数；

将所述第二中间向量进行扁平化处理，得到一维的所述第一向量。

3.根据权利要求1所述的中文深度学习输入法，其特征在于，在将所述残差函数的输出，输入所述第一门控循环单元网络，所述输入法还包括：

在将残差函数的输出，输入高速路网络层，将高速路网络层的输出作为所述第一门控循环单元网络的输入。

4.根据权利要求1所述的中文深度学习输入法，其特征在于，所述将所述语义编码向量，以及第二门控循环单元网络在上一时刻的输出，作为第二门控循环单元网络当前时刻的输入，经过深度学习后经过输出层输出预测结果，包括：

将所述语义编码向量经过注意力机制处理，得到含有注意力权重的语义编码向量；

将所述含有注意力权重的语义编码向量，以及第二门控循环单元网络在上一时刻的输出，作为第二门控循环单元网络当前时刻的输入，经过深度学习后经过归一化指数函数输出预测结果。

5.一种中文深度学习输入装置，其特征在于，包括：

转化模块，用于将当前输入的拼音序列，转化为整数编码；

初始编码矩阵得到模块，用于将所述整数编码经过嵌入层处理，得到初始编码矩阵；所述拼音序列中的每个字的拼音，对应所述初始编码矩阵中的一行向量；

第一向量得到模块，用于将所述初始编码矩阵经过卷积网络处理后得到第一向量；

语义编码向量得到模块，用于将第一向量作为第一门控循环单元网络的输入，经过深度学习得到语义编码向量；

预测模块，用于将所述语义编码向量，以及第二门控循环单元网络在上一时刻的输出，作为第二门控循环单元网络当前时刻的输入，经过深度学习后经过输出层输出预测结果；

所述装置，还包括：

残差处理模块，用于将所述第一向量，以及所述初始编码矩阵，作为残差函数的输入，进行残差处理；

输入模块，用于将所述残差函数的输出，作为所述第一门控循环单元网络的输入。

6.根据权利要求5所述的中文深度学习输入装置，其特征在于，所述第一向量得到模块，包括：

第一中间向量得到子模块，用于将所述初始编码矩阵经过卷积层处理，得到第一中间向量；

第二中间向量得到子模块，用于将所述第一中间向量经过池化层处理，得到第二中间向量；第二中间向量的维数低于第一中间向量的维数；

第一向量得到子模块，用于将所述第二中间向量进行扁平化处理，得到一维的所述第一向量。

7.根据权利要求5所述的中文深度学习输入装置，其特征在于，所述装置，还包括：

高速路模块，用于在将残差函数的输出，输入高速路网络层，将高速路网络层的输出作为所述第一门控循环单元网络的输入。