[发明专利]一种文本中全局特征的提取方法、系统及相关装置在审
申请号: | 201910451681.6 | 申请日: | 2019-05-28 |
公开(公告)号: | CN110162635A | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 关立刚;陈平华 | 申请(专利权)人: | 广东工业大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 510060 广东省*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 矩阵 全局特征 文本 输入信息 特征信息 文本分类 新矩阵 计算机可读存储介质 卷积神经网络 文本特征信息 注意力机制 参数更新 单词特征 高层网络 模型获取 提取系统 网络模型 相关装置 引入 准确率 残差 堆叠 多层 拼接 申请 抽取 停滞 终端 | ||
1.一种文本中全局特征的提取方法,其特征在于,包括:
利用BiLSTM模型获取所述文本的特征信息矩阵和输入信息矩阵;
将所述特征信息矩阵和所述输入信息矩阵拼接得到新矩阵;
利用卷积神经网络抽取所述新矩阵的全局特征。
2.根据权利要求1所述的提取方法,其特征在于,还包括:
将CNN模型与所述BiLSTM模型相结合,得到BiLSTM-CNN模型;
将所述文本中预设单词的输入向量经过所述BiLSTM模型得到的特征向量拼接后作为所述预设单词的特征向量;
将所述特征向量作为所述BiLSTM-CNN模型的输出,同时作为所述CNN模型的输入向量;
对所述特征向量进行一维卷积,并经滤波器处理得到最终特征向量。
3.根据权利要求2所述的提取方法,其特征在于,所述滤波器的大小可以为所述预设单词的特征向量的倍数。
4.根据权利要求3所述的提取方法,其特征在于,将所述文本中预设单词的输入向量经过所述BiLSTM模型得到的特征向量拼接后作为所述预设单词的特征向量包括:
令xj(j=1,…,n)为所述文本中的第j个单词的输入向量,所述输入向量的维度为K;和是所述第j个单词的输入向量xj经过所述BiLSTM模型得到的特征向量,其维度分别是和
将拼接后的向量作为所述第j个单词的特征向量,所述特征向量的维度为作为所述BiLSTM-CNN模型的输出,同时作为所述CNN模型的输入向量;
对所述特征向量进行一维卷积;所述CNN模型中的滤波器的数目为K,得到了K个所述特征向量。
5.根据权利要求2所述的提取方法,其特征在于,还包括:
利用LSTM模型引入残差连接和注意力机制,并结合所述BiLSTM-CNN模型得到DHABLCR模型。
6.根据权利要求5所述的提取方法,其特征在于,还包括:
将所述文本中的每个单词采用独热码表示;
将所述单词映射成低维词向量,并生成输出序列;
在Max Pooling层对所述输出序列中所述预设单词的输入特征向量选择最高值作为所述预设单词的显著特征;
将所有所述单词的所有显著特征拼接成最终向量,作为所述文本的特征向量。
7.根据权利要求5所述的提取方法,其特征在于,将所有所述单词的所有显著特征拼接成最终向量,作为所述文本的特征向量之后,还包括:
经过Softmax层对所述文本进行分类。
8.一种文本中全局特征的提取系统,其特征在于,包括:
矩阵计算模块,用于利用BiLSTM模型获取所述文本的特征信息矩阵和输入信息矩阵;
矩阵拼接模块,用于将所述特征信息矩阵和所述输入信息矩阵拼接得到新矩阵;
特征提取模块,用于利用卷积神经网络抽取所述新矩阵的全局特征。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7任一项所述的提取方法的步骤。
10.一种终端,其特征在于,包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如权利要求1-7任一项所述的提取方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910451681.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于机器学习的文本处理方法
- 下一篇:基于D-LSTM的情绪原因识别方法