[发明专利]短文本描述方法和装置有效
申请号: | 201910723855.X | 申请日: | 2019-08-07 |
公开(公告)号: | CN110457700B | 公开(公告)日: | 2020-04-21 |
发明(设计)人: | 赵文涛;朱成璋;刘丹;李倩;李盼 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06N3/04;G06N3/08 |
代理公司: | 长沙国科天河知识产权代理有限公司 43225 | 代理人: | 邱轶 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 描述 方法 装置 | ||
1.一种短文本描述方法,所述方法包括:
获取待描述短文本的词嵌入矩阵和字符嵌入矩阵;
将所述词嵌入矩阵和所述字符嵌入矩阵分别输入预先设置的掩码卷积网络,得到所述词嵌入矩阵对应的词层面卷积特征和所述字符嵌入矩阵对应的字符层面卷积特征;
将所述词层面卷积特征和所述字符层面卷积特征分别输入预先设置的递归神经网络模型,得到所述词层面卷积特征对应的词层面向量表示和所述字符层面卷积特征对应的字符层面向量表示;
对所述词层面向量表示和所述字符层面向量表示进行叠加,得到所述待描述短文本的短文本描述;
所述掩码卷积网络包括:词掩码卷积网络和字符掩码卷积网络;
将所述词嵌入矩阵和所述字符嵌入矩阵分别输入预先设置的掩码卷积网络,得到所述词嵌入矩阵对应的词层面卷积特征和所述字符嵌入矩阵对应的字符层面卷积特征,包括:
将所述词嵌入矩阵输入多个相同尺寸的词掩码卷积网络,得到对应数量的所述词嵌入矩阵对应的词特征向量;所述词掩码卷积网络的宽度是根据所述词嵌入矩阵的向量维度确定的;
根据所述词特征向量,得到词层面卷积特征;
将所述字符嵌入矩阵输入多个相同尺寸的字符掩码卷积网络,得到对应数量的所述词嵌入矩阵对应的字符特征向量;所述字符掩码卷积网络的宽度是根据所述字符嵌入矩阵的向量维度确定的;
根据所述字符特征向量,得到字符层面特征。
2.根据权利要求1所述的方法,其特征在于,所述获取待描述短文本的词嵌入矩阵和字符嵌入矩阵,包括:
获取预先设置的词嵌入转换矩阵;
根据所述词嵌入转换矩阵,将所述待描述短文本转换为词嵌入矩阵;
获取预先设置的字符嵌入转换矩阵;
根据所述字符嵌入转换矩阵,将所述待描述短文本转换为字符嵌入矩阵。
3.根据权利要求1所述的方法,其特征在于,所述掩码卷积网络包括掩码过滤器和掩码矩阵;所述掩码过滤器为权重矩阵;所述权重矩阵与所述掩码矩阵相位相乘对所述掩码卷积网络进行打码;
将所述词嵌入矩阵和所述字符嵌入矩阵分别输入预先设置的掩码卷积网络,得到所述词嵌入矩阵对应的词层面卷积特征和所述字符嵌入矩阵对应的字符层面卷积特征,包括:
根据所述权重矩阵的行组合,设置多个掩码矩阵;
根据所述权重矩阵对应的掩码过滤器和多个所述掩码矩阵,设置对应数量的掩码卷积网络;
将所述词嵌入矩阵和所述字符嵌入矩阵分别输入多个所述掩码卷积网络,得到所述词嵌入矩阵对应的词卷积矩阵和所述字符嵌入矩阵对应的字符卷积矩阵;
采用跨过滤器的最大池化方法对所述词卷积矩阵进行合成,得到词层面卷积特征;
采用跨过滤器的最大池化方法对所述字符卷积矩阵进行合成,得到字符层面卷积特征。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
采用线性激活函数作为所述掩码卷积网络的非线性函数。
5.根据权利要求1至4任一项所述的方法,其特征在于,将所述词层面卷积特征和所述字符层面卷积特征分别输入预先设置的递归神经网络模型,得到所述词层面卷积特征对应的词层面向量表示和所述字符层面卷积特征对应的字符层面向量表示,包括:
将通过不同高度的所述掩码卷积网络输出的词层面卷积特征输入预先设置的递归神经网络模型,得到所述词层面卷积特征对应的词层面向量表示;
将通过不同高度的所述掩码卷积网络输出的字符层面卷积特征输入预先设置的递归神经网络模型,得到所述字符层面卷积特征对应的字符层面向量表示。
6.根据权利要求5所述的方法,其特征在于,对所述词层面向量表示和所述字符层面向量表示进行叠加,得到所述待描述短文本的短文本描述,包括:
将所述词层面向量表示和所述字符层面向量表示合成为合成表示矩阵;
根据所述合成表示矩阵的转置矩阵,得到所述待描述短文本的短文本描述。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910723855.X/1.html,转载请声明来源钻瓜专利网。