[发明专利]一种基于层次化卷积神经网络和注意力机制的文本匹配方法有效
申请号: | 201910419010.1 | 申请日: | 2019-05-20 |
公开(公告)号: | CN110134964B | 公开(公告)日: | 2022-10-28 |
发明(设计)人: | 李俊;杜洋;李宏广;李鹏;田文凤 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/30;G06N3/04 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;郑哲 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于层次化卷积神经网络和注意力机制的文本匹配方法,针对传统文本匹配算法中问题‑答案语义匹配问题,提出注意力机制下的层次化卷积神经网络模型。首先问题‑答案词向量化之后,通过交互运算得到问题‑答案交互矩阵,接着使用层次化卷积神经网络进行高维语义信息的特征提取和池化操作,最后通过注意力网络进行处理,使用注意力机制进行原始问题语义单元的重要性排序和选择学习,得到最终的问题‑答案匹配得分。本发明可以处理自然语言处理领域中语义匹配问题,实现高维语义特征提取和文本语义重要性学习,提高文本匹配计算的准确度。 | ||
搜索关键词: | 一种 基于 层次 卷积 神经网络 注意力 机制 文本 匹配 方法 | ||
【主权项】:
1.一种基于层次化卷积神经网络和注意力机制的文本匹配方法,其特征在于:词向量化(1)、交互矩阵(2)、层次化卷积神经网络(3)、注意力网络(4),其中所述的词向量化是对自动问答数据集中的问题和答案语句进行词汇定长输出后得到的T1=(ω1,ω2,…ωm)和T2=(v1,v2,…vn)用词向量做特征映射,得到问题和答案的定长词向量表示;交互矩阵是从问题和答案之间进行交互计算得到的问题‑答案交互矩阵;层次化卷积神经网络对问题‑答案交互矩阵,进行词粒度,短语粒度和语句粒度间的不同粒度下语义匹配信息的高维特征提取;使用注意力机制对高维抽象的语义信息和已排序的原始问题语义单元进行结合,得到最终的问题‑答案匹配得分。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910419010.1/,转载请声明来源钻瓜专利网。