[发明专利]基于增强注意力机制的卷积神经网络匹配的文本识别方法有效
申请号: | 201910510842.4 | 申请日: | 2019-06-13 |
公开(公告)号: | CN110298037B | 公开(公告)日: | 2023-08-04 |
发明(设计)人: | 向阳;徐诗瑶;单光旭;杨力;刘芮辰 | 申请(专利权)人: | 同济大学 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F16/33;G06F40/30;G06N3/0464 |
代理公司: | 上海科盛知识产权代理有限公司 31225 | 代理人: | 赵继明 |
地址: | 200092 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于增强注意力机制的卷积神经网络匹配的文本识别方法,该方法包括:步骤1:对输入文本进行预处理,并根据文本语料预训练得到初始词向量;步骤2:利用初始词向量将输入文本中的句子转化为由初始词向量组成的矩阵;步骤3:通过带有增强注意力机制的卷积神经网络对矩阵进行编码并生成低维度句向量;步骤4:获取两两句子各自对应低维度句向量的相关性,并根据相关性结果对整体文本进行识别。与现有技术相比,本发明避免了两个句子在句子建模的过程中完全独立的缺点,在卷积神经网络获取局部上下文信息的基础上加入另一句子中相关的注意力信息,使两个句子间尽早的进行交互,并且结合了不同大小的卷积核所得到的多粒度信息。 | ||
搜索关键词: | 基于 增强 注意力 机制 卷积 神经网络 匹配 文本 识别 方法 | ||
【主权项】:
1.一种基于增强注意力机制的卷积神经网络匹配的文本识别方法,其特征在于,该方法包括以下步骤:步骤1:对输入文本进行预处理,并根据文本语料预训练得到初始词向量;步骤2:利用初始词向量将输入文本中的句子转化为由初始词向量组成的矩阵;步骤3:通过用于增加文本句子间交互信息的带有增强注意力机制的卷积神经网络对矩阵进行处理并得到低维度句向量;步骤4:对输入文本的句子各自对应低维度句向量进行匹配,并最终对带有匹配结果的输入文本与数据库中的数据进行识别并输出数据库中对应识别文本。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同济大学,未经同济大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910510842.4/,转载请声明来源钻瓜专利网。