[发明专利]一种基于注意力分散的长短期记忆网络的语义编码方法有效

专利信息
申请号: 202110375326.2 申请日: 2021-04-08
公开(公告)号: CN113033189B 公开(公告)日: 2022-07-12
发明(设计)人: 郭树理;杨文涛;韩丽娜;王国威;宋晓伟 申请(专利权)人: 北京理工大学;中国人民解放军总医院第二医学中心;海南软件职业技术学院
主分类号: G06F40/258 分类号: G06F40/258;G06F40/284;G06F40/30;G06N3/04;G06N3/08
代理公司: 北京正阳理工知识产权代理事务所(普通合伙) 11639 代理人: 邬晓楠
地址: 100081 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开的一种基于注意力分散的长短期记忆网络的语义编码方法,属于自然语言处理生成领域。针对现有技术中存在的语义偏差、梯度消失、梯度爆炸、融合上下文信息不完善等问题,本发明使用的神经网络在BiLSTM基础上添加了一个参数共享单元,增强了模型获取和融合双向特征信息的能力;采用改进了的深度学习模型中的激活函数,减小了梯度问题出现的概率;对输入和隐藏层,采用交互空间和扩展LSTM的方式构建模型,增强了模型融合上下文信息的能力;引入了语句结构信息变量的注意力分散机制,对语义的生成进行了限制从而提了高语义准确性。本发明适用于自动写新闻或标题、机器人客服、会议或诊断报告生成等自然语言生成的应用。
搜索关键词: 一种 基于 注意力 分散 短期 记忆 网络 语义 编码 方法
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学;中国人民解放军总医院第二医学中心;海南软件职业技术学院,未经北京理工大学;中国人民解放军总医院第二医学中心;海南软件职业技术学院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202110375326.2/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top