[发明专利]基于注意力的针对文本的联合信源信道方法有效
| 申请号： | 202110581032.5 | 申请日： | 2021-05-27 |
| 公开（公告）号： | CN113300813B | 公开（公告）日： | 2022-08-30 |
| 发明（设计）人： | 陈雪晨;刘婷 | 申请（专利权）人： | 中南大学 |
| 主分类号： | H04L1/00 | 分类号： | H04L1/00;G06N3/04;G06N3/08 |
| 代理公司： | 长沙市融智专利事务所(普通合伙) 43114 | 代理人： | 欧阳迪奇 |
| 地址： | 410083 湖南*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于注意力的针对文本的联合信源信道方法，采用基于包括编码器、信道和解码器的生成器对文本进行联合信源信道编码，采用GRU来代替LSTM，计算速度更快。同时加入注意力机制，提高译码的效率和准确性。利用GAN框架，使生成模型的参数更新不是直接来自原数据样本，而是来自判别模型的反向传播。本发明中将基于GRU的单向文本译码框架作为生成模型，利用CNN作为判别模型，对生成器生成的样本进行判别。束搜索中加入点互信息，和最大似然概率一起，更准确的译码单词。在译码端，本发明采用同步双向译码的方法。同时L2R和R2L译码，利用SBAtt以及双向束搜索，实现对齐及信息的交互，即同时利用过去和未来的信息，从而降低解码的单词错误率。 | ||
| 搜索关键词： | 基于 注意力 针对 文本 联合 信源 信道 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中南大学，未经中南大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110581032.5/，转载请声明来源钻瓜专利网。
