[发明专利]语音识别任务中的保持注意力机制单调性方法有效
| 申请号： | 202110250627.2 | 申请日： | 2021-03-08 |
| 公开（公告）号： | CN112992129B | 公开（公告）日： | 2022-09-30 |
| 发明（设计）人： | 杨周旺;杜叶倩;王昊 | 申请（专利权）人： | 中国科学技术大学 |
| 主分类号： | G10L15/06 | 分类号： | G10L15/06;G10L15/16;G10L15/26;G06N3/08 |
| 代理公司： | 北京凯特来知识产权代理有限公司 11260 | 代理人： | 郑立明;郑哲 |
| 地址： | 230026 安*** | 国省代码： | 安徽;34 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种语音识别任务中的保持注意力机制单调性方法，包括：通过神经网络模块，学习能够拟合注意力机制权重分布的高斯分布的参数，并进行数值计算，使之符合设定要求；将数值计算得到的参数值与注意力机制权重矩阵之间的均方误差作为单调性损失，并将所述单调性损失作为原本优化目标的正则项，得到最终的优化目标；基于所述最终的优化目标对语音识别框架进行训练。上述方法使得模型在训练和测试过程中都能保持良好的语音和文本的对齐关系，从而避免解码过长或重复解码的问题，提升模型稳定性，减少预测错误，尤其是插入错误。此外，该方法简单易实施，参数量小，只少量增加计算量。 | ||
| 搜索关键词： | 语音 识别 任务 中的 保持 注意力 机制 调性 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学技术大学，未经中国科学技术大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110250627.2/，转载请声明来源钻瓜专利网。
- 上一篇：一种煤岩界面识别方法
- 下一篇：一种用于三维重建的纹理编码影像生成方法
