[发明专利]翻译模型的训练方法、语句翻译方法、装置、设备、程序在审
申请号: | 202210220466.7 | 申请日: | 2022-03-08 |
公开(公告)号: | CN114757210A | 公开(公告)日: | 2022-07-15 |
发明(设计)人: | 程信;严睿;刘乐茂 | 申请(专利权)人: | 腾讯科技(深圳)有限公司;中国人民大学 |
主分类号: | G06F40/47 | 分类号: | G06F40/47;G06F40/58;G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 王花丽;蒋雅洁 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 翻译 模型 训练 方法 语句 装置 设备 程序 | ||
本发明提供了一种翻译模型的训练方法包括:在翻译记忆库中获取与所述目标翻译记忆语句对应的源端语句;将源端语句和所述每一个目标翻译记忆语句组成训练样本,并且将不同的训练样本组成训练样本集合;通过所述翻译模型对所述训练样本集合中的不同训练样本进行处理,确定翻译模型的更新参数;根据翻译模型的更新参数,通过所述训练样本集合中的不同训练样本对所述翻译模型的编码器参数和解码器参数进行迭代更新。本发明还提供了装置、设备、软件程序及存储介质。本发明能够使得经过训练翻译模型的精确度更高,翻译效果更好,发明实施例还可应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景。
技术领域
本发明涉及机器翻译(MT,Machine Translation)技术,尤其涉及翻译模型的训练方法、语句翻译方法、装置、设备、软件程序及存储介质。
背景技术
目前,在人们的工作、生活中经常需要将文本或语音进行翻译,一般情况下可以利用专门的翻译应用或者通过翻译网页进行机器翻译(MT,Machine Translation),但是机器翻译有时会出现翻译错误的情况,因此在行业内使用机器翻译技术时,结合机器辅助翻译(CAT,Computer-Aided Translation)是一种被广泛使用的做法。随着MT系统的进步和完善,出现了各种高效的CAT交互方式。
随着机器翻译的发展,神经网络机器翻译(NMT,Neural Machine Translation)作为新一代的翻译技术得到普通应用。神经网络机器翻译系统基于编码器-解码器框架搭建,然而,在神经网络机器翻译系统的翻译过程中,解码器兼具多重任务,如记录当前翻译的内容、以及需要翻译的内容,记录翻译的流畅度的相关信息等。翻译记忆(TMTranslation Memory)是一个存储成对的源语言和目标语言片段的数据库。翻译人员可以在进行翻译的时候查阅此数据库来提升翻译的效率和一致性。在机器翻译社区,早起的工作主要聚焦于将翻译记忆融入到统计机器翻译模型中。近年来,随着神经机器翻译模型在各项翻译任务上取得了卓越的效果,越来越多的研究旨在将翻译记忆融入到神经翻译模型(NMT Neural Machine Translation)中,但是复杂的模型结构和冗余的翻译记忆影响了翻译模型的训练精度与训练速度,不利于翻译模型的广泛推广使用。
发明内容
有鉴于此,本发明实施例提供一种翻译模型的训练方法、装置、设备、软件程序及存储介质,能够减小翻译模型的模型复杂程度,通过对比检索选择与待翻译语句相似的翻译记忆语句,可以减少相关技术中额外的记忆网络带来的网络结构复杂,影响训练速度的问题以及使用时翻译时间过长的问题,同时针对翻译记忆语句的冗余,可以通过翻译记忆融合,利用注意力机制来捕捉不同翻译机制相似性,保证翻译记忆的多样性(也就是训练样本的多样性),使得经过训练翻译模型的精确度更高,翻译效果更好,提升用户的使用体验。
本发明实施例的技术方案是这样实现的:
本发明实施例提供了一种翻译模型的训练方法,所述训练方法包括:
获取目标翻译记忆语句;
在翻译记忆库中获取与所述目标翻译记忆语句对应的源端语句;
将所述源端语句和所述每一个目标翻译记忆语句组成训练样本,并且将不同的训练样本组成训练样本集合;
获取翻译模型的初始参数;
响应于所述翻译模型的初始参数,通过所述翻译模型对所述训练样本集合中的不同训练样本进行处理,确定所述翻译模型的更新参数;
根据所述翻译模型的更新参数,通过所述训练样本集合中的不同训练样本对所述翻译模型的编码器参数和解码器参数进行迭代更新。
本发明实施例提供了一种包括:
通过翻译模型的编码器,确定与待翻译语句所对应的至少一个词语级的隐变量;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司;中国人民大学,未经腾讯科技(深圳)有限公司;中国人民大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210220466.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:简易风动喷涂机
- 下一篇:一种MR成像检查设备