[发明专利]翻译模型的训练方法、语句翻译方法、装置、设备、程序在审
申请号: | 202210470894.5 | 申请日: | 2022-04-28 |
公开(公告)号: | CN115114939A | 公开(公告)日: | 2022-09-27 |
发明(设计)人: | 陈巍华;张旭 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/04;G06N3/08 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 崔晓岚;徐川 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 翻译 模型 训练 方法 语句 装置 设备 程序 | ||
本发明提供了一种翻译模型的训练方法包括:对所述源端语句和目标语句进行拼接处理,得到第一翻译语句样本;对所述源端语句和目标语句进行随机替换处理,得到第二翻译语句样本;对篇章级单语数据进行反向翻译处理,得到第三翻译语句样本;将所述第一翻译语句样本、所述第二翻译语句样本和所述第三翻译语句样本组成训练样本集合;响应于翻译模型的初始参数,通过所述翻译模型对所述训练样本集合中的不同训练样本进行处理,确定所述翻译模型的更新参数。本发明还提供了装置、设备、软件程序及存储介质。本发明能够使得经过训练翻译模型的精确度更高,翻译效果更好,发明实施例还可应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景。
技术领域
本发明涉及机器翻译(MT,Machine Translation)技术,尤其涉及翻译模型的训练方法、语句翻译方法、装置、设备、软件程序及存储介质。
背景技术
目前,在人们的工作、生活中经常需要将文本或语音进行翻译,一般情况下可以利用专门的翻译应用或者通过翻译网页进行机器翻译(MT,Machine Translation),但是机器翻译有时会出现翻译错误的情况,因此在行业内使用机器翻译技术时,结合机器辅助翻译(CAT,Computer-Aided Translation)是一种被广泛使用的做法。随着MT系统的进步和完善,出现了各种高效的CAT交互方式。
随着机器翻译的发展,神经网络机器翻译(NMT,Neural Machine Translation)作为新一代的翻译技术得到普通应用。神经网络机器翻译系统基于编码器-解码器框架搭建,然而,在神经网络机器翻译系统的翻译过程中,对于小语种或者缺乏训练样本的语种来说,由于训练样本数量的不足,以及现有训练样本存在大量的噪声干扰,影响了翻译模型的训练精度与训练速度,导致对翻译模型的训练效果差,进一步导致根据训练后的本翻译模型进行文本翻译的准确性低,影响了用户的正常使用。
发明内容
有鉴于此,本发明实施例提供一种翻译模型的训练方法、装置、设备、软件程序及存储介质,能够减小了传统技术中预测-估计(predictor-estimator)模型需要大量平行语句来构建翻译模型所需要的代价,可以更加适应小语种(缺少训练样本的目标语种)的翻译场景,提升翻译模型的训练精度与训练速度,同时可以减少相关技术中额外的记忆网络带来的网络结构复杂,影响训练速度的问题以及使用时翻译时间过长的问题,提升训练样本的多样性,使得经过训练翻译模型的精确度更高,翻译效果更好,提升用户的使用体验。
本发明实施例的技术方案是这样实现的:
本发明实施例提供了一种翻译模型的训练方法,包括:
获取篇章级初始翻译语句样本,其中,所述篇章级初始翻译语句样本包括至少两个源端语句和至少两个目标语句;
对所述源端语句和目标语句进行拼接处理,得到第一翻译语句样本;
对所述源端语句和目标语句进行随机替换处理,得到第二翻译语句样本;
获取篇章级单语数据,并且对所述篇章级单语数据进行反向翻译处理,得到第三翻译语句样本;
将所述第一翻译语句样本、所述第二翻译语句样本和所述第三翻译语句样本组成训练样本集合;
响应于翻译模型的初始参数,通过所述翻译模型对所述训练样本集合中的不同训练样本进行处理,确定所述翻译模型的更新参数;
根据所述翻译模型的更新参数,通过所述训练样本集合中的不同训练样本对所述翻译模型的编码器参数和解码器参数进行迭代更新。
上述方案中,所述方法还包括:
确定与所述翻译模型的使用环境相匹配的动态噪声阈值;
根据所述动态噪声阈值对所述训练样本集合进行去噪处理,以形成与所述动态噪声阈值相匹配的去噪训练样本集合;或者,
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210470894.5/2.html,转载请声明来源钻瓜专利网。