[发明专利]一种模型训练的方法、翻译的方法以及装置有效
申请号: | 202110466719.4 | 申请日: | 2021-04-28 |
公开(公告)号: | CN113239708B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 张檬;李良友 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/30;G06F40/289 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 聂秀娜 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 模型 训练 方法 翻译 以及 装置 | ||
本申请涉及人工智能领域,公开了一种模型训练的方法、翻译方法以及装置,其中,模型训练的方法包括:利用第一单语语料对模型进行训练,以获取第一PLM,利用第二单语语料对模型进行训练,以获取第二PLM。基于第一PLM获取第一翻译模型的词向量参数。利用高资源平行语料对第一翻译模型进行训练,以获取训练后的第一翻译模型,根据训练后的第一翻译模型和第二PLM获取第二翻译模型,利用低资源平行语料对第二翻译模型进行训练,以获取训练后的第二翻译模型。本申请提供的方案在训练模型的阶段,同时利用到高资源平行语料、低资源平行语料、第一单语语料和第二单语语料,使训练后的模型在低资源场景下,也具有很好的翻译效果。
技术领域
本申请涉及人工智能技术领域,具体涉及一种模型训练的方法、翻译的方法以及装置。
背景技术
人工智能(artificial intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
随着AI技术的发展,神经机器翻译(neural machine translation,NMT)模型被广泛应用到日常生活中。NMT模型的训练需要大量的平行语料,因此,NMT模型的顺利运作往往局限于高资源场景,高资源场景是指平行语料丰富的场景,例如,通过NMT模型将英文文献资料翻译成中文文献资料。但是,实际应用中的许多场景是低资源场景,低资源场景是指平行语料缺乏的场景,例如,通过NMT模型对小语种、特定领域(如医学领域、法学领域)的文献等进行翻译。在低资源场景下,NMT模型翻译的效果往往会明显下降,因此,提升NMT模型在低资源场景下的翻译效果亟待解决。
发明内容
本申请实施例提供一种模型训练的方法、翻译方法以及装置,提升NMT模型在低资源场景下的翻译效果。
为达到上述目的,本申请实施例提供如下技术方案:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110466719.4/2.html,转载请声明来源钻瓜专利网。