[发明专利]生成翻译模型的方法和装置有效
申请号: | 201911264427.1 | 申请日: | 2019-12-11 |
公开(公告)号: | CN111027332B | 公开(公告)日: | 2023-06-02 |
发明(设计)人: | 曲宇涛;张睿卿;熊皓;何中军;李芝 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/51 | 分类号: | G06F40/51;G06F40/58 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 生成 翻译 模型 方法 装置 | ||
本公开的实施例公开了生成翻译模型的方法和装置。该方法的一具体实施方式包括:获取原始语料对集,其中,每个原始语料对包括待翻译语句和译文;对于原始语料对集中的原始语料对,将该原始语料对的待翻译语句切词,并至少一次随机编辑待翻译语句中的词语后,生成至少一个新语料,并与该原始语料对的译文组成至少一个新语料对;利用预先训练的初始翻译模型计算各新语料对的翻译得分;对于原始语料对集中的原始语料对,将基于该原始语料对生成的至少一个新语料对中翻译得分最高,且翻译得分高于预定阈值的新语料对确定为口语化语料对;使用口语化语料对训练初始翻译模型,得到口语化翻译模型。该实施方式提高了翻译系统针对口语化问题的鲁棒性。
技术领域
本公开的实施例涉及计算机技术领域,具体涉及生成翻译模型的方法和装置。
背景技术
随着语音识别技术和机器翻译技术的不断成熟,出现了很多面向语音的翻译产品,如翻译机、会议同传等,同时语音翻译不同于文本翻译,存在着严重的口语化问题。
机器翻译技术需要从大量的双语语料中学习翻译规律,从而对于给定的源语言句子,翻译模型能够自动给出合适的译文。因为能收集到的双语语料大都是规范表达的句子,从而训练出来的翻译模型更适合翻译规范表达的源语言句子,对于口语化严重的句子,翻译效果并不理想。
现有技术通常通过挖掘网络上已有的口语相关的双语语料;或者挖掘口语相关的单语语料,然后人工翻译,构建双语语料。然后,在通用大数据模型的基础上,引入口语化的语料进行精细化训练(fine tuning)。
但是,通过数据挖掘的方法能获取到的语料数量极少,人工翻译的方法代价极高。同时如果只能够获取少量的口语化双语语料,最终的效果提升比较有限。
发明内容
本公开的实施例提出了生成翻译模型的方法和装置。
第一方面,本公开的实施例提供了一种生成翻译模型的方法,包括:获取原始语料对集,其中,每个原始语料对包括待翻译语句和译文;对于原始语料对集中的原始语料对,将该原始语料对的待翻译语句切词,并至少一次随机编辑待翻译语句中的词语后,生成至少一个新语料,并与该原始语料对的译文组成至少一个新语料对;利用预先训练的初始翻译模型计算各新语料对的翻译得分;对于原始语料对集中的原始语料对,将基于该原始语料对生成的至少一个新语料对中翻译得分最高,且翻译得分高于预定阈值的新语料对确定为口语化语料对;使用口语化语料对训练初始翻译模型,得到口语化翻译模型。
在一些实施例中,随机编辑包括:随机删除待翻译语句中的至少一个词语。
在一些实施例中,随机编辑包括:随机重复待翻译语句中的至少一个词语。
在一些实施例中,该方法还包括:响应于接收到待翻译的目标语句,识别目标语句是否为口语化语句;若是口语化语句,则将目标语句输入口语化翻译模型,输出相应译文。
在一些实施例中,该方法还包括:若不是口语化语句,则将目标语句输入初始翻译模型,输出相应译文。
第二方面,本公开的实施例提供了一种生成翻译模型的装置,包括:获取单元,被配置成获取原始语料对集,其中,每个原始语料对包括待翻译语句和译文;编辑单元,被配置成对于原始语料对集中的原始语料对,将该原始语料对的待翻译语句切词,并至少一次随机编辑待翻译语句中的词语后,生成至少一个新语料,并与该原始语料对的译文组成至少一个新语料对;评分单元,被配置成利用预先训练的初始翻译模型计算各新语料对的翻译得分;生成单元,被配置成对于原始语料对集中的原始语料对,将基于该原始语料对生成的至少一个新语料对中翻译得分最高,且翻译得分高于预定阈值的新语料对确定为口语化语料对;训练单元,被配置成使用口语化语料对训练初始翻译模型,得到口语化翻译模型。
在一些实施例中,编辑单元进一步被配置成:随机删除待翻译语句中的至少一个词语。
在一些实施例中,编辑单元进一步被配置成:随机重复待翻译语句中的至少一个词语。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911264427.1/2.html,转载请声明来源钻瓜专利网。