[发明专利]一种机器翻译模型的训练方法及装置有效
申请号: | 201711445673.8 | 申请日: | 2017-12-27 |
公开(公告)号: | CN109977424B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 施亮亮;王宇光;姜里羊;阳家俊;李响;卫林钰;陈伟 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06F40/44 | 分类号: | G06F40/44;G06F40/58 |
代理公司: | 深圳市深佳知识产权代理事务所(普通合伙) 44285 | 代理人: | 王仲凯 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 机器翻译 模型 训练 方法 装置 | ||
本发明公开了一种机器翻译模型的训练方法,包括:获取第一双语句对;按照一预设概率,删除所述第一双语句对中的标点符号,获得第二双语句对;利用所述第二双语句对进行机器翻译模型的训练。本发明实现了降低机器翻译模型对标点符号的过学习,提高翻译准确率的技术效果。同时,本发明还公开了一种机器翻译模型的训练装置。
技术领域
本发明涉及电子技术领域,尤其涉及一种机器翻译模型的训练方法及装置。
背景技术
随着双语句对的大量积累,计算机硬件计算能力的提高,以及机器翻译算法的进步,机器翻译的性能有了很大提升。
对于某些语言,双语句对一般会存在句末标点。例如:中文中绝大大多数句末标点是“。”,英文中绝大多数句末标点是“.”。由于这种源端句子句末常见标点大量存在,且都在句尾,会形成一种非常明确的模式,利用这样的双语句对训练机器翻译模型时,往往会造成句末标点的过学习,产生过拟合现象,进而降低了机器翻译模型的翻译准确率。
发明内容
本发明实施例通过提供一种机器翻译模型的训练方法及装置,解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题,实现了提高机器翻译模型的翻译准确率的技术效果。
第一方面,本发明通过本发明的一实施例提供如下技术方案:
一种机器翻译模型的训练方法,包括:
获取第一双语句对;
按照一预设概率,删除所述第一双语句对中的标点符号,获得第二双语句对;
利用所述第二双语句对进行机器翻译模型的训练。
优选地,所述第一双语句对,包括:
待翻译语句,以及与所述待翻译语句对应的译文语句。
优选地,所述按照一预设概率,删除所述第一双语句对中的标点符号,获得第二双语句对,包括:
按照一预设概率,删除所述待翻译语句中的第一标点符号,获得第二双语句对;或
按照一预设概率,删除所述待翻译语句中的第一标点符号,以及删除所述译文语句中的第二标点符号,获得第二双语句对。
优选地,所述按照一预设概率,删除所述第一双语句对中的标点符号,获得第二双语句对,包括:
按照第一预设概率,随机或按照预设规律删除所述待翻译语句中的第一标点符号,获得第二双语句对;或
按照第一预设概率,随机或按照预设规律删除所述待翻译语句中的第一标点符号,按照第二预设概率,随机或按照预设规律删除所述译文语句中的第二标点符号,获得第二双语句对。
优选地,所述第一标点符号位于所述待翻译语句的末尾,所述第二标点符号位于所述译文语句的末尾。
优选地,所述第一标点符号或所述第二标点符号,包括:
句号、问号、感叹号或省略号。
优选地,所述预设概率的取值范围为35%~95%。
优选地,所述第一预设概率的取值范围为35%~95%,所述第二预设概率的取值范围为35%~95%。
第二方面,本发明通过本发明的一实施例,提供如下技术方案:
一种机器翻译模型的训练装置,包括:
获取单元,用于获取第一双语句对;
删除单元,用于按照一预设概率,删除所述第一双语句对中的标点符号,获得第二双语句对;
训练单元,用于利用所述第二双语句对进行机器翻译模型的训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711445673.8/2.html,转载请声明来源钻瓜专利网。