[发明专利]基于预训练语言模型评估机器译文质量的方法、装置在审
申请号: | 202310455885.3 | 申请日: | 2023-04-25 |
公开(公告)号: | CN116484232A | 公开(公告)日: | 2023-07-25 |
发明(设计)人: | 闫泽禹 | 申请(专利权)人: | 传神语联网网络科技股份有限公司 |
主分类号: | G06F18/22 | 分类号: | G06F18/22;G06F18/214;G06F40/58;G06F40/289 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 支珊 |
地址: | 430206 湖北省武汉市东湖新技术*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 训练 语言 模型 评估 机器 译文 质量 方法 装置 | ||
1.一种评估机器译文质量的方法,其特征在于,包括:
获取原文,将所述原文进行翻译得到机器译文;
根据所述原文和所述机器译文确定待测数据;
基于特征打分模块对所述待测数据进行预测得到质量评估结果;
其中,所述特征打分模块由训练集训练得到,所述训练集为对所述原文和所述机器译文进行句相似度处理和词相似度处理后得到的数据集。
2.根据权利要求1所述的方法,其特征在于,对所述原文和所述机器译文进行句相似度处理和词相似度处理得到训练集,包括:
获取所述原文和所述机器译文的句相似度特征;
获取所述原文和所述机器译文的词相似度矩阵;
对所述词相似度矩阵进行矩阵分解,根据分解后的词相似度矩阵得到词相似度打分向量;
根据所述句相似度特征和所述词相似度打分向量生成训练集。
3.根据权利要求2所述的方法,其特征在于,根据所述句相似度特征和所述词相似度打分向量生成训练集,对训练集进行训练后得到特征打分模块,具体包括:
将所述句相似度特征和所述词相似度打分向量进行拼接得到句词相似度特征;
将所述句词相似度特征与编辑距离标签进行标签匹配,得到带有标签的训练集;所述编辑距离标签根据机器译文和审校后的译文计算获得;
将所述训练集输入到线性回归模型中进行训练,得到训练好的特征打分模块,以预测机器译文的编辑距离。
4.根据权利要求2所述的方法,其特征在于,获取所述原文和所述机器译文的句相似度特征,具体包括:
对所述原文、机器译文进行句向量编码,得到原文句表征向量和机器译文句表征向量;
确定所述原文句表征向量和所述机器译文句表征向量的余弦相似度,作为句相似度特征。
5.根据权利要求2所述的方法,其特征在于,获取所述原文和所述机器译文的词相似度矩阵,具体包括:
将原文进行分词,将分词后的原文进行编码得到每个词的表征向量,根据所述原文的每个表征向量生成原文的词向量列表;
将机器译文进行分词,将分词后的机器译文进行编码得到每个词的表征向量,根据所述机器译文的每个表征向量生成机器译文的词向量列表;
在所述原文的词向量列表和所述机器译文的词向量列表中各取出一个词向量进行两两组合,得到所有词组合;
确定每个所述词组合中两个词向量的余弦相似度,所述每个余弦相似度作为词相似度矩阵中的一个元素;
将所有词组合的余弦相似度进行组合生成词相似度矩阵。
6.根据权利要求2所述的方法,其特征在于,对所述词相似度矩阵进行矩阵分解,根据分解后的词相似度矩阵得到词相似度打分向量,具体包括:
根据相似度矩阵确定第一特征向量矩阵和特征值矩阵和第二特征向量矩阵;
对特征值矩阵进行对角化处理,将对角线上的元素按照降序排列,得到对角线矩阵;
将第一特征向量矩阵的各列降序排列,得到左奇异向量矩阵;
将第二特征向量矩阵的各列降序排列,得到右奇异向量矩阵;
根据所述对角线矩阵、所述左奇异向量矩阵、所述右奇异向量矩阵以及所述词相似度矩阵的分解形式,得到分解后的词相似度矩阵;
取所述对角线矩阵的对角线上的奇异值作为词相似度打分向量。
7.根据权利要求1所述的方法,其特征在于,在对所述原文和所述机器译文进行句相似度处理和词相似度处理之前,所述方法还包括:
获取原文、机器译文和审校后的译文;
对所述原文、机器译文和审校后的译文进行预处理;
根据预处理后的机器译文和审校后的译文,确定机器译文和审校后的译文的编辑距离。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于传神语联网网络科技股份有限公司,未经传神语联网网络科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310455885.3/1.html,转载请声明来源钻瓜专利网。