[发明专利]一种基于ELECTRA的翻译质量估计伪数据生成方法及其生成系统

权利要求书

1.一种基于ELECTRA的翻译质量估计伪数据生成方法，其特征在于，按照句子为单位进行翻译，所述生成方法包括以下步骤：

步骤J1：使用待扩充的QE数据集中目标语言方向的人工后编辑译文生成伪数据或机器翻译译文生成伪数据；

步骤J2：基于步骤J1中人工后编辑译文生成的伪数据利用训练好的ELECTRA模型进行第一次训练；

步骤J3：基于步骤J1中机器翻译译文生成伪数据与原数据集进行混合后在步骤J2得到的ELECTRA模型进行第二次训练；

步骤J4：将步骤J3进行过二次ELECTRA模型训练的得到句子级别的翻译质量评估模型；

步骤J5：验证步骤J4的模型的性能。

2.根据权利要求1所述一种基于ELECTRA的翻译质量估计伪数据生成方法，其特征在于，所述步骤1人工编辑数据生成伪数据具体为，

步骤J1.1：使用待扩充的QE数据集中目标语言方向的人工后编辑译文或机器翻译译文；

步骤J1.2：将步骤J1.1的人工后编辑译文或机器翻译译文作为母本输入到ELECTRA生成器中；

步骤J1.3：基于ELECTRA生成器生成改写后的新人工后编辑译文或新机器翻译译文；

步骤J1.4：将步骤J1.3的人工后编辑译文或新机器翻译译文通过TERCOM工具包计算出对应的HTER分数；

步骤J1.5：将步骤J1.4的HTER分数以及最终源文、经生成器改写的新机器译文、人工后编辑译文这四部分构成了一条新的句子级翻译质量估计伪数据四元组。

3.根据权利要求2所述一种基于ELECTRA的翻译质量估计伪数据生成方法，其特征在于，所述步骤J1.2中生成改写后的新翻译译文具体为，

生成器会选择句子中的词进行预测并使用预测到的词替换原词，取消了对输入的mask操作，因此生成器会对句子中每个词都预测并替换一遍，而不是只对部分词预测替换；

上述过程的形式化表示如下，一段句子p＝[p₁,…p_n],经过已经训练好的生成器G编码得到对于t位置预测得到所有词的概率：

p_G(p_t∣p)＝softmax(exp(p_t)·h_G(p)_t) (1)

最后选择概率最大的词p替换为该位置的词：

4.根据权利要求1所述一种基于ELECTRA的翻译质量估计伪数据生成系统，其特征在于，所述生成系统包括

伪数据生成单元，用以将待扩充的QE数据集中目标语言方向的人工后编辑译文生成伪数据或机器翻译译文生成伪数据；

ELECTRA训练单元，用以对人工后编辑译文生成的伪数据和器翻译译文生成伪数据进行训练；

句子质量评估单元，用以在ELECTRA训练单元训练后得到句子级别的翻译质量进行评估。

5.根据权利要求1所述一种基于ELECTRA的翻译质量估计伪数据生成方法，其特征在于，按照单词为单位进行翻译，所述生成方法具体包括以下步骤：

步骤C1：使用待扩充的QE数据集中目标语言方向的词语进行人工编辑数据最终得到由源文、经生成器改写的新机器译文、人工后编辑译文以及OK/BAD标注文件这四部分构成了一条词语级翻译质量估计伪数据四元组；

步骤C2：基于步骤C1生成的伪数据四元组，使用ELECTRA模型进行第一次训练；

步骤C3：使用原数据集，基于步骤C2得到的ELECTRA模型进行第二次训练；

步骤C4：将步骤C3进行过二次ELECTRA模型训练的得到词语级别的翻译质量评估模型；

步骤C5：验证步骤C4的评估模型的性能。