[发明专利]基于标签的优化模型训练方法、装置、设备及存储介质

权利要求书

1.一种基于标签的优化模型训练方法，其特征在于，所述基于标签的优化模型训练方法包括：

获取多个原始文本数据和多个比对文本数据，一个原始文本数据对应一个比对文本数据；

将每个原始文本数据输入预置的编码器中，基于自注意力机制和询问注意力机制，得到多个目标内容隐藏层向量组；

将每个目标内容隐藏层向量组输入预置的解码器中，结合自回归机制进行标签计算，得到多个目标标签组；

基于所述多个目标标签组训练模型，得到初始优化模型；

将所述多个原始文本数据依次输入所述初始优化模型中，得到多个待检测文本数据，并判断每个待检测文本数据是否与对应的比对文本数据相匹配；

若目标待检测文本数据与对应的比对文本数据不匹配，则调整所述初始优化模型的参数，得到目标优化模型。

2.根据权利要求1所述的基于标签的优化模型训练方法，其特征在于，所述将每个原始文本数据输入预置的编码器中，基于自注意力机制和询问注意力机制，得到多个目标内容隐藏层向量组包括：

从每个原始文本数据中提取对应的原始文本序列；

将每个原始文本序列输入预置的编码器中，基于注意力掩码机制和每个原始文本序列确定对应的输入序列；

基于自注意力机制和询问注意力机制对每个输入序列进行隐藏层计算，生成对应的内容隐藏层向量组，得到多个目标内容隐藏层向量组。

3.根据权利要求2所述的基于标签的优化模型训练方法，其特征在于，所述将每个原始文本序列输入预置的编码器中，基于注意力掩码机制和每个原始文本序列确定对应的输入序列包括：

将每个原始文本序列输入预置的编码器中，结合注意力掩码机制对每个原始文本序列进行多次迭代预测，得到对应的多个位置掩码；

整合每个原始文本序列对应的多个位置掩码，得到每个原始文本序列对应的输入序列。

4.根据权利要求3所述的基于标签的优化模型训练方法，其特征在于，所述基于自注意力机制和询问注意力机制对每个输入序列进行隐藏层计算，生成对应的内容隐藏层向量组，得到多个目标内容隐藏层向量组包括：

基于每个输入序列提取对应的输入向量组，并采用自注意力机制和询问注意力机制，在第一层隐藏层对目标输入向量组和预置的初始化向量进行计算，得到对应的第一内容隐藏层向量组和对应的第一查询隐藏层向量组；

采用所述自注意力机制和所述询问注意力机制，在第二层隐藏层对所述对应的第一内容隐藏层向量组和所述对应的第一查询隐藏层向量组进行计算，得到对应的第二内容隐藏层向量组和对应的第二查询隐藏层向量组；

采用所述自注意力机制和所述询问注意力机制，按照上述步骤在其他层隐藏层对对应的内容隐藏层向量组和对应的查询隐藏层向量组进行计算，直至最后一层隐藏层，生成对应的目标内容隐藏层向量组，所述对应的目标内容隐藏层向量组为最后一层隐藏层对应的内容隐藏层向量组；

采用所述自注意力机制和所述询问注意力机制按照上述步骤对其他输入序列进行计算，得到多个目标内容隐藏层向量组。

5.根据权利要求1所述的基于标签的优化模型训练方法，其特征在于，所述将每个目标内容隐藏层向量组输入预置的解码器中，结合自回归机制进行标签计算，得到多个目标标签组包括：

从每个目标内容隐藏层向量组中读取对应的内容隐藏层维度，得到多个内容隐藏层维度；

将所述多个内容隐藏层维度依次输入预置的解码器中，结合自回归机制生成多个解码标签组和对应的多个解码标签概率组；

基于每个解码标签组对应的解码标签概率组，从每个解码标签组中确定与每个原始文本数据对应的目标标签组，得到多个目标标签组。