[发明专利]一种语义识别方法、装置、计算机设备及存储介质

权利要求书

1.一种语义识别方法，其特征在于，包括：

获取样本文本和所述样本文本对应的语义关联文本；

基于所述样本文本和所述样本文本对应的语义关联文本，获取文本特征信息；

通过第一语义识别模型基于所述文本特性信息，获取所述样本文本和所述语义关联文本之间的第一匹配度；

通过第二语义识别模型基于所述文本特性信息，获取所述样本文本和所述语义关联文本之间的第二匹配度，所述第一语义识别模型为所述第二语义识别模型的学生模型；

根据所述第一匹配度和所述第二匹配度对所述第一语义识别模型进行训练，得到训练后语义识别模型，以通过所述训练后语义识别模型对文本进行语义识别。

2.根据权利要求1所述的文本识别方法，其特征在于，所述根据所述第一匹配度和所述第二匹配度对所述第一语义识别模型进行训练，得到训练后语义识别模型包括：

获取所述第一语义识别模型和所述第二语义识别模型中不同网络层级之间的映射关系；

根据所述映射关系确定不同网络层级对应的损失函数；

通过所述不同网络层级对应的损失函数确定目标损失函数；

基于所述目标损失函数、所述第一匹配度和所述第二匹配度对所述第一语义识别模型进行训练，得到训练后语义识别模型。

3.根据权利要求2所述的文本识别方法，其特征在于，所述第一语义识别模型和所述第二语义识别模型的不同网络层级均包括嵌入层、注意力层和预测层，所述根据所述映射关系确定不同网络层级对应的损失函数包括：

获取所述样本文本的文本长度、所述第一语义识别模型的第一嵌入维度信息、所述第二语义识别模型的第二嵌入维度信息、以及所述第一语义识别模型和所述第二语义识别模型之间维度映射的线性变换矩阵，根据所述文本长度、所述第一嵌入维度信息、所述第二嵌入维度信息和所述线性变换矩阵，确定所述嵌入层的第一损失函数；以及，

获取注意力头的数量、注意力权重矩阵、所述第一语义识别模型的第一隐层状态信息、以及所述第二语义识别模型的第二隐层状态信息，根据所述注意力头的数量、所述注意力权重矩阵、所述第一隐层状态信息、所述第二隐层状态信息、所述文本长度和所述线性变换矩阵，确定所述注意力层的第二损失函数；以及，

获取所述第一语义识别模型输出的第一概率分布、以及所述第二语义识别模型输出的第二概率分布，根据所述第一概率分布和所述第二概率分布确定所述预测层的第三损失函数；

所述通过所述不同网络层级对应的损失函数确定目标损失函数包括：

基于所述第一损失函数、所述第二损失函数和所述第三损失函数确定目标损失函数。

4.根据权利要求1所述的文本识别方法，其特征在于，所述基于所述样本文本和所述样本文本对应的语义关联文本，获取文本特征信息包括：

分别对所述样本文本和所述语义关联文本进行分词处理，得到所述样本文本的第一词序列和所述语义关联文本的第二词序列；

对所述第一词序列和所述第二词序列进行拼接处理，得到拼接后词序列；

对所述拼接后词序列进行特征提取，得到文本特征信息。

5.根据权利要求4所述的文本识别方法，其特征在于，所述对所述第一词序列和所述第二词序列进行拼接处理，得到拼接后词序列包括：

将第一预设字符设置在所述第一词序列的首部，以及将第二预设字符设置在所述第二词序列的尾部；

通过第三预设字符将所述第一词序列的尾部和所述第二词序列的首部进行拼接处理，得到拼接后词序列。

6.根据权利要求5所述的文本识别方法，其特征在于，所述分别对所述样本文本和所述语义关联文本进行分词处理，得到所述样本文本的第一词序列和所述语义关联文本的第二词序列包括：

对所述样本文本按照字级别进行分词处理，得到第一分词信息；

对所述第一分词信息进行向量化处理，得到第一词序列；

以及，对所述语义关联文本按照字级别进行分词处理，得到第二分词信息；

对所述第二分词信息进行向量化处理，得到第二词序列。