[发明专利]实体识别模型训练方法、装置、电子设备及存储介质

权利要求书

1.一种实体识别模型训练方法，其特征在于，所述方法包括：

根据预先训练得到的教师模型构建初始学生模型，所述教师模型包括：第一教师子模型以及第二教师子模型，所述第一教师子模型用于进行特征提取，所述第二教师子模型用于进行实体识别，所述初始学生模型包括：第一学生子模型以及第二学生子模型，所述第一学生子模型通过从所述第一教师子模型中抽取预设数量的层得到，所述第二学生子模型的结构与所述第二教师子模型的结构相同；

将多个样本数据输入至所述教师模型，得到所述教师模型输出的第一预测结果，并将所述多个样本数据输入至所述初始学生模型中，得到所述初始学生模型输出的第二预测结果；

分别确定所述第一预测结果对应的第一隐藏状态以及所述第二预测结果对应的第二隐藏状态；

根据所述第一隐藏状态以及所述第二隐藏状态，确定所述教师模型对应的第一损失结果；

根据所述第二预测结果以及所述样本数据，确定所述初始学生模型对应的第二损失结果；

根据所述第一损失结果以及所述第二损失结果，确定所述初始学生模型的目标损失结果，并根据所述初始学生模型的目标损失结果对所述初始学生模型进行迭代修正，并将迭代修正结束时的初始学生模型作为待使用的实体识别模型。

2.根据权利要求1所述的实体识别模型训练方法，其特征在于，所述第二教师子模型以及所述第二学生子模型分别为指针网络。

3.根据权利要求2所述的方法，其特征在于，所述将多个样本数据输入至所述教师模型，得到所述教师模型输出的第一预测结果，包括：

将所述多个样本数据输入所述第一教师子模型，得到多个第一特征向量；

将所述多个第一特征向量输入所述第二教师子模型中，由所述第二教师子模型对所述多个第一特征向量进行解码，得到各第一特征向量对应的字，根据各第一特征向量对应的字确定实体的首尾位置，并根据实体的首尾位置对各第一特征向量对应的字进行标注，根据标注结果进行字的拼接处理，得到目标实体，将所述目标实体作为所述第一预测结果进行输出。

4.根据权利要求3所述的实体识别模型训练方法，其特征在于，根据各第一特征向量对应的字确定实体的首尾位置，还包括：

根据各第一特征向量、预设的向量矩阵、预设的激活函数，确定各第一特征向量对应的字为实体的首位置的第一概率以及为实体的尾位置的第二概率；

根据所述第一概率、所述第二概率以及预设阈值，确定各第一特征向量对应的字是否为实体的首位置或尾位置。

5.根据权利要求3所述的实体识别模型训练方法，其特征在于，根据实体的首尾位置对各第一特征向量对应的字进行标注，包括：

若所述第一特征向量对应的字为实体的首位置或尾位置，则使用第一预设数值将所述位置对应的字进行标注；

若所述第一特征向量对应的字不为实体的首位置以及尾位置，则使用第二预设数值将所述位置对应的字进行标注。

6.根据权利要求5所述的实体识别模型训练方法，其特征在于，根据标注结果进行字的拼接处理，得到目标实体，包括：

从所述第一特征向量对应的字中查找首个标注为第一预设数值的第一字，将所述第一字作为目标实体的首位置；

从所述第一特征向量对应的字中查找距离所述第一字最近且标注为第一预设数值的第二字，将所述第二字作为目标实体的尾位置；

将所述第一字和第二字拼接为所述目标实体。

7.根据权利要求1-6任一项所述的实体识别模型训练方法，其特征在于，根据所述第一损失结果以及所述第二损失结果，确定所述初始学生模型的目标损失结果，包括：

对第一损失结果以及第二损失结果进行加权计算，得到所述目标损失结果。