[发明专利]一种基于ALBERT的武器装备实体抽取方法、系统及存储介质

权利要求书

1.一种基于ALBERT的武器装备实体抽取方法，其特征在于，包括以下步骤：

S1、使用ALBERT模型作为语句表征模型来表示句向量，将预设的训练集语句统合为多维向量特征作为神经网络输入，并将训练集语句对应的实体标记通过one-hot编码得到对照结果向量特征；

S2、将对照结果向量特征输入BiLSTM-CRF网络模型，对对照结果向量特征进行交叉训练，等待BiLSTM-CRF网络模型收敛后得到网络模型；

S3、输入待识别语句至ALBERT模型，通过ALBERT模型表示为句向量，并作为特征输入到网络模型中；

S4、通过网络模型计算得到预测结果；

S5、将预测结果通过反one-hot编码得到结果序列，识别结果序列得到实体名称和实体位置；

S6、将实体名称和实体位置作为最终结果输出。

2.根据权利要求1所述的一种基于ALBERT的武器装备实体抽取方法，其特征在于，所述S1具体为：

S1.1、规定进入ALBERT模型的待识别语句长度为80，如果待识别语句长度小于80，使用0作为填充至待识别语句长度为80；如果待识别语句长度大于80，则将该待识别语句截断至待识别语句长度为80；

S1.2、以字符为单位将待识别语句分开，每个字符作为一个token，将各待识别语句输入ALBERT模型中并转化为句向量；

S1.3、将训练集中的每一条训练集语句均按照S1.1、S1.2的步骤处理得到多维向量特征；

S1.4、使用one-hot编码对每一条训练集语句对应的实体标记进行编码，得到对照结果向量特征。

3.根据权利要求1所述的一种基于ALBERT的武器装备领域实体抽取方法，其特征在于，所述S2中交叉训练的具体方法为：

S2.1、通过Pytorch神经网络框架实现双向长短时序网络和条件随机场，即BiLSTM-CRF网络模型；

S2.2、设置神经网络相关参数，将对照结果向量特征输入BiLSTM-CRF网络模型进行迭代训练；

S2.3、随着迭代次数增加，当loss值小于阈值时停止训练，得到网络模型参数并存储。

4.根据权利要求1所述的一种基于ALBERT的武器装备实体抽取方法，其特征在于，所述S5具体为：

S5.1、将预测结果标准化，即将预测结果中的小数进行四舍五入取整；

S5.2、将标准化后的预测结果通过反one-hot编码得到实体名称和实体位置，即将结果中的数字映射到实体名称。

5.根据权利要求1所述的一种基于ALBERT的武器装备实体抽取方法，其特征在于，所述S6还包括以下步骤：将实体名称和实体位置整合为实体结果后输出。

6.一种使用如权利要求1所述的一种基于ALBERT的武器装备实体抽取方法的系统，其特征在于，包括：

ALBERT模型模块，用于作为语句表征模型来表示句向量，将预设的训练集语句统合为多维向量特征作为神经网络输入，并将训练集语句对应的实体标记通过one-hot编码得到对照结果向量特征；

BiLSTM-CRF网络模型模块，用于对对照结果向量特征进行交叉训练，等待BiLSTM-CRF网络模型收敛后得到网络模型；

网络模型模块，用于通过网络模型对句向量计算得到预测结果，将预测结果通过反one-hot编码得到结果序列，识别结果序列得到实体名称和实体位置，并将实体名称和实体位置作为最终结果输出。