[发明专利]基于领域知识库的计算机网络协议实体链接方法和系统

权利要求书

1.一种基于领域知识库的计算机网络协议实体链接模型构建方法，其特征在于，包括以下步骤：

根据专家知识构建计算机网络协议知识库；

以所述计算机网络协议知识库为学习的先验知识，从计算机网络协议文本中提取待进行实体链接的实体，所述实体包含字段和描述信息，由字段和描述信息构成网络协议信息数据集；

将自然语言预训练模型在所述网络协议信息数据集上进行微调，得到微调后的自然语言预训练模型；

利用所述网络协议信息数据集，训练基于神经网络的网络协议领域模型；

将所述微调后的自然语言预训练模型和所述网络协议领域模型进行融合，得到计算机网络协议实体链接模型；

其中，利用所述网络协议信息数据集，训练基于神经网络的网络协议领域模型，包括：将所述网络协议信息数据集中的字段信息通过词嵌入处理，按词切分后输入网络协议领域模型中进行训练，利用神经网络生成对协议文本敏感的网络协议领域模型；所述网络协议领域模型包括线性聚合层和非线性层；通过非线性层保证字段信息的描述性语义信息被单独检查，从而保留字段信息的有价值信息；通过线性聚合层将所有隐藏状态即来自非线性层的中间结果连接起来，以充分地利用网络的推断结果。

2.如权利要求1所述的方法，其特征在于，所述计算机网络协议知识库，在语义层面对网络协议文本中存在的多种情况进行分类总结，形成五个大类和十个小类，每一类别包含中英文信息和数字编码；所述五个大类包括指示类、函数类、标度类、数据类和保留类；所述十个小类包括：属于指示类的序列号、布尔值、版本号、标识符，属于函数类的检验码、填充码、密数据，属于标度类的长度、偏移量、时间戳。

3.如权利要求1所述的方法，其特征在于，将所述网络协议信息数据集中的描述信息通过词嵌入处理，按词切分后作为预训练模型的输入，对预训练模型的参数产生影响，从而生成适应于网络协议文本的微调后的预训练模型，生成的输出数据表示用于描述的上下文信息。

4.一种基于领域知识库的计算机网络协议实体链接方法，其特征在于，包括以下步骤：

将待进行实体链接的计算机网络协议输入权利要求1~3中任一权利要求所述方法构建的计算机网络协议实体链接模型；

将计算机网络协议实体链接模型中微调后的自然语言预训练模型的结果和网络协议领域模型的结果进行融合；

将融合后的结果输入分类层进行分类，得到实体链接结果。

5.如权利要求4所述的方法，其特征在于，利用逻辑加法运算单元将计算机网络协议实体链接模型中微调后的自然语言预训练模型的结果和网络协议领域模型的结果进行融合操作，逻辑加法运算单元使用激活函数来转换词法信息。

6.如权利要求4所述的方法，其特征在于，所述分类层为SoftMax层，利用SoftMax层进行结果概率的计算，并采用平均交叉熵作为损失函数，最终得到实体链接结果。

7.一种基于领域知识库的计算机网络协议实体链接系统，其特征在于，包括：

模型模块，包含权利要求1~3中任一权利要求所述方法构建的计算机网络协议实体链接模型，该模型接收待进行实体链接的计算机网络协议作为输入；

融合模块，用于将计算机网络协议实体链接模型中微调后的自然语言预训练模型的结果和网络协议领域模型的结果进行融合；

分类模块，用于将融合后的结果输入分类层进行分类，得到实体链接结果。

8.一种电子装置，其特征在于，包括存储器和处理器，所述存储器存储计算机程序，所述计算机程序被配置为由所述处理器执行，所述计算机程序包括用于执行权利要求1~6中任一权利要求所述方法的指令。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储计算机程序，所述计算机程序被计算机执行时，实现权利要求1~6中任一权利要求所述的方法。