[发明专利]一种基于transformer模型的网络协议识别方法

说明书

本发明公开了一种基于transformer模型的网络协议识别方法，其包括以下步骤：构建语料库、对数据预处理、构建模型的编码器、构建模型的解码器、使用训练数据集对模型进行训练和用训练好的模型对测试数据集的协议类型进行识别。本发明首先构建语料库，然后对未知网络流量数据过滤只保留协议相关信息，然后通过WordPiece分词、one‑hot编码将数据转化为词向量，再添加上相对位置编码，在语料库上利用多头注意力机制预训练模型，提取每个词在上下文的依赖关系，然后将需要识别的协议流量输入模型，最后通过分类器实现网络协议的识别。本发明使得网络协议识别具有较高的准确率和效率、不需要人工特征选择、可以并行化计算、更容易学习到长距离依赖信息的优点。

【技术领域】

本发明属于计算机网络技术领域，特别是涉及一种基于transformer模型的网络协议识别方法。

【背景技术】

随着计算机网络技术的快速发展，人们在经济、文化、军事以及社会生活领域都得到了改善。网络协议是计算机网络的关键技术支撑，其可靠性与安全性极大地影响着上层网络应用的可用性。因此，基于深度学习的网络协议识别方法具有十分重要的现实意义。

在现在的相关技术中，主要分为基于端口映射、基于协议特征提取以及基于协议逆向技术的网络协议分析识别方法。随着近年来深度学习模型在机器学习领域的大规模兴起，一些关于深度学习的算法也被应用到网络协议识别中去，目前已提出了基于CNN和LSTM混合模型的应用层协议在线识别方法和基于GRU网络的协议流量识别方法，这些方法虽然解决了现有人工提取特征困难、协议识别准确率不高的问题，但无法并行计算，也较难学习到长距离依赖信息。

因此，需要提供一种新的基于transformer模型的网络协议识别方法来解决上述问题。

【发明内容】

本发明的主要目的在于提供一种基于transformer模型的网络协议识别方法，解决现有网络协议识别方法不能并行计算，较难学习到长距离依赖信息的问题。

本发明通过如下技术方案实现上述目的：一种基于transformer模型的网络协议识别方法，具体包括以下步骤：

S1)构建语料库：通过采集已知的各类协议数据包，整合到一个文件中，使用标签工具对协议数据的格式信息进行标注，构建出具有不同协议类型的语料库；

S2)对数据预处理，得到训练数据集和测试数据集；

S3)构建模型的编码器；

S4)构建模型的解码器；

S5)使用训练数据集，对模型进行训练；

S6)使用测试数据集，输入到训练好的模型，对数据的协议类型进行识别。

进一步的，所述步骤S2中对数据预处理，其包括以下步骤：

S21)对数据过滤，只保留与协议相关的部分，得到词数据；

S22)对数据分词：采用WordPiece方法，首先将所述词数据中的每个词分成一个一个的字符，然后在词的范围内统计字符对出现的次数，每次将次数最多的字符对保存起来，直到循环次数结束，得到若干分词结果；

S23)对数据编码转化为词向量：采用one-hot方法将步骤S22中的分词结果转化为词向量；

S24：将步骤S23得到的词向量数据划分为训练数据集和测试数据集。

进一步的，所述步骤S3构建模型的编码器，其包括以下步骤：

S31：构建编码器层；

S32：子层之间构建残差连接；

S33：重复执行步骤S31和步骤S32至少四次。