[发明专利]一种敏感内容识别方法及装置

权利要求书

1.一种敏感内容识别方法，其特征在于，所述方法包括：

对待识别的目标通信内容进行分词处理，得到所述目标通信内容对应的至少一个目标分词；

利用预设的分词属性生成规则，生成各个目标分词的分词属性；

根据各个目标分词的分词属性，生成所述目标通信内容所对应的目标特征向量；

将所述目标特征向量输入至预先建立的敏感内容识别模型中，得到所述目标通信内容是否为敏感内容的识别结果，其中，所述敏感内容识别模型为利用预设的机器学习算法、对预设的带有分类标签的多个通信内容样本所对应的特征向量进行训练所得到的分类模型，所述分类标签包括：用于标识敏感内容的第一标签或用于标识非敏感内容的第二标签。

2.根据权利要求1所述的方法，其特征在于，获得所述待识别的目标通信内容的步骤，包括：

采集网络中传输的数据包；

基于预设的应用层协议，对所述数据包中的数据内容进行还原处理；

确定还原处理后的数据内容为待识别的目标通信内容。

3.根据权利要求1所述的方法，其特征在于，所述对待识别的目标通信内容进行分词处理，得到所述目标通信内容对应的至少一个目标分词的步骤，包括：

按照预设的第一单词划分规则，将所述目标通信内容划分成若干个单词；

将划分得到的单词作为所述目标通信内容对应的目标分词。

4.根据权利要求1所述的方法，其特征在于，所述对待识别的目标通信内容进行分词处理，得到所述目标通信内容对应的至少一个目标分词的步骤，包括：

按照预设的第二单词划分规则，将所述目标通信内容划分成若干个单词；去除划分得到的若干个单词中的停用词，其中，所述停用词为词性为副词、介词或代词的单词；

将剩余的单词作为所述目标通信内容对应的目标分词。

5.根据权利要求1所述的方法，其特征在于，所述利用预设的分词属性生成规则，生成各个目标分词的分词属性的步骤，包括：

按照预设的加权算法，计算各个目标分词的权值；

将计算出的相应权值确定为各个目标分词的分词属性。

6.根据权利要求1所述的方法，其特征在于，所述根据各个目标分词的分词属性，生成所述目标通信内容所对应的目标特征向量的步骤，包括：

分别判断预设的关键词列表中的每一关键词是否与任一目标分词相同；

将第一类关键词所对应目标分词的分词属性确定为第一类关键词对应的特征属性，将预设的默认值确定为第二类关键词对应的特征属性；其中，所述第一类关键词为与所述目标分词相同的关键词，所述第二类关键词为与所述目标分词不相同的关键词；

将各个关键词所对应的特征属性作为目标特征向量的向量元素，并按照每一关键词在所述关键词列表中的元素位置，生成所述目标通信内容所对应的目标特征向量。

7.根据权利要求1所述的方法，其特征在于，所述的敏感内容识别模型，包括：

基于支持向量机算法、贝叶斯分类算法或神经网络分类算法而建立的分类模型。

8.根据权利要求1所述的方法，其特征在于，将所述目标特征向量输入至预先建立的敏感内容识别模型中的步骤之前，还包括：

根据所述目标通信内容在传输时所采用的协议类型，确定所述目标通信内容的信息类型；其中，所述信息类型包括：向外部发出的主动信息和外部发来的被动信息；

所述将所述目标特征向量输入至预先建立的敏感内容识别模型中，得到所述目标通信内容是否为敏感内容的识别结果，其中，所述敏感内容识别模型为利用预设的机器学习算法、对预设的带有分类标签的多个通信内容样本所对应的特征向量进行训练所得到的分类模型，包括：

当所述目标通信内容为主动信息时，将所述目标特征向量输入至预先建立的第一敏感内容识别模型中，得到所述目标通信内容是否为敏感内容的识别结果；其中，所述第一敏感内容识别模型为利用支持向量机算法、对预设的带有分类标签的多个通信内容样本所对应的特征向量进行训练所得到的分类模型；

当所述目标通信内容为主动信息时，将所述目标特征向量输入至预先建立的第二敏感内容识别模型中，得到所述目标通信内容是否为敏感内容的识别结果；其中，所述第二敏感内容识别模型为利用贝叶斯分类算法、对预设的带有分类标签的多个通信内容样本所对应的特征向量进行训练所得到的分类模型。