[发明专利]一种多模态融合敏感信息分类检测方法

权利要求书

1.一种多模态融合敏感信息分类检测方法，其特征在于：包括以下步骤：

步骤1、对文本和图片进行敏感性初级检测

采用FastText检测文本的敏感性，判断文本属于敏感类中的哪一个敏感分类或非敏感类，并得到文字的分类概率集合，记为：采用InceptionV3网络来检测图片的敏感性，判断图片属于敏感类中的哪一个敏感分类或非敏感类，并得到图片的分类概率集合，记为：其中，n代表图片或文本的分类个数，图片和文本的分类个数相等；若文本属于敏感类，则执行步骤2，若文本属于非敏感分类，则执行步骤3；

步骤2、基于情感对文本敏感性进行判定

步骤2.1、采用jieba分词将文本分割为多个词语，并通过与已有的情感词库和敏感词库进行匹配，得到情感词集合和敏感词集合，并对两个集合进行笛卡尔乘积运算，判断情感情和敏感词是否共现，情感词具有包括情感极性和情感强度的情感极性强度；

步骤2.2、用情感词的情感极性强度和敏感词结合来判定文本的敏感性，其计算方法为：

AllSensitiveCount＝PositiveSensitiveCount-NegativeSensitiveCount (4)

其中，PositiveSensitiveCou nt表示敏感词的正向情感分数，NegativeSensitiveCount表示敏感词的负向情感分数，AllSensitiveCount表示敏感词总体情感分数，为敏感词与正向情感词共现的次数，为敏感词与负向情感词共现的次数，n为jieba分词后的总词个数，λ为情感词的正向情感强度，β为情感词的负向情感强度；

步骤2.3、若总体情感分数AllSensitiveCount＞0直接将文本判定为原敏感分类，敏感分类概率组成的概率集合仍记为：AllSensitiveCount≤0时，需要进行二次判断，计算敏感词出现的词频，当词频大于设定的阈值时，也直接判定为原敏感分类，敏感分类概率组成的概率集合仍记为：反之，将文本判定为其他敏感分类，敏感分类概率组成的概率集合记为：P_g＝[0,0,...,0,1]；

步骤3、图文融合的多模态敏感性检测

将文本的敏感分类概率与图片的敏感分类概率通过融合算法得到敏感类型概率P_i，通过MAX(P_i)取最大敏感类型概率P，将最大敏感类型概率P对应的敏感分类，作为最终的敏感分类结果。

2.如权利要求1所述的一种多模态融合敏感信息分类检测方法，其特征在于：最终的敏感分类概率P分配计算公式如下：

P＝MAX(P_i) (6)

其中，w为融合权重，取值范围为[0,1]，P_i为敏感类型概率分布。

3.如权利要求1所述的一种多模态融合敏感信息分类检测方法，其特征在于：判断情感词和敏感词是否共现的方法为，根据最近距离原则，取情感词与敏感词所在句中的最小距离作为两者的共现。