[发明专利]针对黑盒文本分类模型的对抗文本生成方法、系统及介质

权利要求书

1.一种针对黑盒文本分类模型的对抗文本生成方法，其特征在于，包括以下步骤：

获取黑盒文本分类模型的原始语料和分类标签；

对原始语料进行分词，得到原始语料对应的词序列；

分别获取词序列中每个词的预设数目个同义词；

依次用每个词的同义词替换候选句子中所述词的位置形成新的句子，组成新候选文本集合；

用所述新候选文本集合中的每一个句子依次作为所述黑盒文本分类模型的输入，分别得到对应的输出结果，筛选出原始语料对应的原标签的概率值最低的K个句子组成对抗文本集合。

2.根据权利要求1所述的针对黑盒文本分类模型的对抗文本生成方法，其特征在于，在用每个词的同义词替换候选句子中所述词的位置形成新的句子，组成新候选文本集合之前还包括：计算所述词序列中每个词的重要性，并按重要性大小将每个词排序。

3.根据权利要求2所述的针对黑盒文本分类模型的对抗文本生成方法，其特征在于，所述计算词序列中每个词的重要性的方法为：

W_i＝F_Y({X₁，X₂...，X_L})-F_Y({X₁，...，X_i-1，X_i+1，...，X_L})

其中，X＝{X₁，X₂...，X_L}为共有L个词的原文本，Y为标签，F_Y(X)表示将X作为输入在类别Y下的得分。

4.根据权利要求3所述针对黑盒文本分类模型的对抗文本生成方法，其特征在于，计算词序列中每个词的重要性之后，按照重要性从大到小的顺序排列，依次按照重要性从大到小的顺序，用每个词的同义词替换候选句子中所述词的位置形成新的句子，组成新候选文本集合。

5.根据权利要求1所述针对黑盒文本分类模型的对抗文本生成方法，其特征在于，所述针对黑盒文本分类模型的对抗文本生成方法还用于对黑盒文本分类模型进行训练，训练步骤包括：选择训练数据集；初始化迭代次数与参数；定义黑盒文本分类模型的损失函数；将所述训练数据集输入到黑盒文本分类模型中进行训练；在训练过程中验证目标类别的正确性，不断调整模型的参数；当迭代次数达到预设次数时，终止训练。

6.根据权利要求1所述针对黑盒文本分类模型的对抗文本生成方法，其特征在于，所述对原始语料进行分词可使用jieba包对所有语料进行分词。

7.根据权利要求1所述针对黑盒文本分类模型的对抗文本生成方法，其特征在于，所述获取黑盒文本分类模型的原始语料和分类标签通过语料库或通过词典获取。

8.一种针对黑盒文本分类模型的对抗文本生成系统，其特征在于，所述系统包括：

获取模块，用于获取黑盒文本分类模型的原始语料和分类标签；

分词模块，用于对原始语料进行分词，得到原始语料对应的词序列；

同义词模块，用于分别获取词序列中每个词的预设数目个同义词；

候选模块，用于依次用每个词的同义词替换候选句子中所述词的位置形成新的句子，组成新候选文本集合；

对抗文本生成模块，用于用所述新候选文本集合中的每一个句子依次作为所述黑盒文本分类模型的输入，分别得到对应的输出结果，筛选出原始语料对应的原标签的概率值最低的K个句子组成对抗文本集合。

9.一种计算机设备，包括存储器和处理器，其特征在于，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行如权利要求1至7中任一项方法的步骤。

10.一种计算机存储介质，其特征在于，所述计算机存储介质存储有多条指令，所述指令适于由处理器加载并执行如权利要求1至7中任一项方法的步骤。