[发明专利]一种防范文本流次序变换攻击的方法

权利要求书

1.一种防范文本流次序变换攻击的方法，其特征在于：包括以下三个步骤：

步骤一：基于随机化次序编码的自然语言处理模型：对于一个文本处理任务预处理后，随机生成随机生成序列，并使用随机生成序列作为生成次序编码的密钥，同时以此生成的次序编码作为记录位置信息的编码后，将所述随机生成序列进行基于EM算法的学习；

步骤二：基于EM算法学习随机化序列概率分布：对于针对流次序攻击的对抗样本，首先通过均匀分布的方式生成密钥随机序列，结合所述随机生成序列抵御对抗样本，如果对抗成功，则记录下此随机序列作为EM学习的统计数据，重复上述操作，得到一定量的成功抵御对抗样本的随机序列；这些随机序列通过频率统计在样本空间中呈现特定分布，最终作为EM算法的输入，通过EM算法学习混合高斯分布的参数，最后达成能够用此混合高斯分布来拟合所述特定分布的目标，即通过混合高斯分布来生成密钥次序编码，防范文本流次序攻击；

步骤三：生成随机化序列密钥：通过EM学习到的混合高斯分布来生成随机化序列密钥，并将其输出到随机化次序编码的自然语言处理模型中；

方法的训练与部署需要搭建包括pytorch与依赖库的运行环境。

2.如权利要求1所述的一种防范文本流次序变换攻击的方法，其特征在于：所述预处理方法为：将普通的文本翻译训练数据作为自然语言处理模型的训练数据，将抗样本数据作为攻击自然语言处理模型的数据，对抗样本的生成方法为，在原始数据上加入与次序编码大小相同的取反数值，当自然语言处理模型在计算次序编码后，由于是直接加在注意力编码后，紧接着被扰动消除，最后位置信息丢失，达到了模型效果下降的效果，即攻击成功，成功攻击次序编码的样本即为对抗样本，作为测试的输入。

3.如权利要求2所述的一种防范文本流次序变换攻击的方法，其特征在于：所述随机生成随机生成序列的方法以及保存位置信息的方法为：采用统一密钥的随机化次序再结合三角函数进行编码，利用统一的次序密钥，在通过密钥后得到正确的次序保存位置信息。

4.如权利要求3所述的一种防范文本流次序变换攻击的方法，其特征在于：所述生成随机化序列密钥的方法为：首先在模型训练过程中，加载此密钥作为生成次序编码中次序的部分，

f(pos)的部分是密钥代表的位置，在测试时也采用同样的密钥所代表的位置来进行次序编码的生成。