[发明专利]文本审核模型的测试方法、装置、计算机设备及存储介质

权利要求书

1.一种文本审核模型的测试方法，其特征在于，包括：

获取待测试的文本审核模型及所述文本审核模型的类型；

根据所述文本审核模型的类型，从参考文本集中获取多个参考敏感文本及多个参考非敏感文本；

基于预设的变换规则，分别将所述多个参考敏感文本及多个参考非敏感文本进行变换处理，以生成测试文本集，其中所述测试文本集中包括多个测试文本及每个测试文本对应的标签；

利用所述测试文本集对所述文本审核模型进行测试，以生成测试结果。

2.如权利要求1所述的方法，其特征在于，所述基于预设的变换规则，分别将所述多个参考敏感文本及多个参考非敏感文本进行变换处理，以生成测试文本集，包括：

基于预设的变换规则，将任一参考敏感文本和/或任一参考非敏感文本进行变换处理，以生成至少一个测试文本；

根据生成每个所述测试文本时，采用的参考文本类型和/或所述预设的变换规则，确定每个所述测试文本对应的标签。

3.如权利要求1所述的方法，其特征在于，所述预设的变换规则包括以下至少一项：字形转换、字形混合、无声调的拼音变换、带声调的拼音变换、拼音混合、语言类型变换、顺序调换、指定位置字符抽取、文字镜像、插入指定符号、敏感文本与非敏感文本混合。

4.如权利要求3所述的方法，其特征在于，所述预设的变换规则为敏感文本与非敏感文本混合，所述基于预设的变换规则，分别将所述多个参考敏感文本及多个参考非敏感文本进行变换处理，以生成测试文本集，包括：

将任一参考敏感文本中的部分敏感词与任一参考非敏感文本中的部分非敏感词进行混合，以生成测试文本；

根据所述部分敏感词与所述非部分敏感词分别在所述测试文本中的比例、混合方式和/或所述测试文本的语义，确定所述测试文本对应的标签。

5.如权利要求1-4任一所述的方法，其特征在于，所述待测试的文本审核模型为多个、且所述多个待测试的文本审核模型的类型相同，所述利用所述测试文本集对所述文本审核模型进行测试，以生成测试结果，包括：

利用所述测试文本集对所述多个文本审核模型分别进行测试，以获取每个所述文本审核模型对应的测试结果；

将多个所述测试结果进行对比展示。

6.如权利要求1-4任一所述的方法，其特征在于，所述获取待测试的文本审核模型及所述文本审核模型的类型，包括：

获取文本审核模型测试请求，所述测试请求中包括所述待测试的文本审核模型及所述文本审核模型的类型。

7.一种文本审核模型的测试装置，其特征在于，包括：

第一获取模块，用于获取待测试的文本审核模型及所述文本审核模型的类型；

第二获取模块，用于根据所述文本审核模型的类型，从参考文本集中获取多个参考敏感文本及多个参考非敏感文本；

变换模块，用于基于预设的变换规则，分别将所述多个参考敏感文本及多个参考非敏感文本进行变换处理，以生成测试文本集，其中所述测试文本集中包括多个测试文本及每个测试文本对应的标签；

测试模块，用于利用所述测试文本集对所述文本审核模型进行测试，以生成测试结果。

8.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

9.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

10.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。