[发明专利]一种图片审核方法、装置、电子设备及存储介质

权利要求书

1.一种图片审核方法，所述方法包括：

将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；其中，所述通用审核模型包括至少一个通用子模型；

根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型；其中，所述风险审核模型包括至少一个风险子模型；

将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中，得到各个风险子模型输出的审核结果；

基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果。

2.根据权利要求1所述的方法，所述通用审核模型包括但不限于以下通用子模型的至少其中之一：卡通/真实子模型、人物检测子模型、人体属性子模型、文字识别子模型；所述风险审核模型包括但不限于以下风险子模型的至少其中之一：卡通低俗识别子模型、真人低俗识别子模型、图片敏感标志物子模型、图片纯文本子模型、虚假夸大子模型、敏感文字识别子模型、文字低俗识别子模型。

3.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：

若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图片中存在人物信息，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为与所述人物信息相关联的模型。

4.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：

若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图像中存在文字信息，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为与所述文字信息相关联的模型。

5.根据权利要求1所述的方法，所述根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型，包括：

若所述通用审核子模型中的至少一个通用子模型检测出所述待审核的图片为卡通图片或者真实图片，则确定所述待审核的图片在所述风险审核模型中对应的风险子模型为所述卡通图片相关联的模型或者所述真实图片相关联的模型。

6.根据权利要求1所述的方法，在所述将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中之前，所述方法还包括：

根据各个通用子模型输出的审核结果，将所述待审核的图片在所述风险审核模型中对应的至少一个风险子模型进行微调，得到所述待审核的图片在所述风险审核模型中对应的至少一个微调后的风险子模型；执行所述将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中的操作。

7.根据权利要求1所述的方法，所述基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果，包括：

若各个风险子模型输出的审核结果中存在至少两个审核结果满足预先设置的合并条件，则将各个风险子模型输出的审核结果中的至少两个审核结果进行合并，得到合并后的审核结果；

基于所述合并后的审核结果判定出所述待审核的图片的最终审核结果。

8.一种图片审核装置，所述装置包括：通用审核模块、确定模型、风险审核模块和判定模块；其中，

所述通用审核模块，用于将待审核的图片输入至通用审核模型中的各个通用子模型中，得到各个通用子模型输出的审核结果；其中，所述通用审核模型包括至少一个通用子模型；

所述确定模块，用于根据各个通用子模型输出的审核结果，确定所述待审核的图片在风险审核模型中对应的至少一个风险子模型；其中，所述风险审核模型包括至少一个风险子模型；

所述风险审核模块，用于将所述待审核的图片输入至所述至少一个风险子模型中的各个风险子模型中，得到各个风险子模型输出的审核结果；

所述判定模块，用于基于各个风险子模型输出的审核结果判定出所述待审核的图片的最终审核结果。