[发明专利]识别敏感信息的方法、装置、设备及存储介质

权利要求书

1.一种识别敏感信息的方法，其特征在于，所述方法包括：

获取多媒体数据的评论信息；

将所述评论信息输入预先训练的敏感信息识别模型，得到敏感判定结果，其中，所述敏感判定结果用于指示所述评论信息对应的多媒体数据是否具有敏感信息；

获得敏感判定结果为具有敏感信息的目标评论信息以及所述目标评论信息所属的目标多媒体数据，向审核终端发送所述目标多媒体数据的标识信息和所述目标评论信息。

2.根据权利要求1所述的方法，其特征在于，所述预先训练的敏感信息识别模型包括输入层、嵌入层、双向长短时记忆网络层、注意力层和输出层。

3.根据权利要求2所述的方法，其特征在于，所述将所述评论信息输入预先训练的敏感信息识别模型，得到敏感判定结果，包括：

将所述评论信息进行分词处理，得到所述评论信息对应的至少一个词组；

将所述至少一个词组输入到所述输入层，得到所述至少一个词组对应的词组标识；

将所述至少一个词组对应的词组标识输入到所述嵌入层，得到所述至少一个词组对应的词组向量；

将所述至少一个词组对应的词组向量输入到所述双向长短时记忆网络层，得到所述至少一个词组对应的特征向量；

将所述至少一个词组对应的特征向量输入到所述注意力层，得到所述评论信息对应的特征向量；

将所述评论信息对应的特征向量输入到所述输出层，得到所述评论信息对应的敏感判定结果。

4.根据权利要求1所述的方法，其特征在于，所述获得敏感判定结果为具有敏感信息的目标评论信息以及所述目标评论信息所属的目标多媒体数据之后，所述方法还包括：

确定每个目标多媒体数据对应的目标评论信息的数目；

基于每个目标多媒体数据对应的数目，按照数目由多至少的顺序，对目标多媒体数据进行排名，得到每个目标多媒体数据的排名信息；

向所述审核终端发送每个目标多媒体数据的排名信息。

5.根据权利要求1所述的方法，其特征在于，所述向审核终端发送所述目标多媒体数据的标识信息和所述目标评论信息，包括：

确定每个目标多媒体数据对应的目标评论信息的数目；

向审核终端发送对应的目标评论信息的数目超过数目阈值的目标多媒体数据的标识信息和目标评论信息。

6.根据权利要求1所述的方法，其特征在于，获得敏感判定结果为具有敏感信息的目标评论信息以及所述目标评论信息所属的目标多媒体数据，包括：

每当达到预设的周期时长时，确定当前的周期时长内对应的敏感判定结果为具有敏感信息的目标评论信息以及所述目标评论信息所属的目标多媒体数据。

7.根据权利要求1所述的方法，其特征在于，所述向审核终端发送所述目标多媒体数据的标识信息和所述目标评论信息之后，所述方法还包括：

接收所述审核终端发送的数据获取请求，其中，所述数据获取请求中携带有待查询的多媒体数据的第一标识信息；

向所述审核终端发送与第一标识信息对应的目标多媒体数据。

8.根据权利要求1至7任一项所述的方法，其特征在于，所述方法还包括：

接收所述审核终端发送的多媒体数据删除通知，其中，所述处理通知中携带有待删除的多媒体数据的第二标识信息；

删除所述第二标识信息对应的目标多媒体数据。

9.一种识别敏感作品的装置，其特征在于，所述装置包括：

获取装置，被配置为获取多媒体数据的评论信息；

确定模块，被配置为将所述评论信息，输入预先训练的敏感信息识别模型，得到敏感判定结果，其中，所述敏感判定结果用于指示所述评论信息对应的多媒体数据是否具有敏感信息；

第一发送模块，被配置为获得敏感判定结果为具有敏感信息的目标评论信息以及所述目标评论信息所属的目标多媒体数据，向审核终端发送所述目标多媒体数据的标识信息和所述目标评论信息。