[发明专利]一种风险控制方法、装置、电子设备和存储介质

权利要求书

1.一种风险控制方法，其特征在于，包括：

当接收到待投递消息时，延迟预设时长后向发送客户端发送待投递消息上传成功通知，以使所述发送客户端向服务端发送投递指令；

当接收到所述发送客户端发送的投递指令时，对所述待投递消息进行风险识别；其中，所述待投递消息包括即时通讯消息；

若所述待投递消息存在风险内容，则对所述待投递消息进行管控，以阻止将所述风险内容投递至目标客户端进行展示；

所述对所述待投递消息进行风险识别之前，还包括：

确定所述待投递消息发送用户的风险等级；

若所述风险等级低于等级阈值，则继续执行所述对所述待投递消息进行风险识别的操作，否则直接将所述待投递消息拦截，不执行所述对所述待投递消息进行风险识别的操作。

2.根据权利要求1所述的方法，其特征在于，若所述待投递消息为文本消息，所述当接收到待投递消息时，对所述待投递消息进行风险识别，包括：

当接收到待投递消息时，对所述待投递消息进行分词处理，得到至少一个分词；

针对每个分词生成对应的哈希值，将当前分词的哈希值与预设风险词库中每个风险词的哈希值分别进行匹配，所述预设风险词库通过哈希算法预先存储至本地内存；

若匹配到相似度达到设定阈值的风险词，则确定当前分词为风险词；

若所述待投递消息包括至少一个风险词，则确定所述待投递消息存在风险内容。

3.根据权利要求2所述的方法，其特征在于，所述若所述待投递消息存在风险内容，对所述待投递消息进行管控，以阻止将所述风险内容投递至目标客户端进行展示，包括：

将所述待投递消息中的风险词屏蔽；

将屏蔽风险词的所述待投递消息投递至目标客户端，以使目标客户端对所述待投递消息进行展示。

4.根据权利要求1所述的方法，其特征在于，若所述待投递消息为图片，所述当接收到待投递消息时，对所述待投递消息进行风险识别，包括：

当接收到待投递图片时，对所述待投递图片进行存储，并生成所述待投递图片的存储地址信息；

根据所述存储地址信息基于预设图片识别模型对所述待投递图片进行特征识别；

当生成所述待投递图片的存储地址信息时延迟预设时长后将所述存储地址信息发送至所述待投递图片的发送客户端，以使所述发送客户端基于所述存储地址信息向服务端发送投递指令；

当接收到所述发送客户端发送的投递指令时，从预设缓存数据库读取所述待投递图片的图片特征，当所述基于预设图片识别模型对所述待投递图片进行特征识别完成时，将识别到图片特征存储于所述预设缓存数据库；

基于所述图片特征对所述待投递图片进行风险识别。

5.根据权利要求4所述的方法，其特征在于，所述基于所述图片特征对所述待投递图片进行风险识别，包括：

将所述待投递图片的图片特征与预设风险图片的图片特征进行相似度计算；

若存在相似度达到相似度阈值的预设风险图片，则确定所述待投递图片为风险图片。

6.根据权利要求4所述的方法，其特征在于，所述若所述待投递消息存在风险内容，对所述待投递消息进行管控，以阻止将所述风险内容投递至目标客户端进行展示，包括：

将所述待投递图片拦截，以阻止将所述待投递图片发送至目标客户端进行展示。

7.根据权利要求4所述的方法，其特征在于，所述预设缓存数据库包括Redis。

8.根据权利要求4所述的方法，其特征在于，将所述存储地址信息发送至所述待投递消息的发送客户端的同时，还包括：

向所述发送客户端发送图片上传成功的通知消息，以通知用户所述待投递图片上传成功。

9.根据权利要求1所述的方法，其特征在于，所述确定所述待投递消息发送用户的风险等级，包括：

基于所述发送用户的身份识别码从用户风险等级库获取所述发送用户的风险等级；

所述用户风险等级库中各用户的风险等级基于用户的历史信息预先确定。