[发明专利]一种消息监控方法、系统及服务器

权利要求书

1.一种消息监控方法，其特征在于，所述方法包括：

接收企业即时通讯消息，识别所述企业即时通讯消息的消息类型；

若所述消息类型指示所述企业即时通讯消息对应一幅图片，对所述图片中的文本内容和事物内容进行识别，得到所述图片关联的各个词语以及所述各个词语的置信度，所述事物内容指示所述图片中除所述文本内容之外的内容；

基于所述各个词语的置信度，从所述各个词语中选择至少一个目标词语；

若所述至少一个目标词语与预设敏感词库中的敏感词匹配，控制所述图片中与所述敏感词相对应的内容不可见。

2.根据权利要求1所述的方法，其特征在于，所述对所述图片中的文本内容和事物内容进行识别，得到所述图片关联的各个词语以及所述各个词语的置信度包括：

对所述图片中的文本内容进行识别，得到所述文本内容包括的词语；

对所述图片中的事物内容进行识别，得到所述事物内容展示的场景的文字描述内容；

识别所述文字描述内容，得到所述文字描述内容包括的词语；

计算所述词语的置信度。

3.根据权利要求1所述的方法，其特征在于，所述控制所述图片中与所述敏感词相对应的内容不可见包括：

对所述图片中与所述敏感词相对应的内容进行图层覆盖处理，和/或，对所述图片中与所述敏感词相对应的内容进行特效处理，所述图层覆盖处理和所述特效处理使与所述敏感词相对应的内容不可见；

或者

禁止将所述企业即时通讯消息发送至所述企业即时通讯消息的接收方。

4.根据权利要求1至3任意一项所述的方法，其特征在于，若所述至少一个目标词语与预设敏感词库中的敏感词匹配，所述方法还包括：

调整所述企业即时通讯消息的发送方的消息发送权限；

和/或

将所述企业即时通讯消息存储在敏感消息列表中，所述敏感消息列表用于更新与所述目标词语进行比对的预设敏感词库；

和/或

发送提示信息，所述提示信息用于指示当前发送存在敏感词的企业即时通讯消息；

和/或

将所述企业即时通讯消息存储在敏感消息列表中，输出所述敏感消息列表至对所述企业即时通讯消息进行监控的服务器。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：获取所述企业即时通讯消息的发送方标识；若所述发送方标识指示所述发送方属于被监控对象，则执行识别所述企业即时通讯消息的消息类型的步骤；

和/或

所述预设敏感词库中的敏感词与发送方标识对应，所述发送方标识用于指示发送企业即时通讯消息的发送方。

6.根据权利要求1所述的方法，其特征在于，所述若消息类型指示所述企业即时通讯消息对应一幅图片，对所述图片中的文本内容和事物内容进行识别包括：

若所述消息类型指示所述企业即时通讯消息对应一幅图片，基于所述企业即时通讯消息中的索引数据获取图片，对所述图片中的文本内容和事物内容进行识别。

7.根据权利要求1、2、3、5和6中任意一项所述的方法，其特征在于，所述若所述至少一个目标词语与预设敏感词库中的敏感词匹配，控制所述图片中与所述敏感词相对应的内容不可见包括：

若所述目标词语中的至少两个目标词语与预设敏感词库中的敏感词匹配，控制所述图片中与所述敏感词相对应的内容不可见，其中所述至少两个目标词语不同。