[发明专利]一种消息监控方法、系统及服务器

说明书

本发明提供一种消息监控方法、系统及服务器，在接收到企业即时通讯消息后，识别企业即时通讯消息的消息类型，若消息类型指示企业即时通讯消息对应一幅图片，对图片中的文本内容和事物内容进行识别，得到图片关联的各个词语以及各个词语的置信度，基于各个词语的置信度，从各个词语中选择至少一个目标词语，若至少一个目标词语中与预设敏感词库中的敏感词匹配，控制企业即时通讯消息中与敏感词相对应的内容不可见，由此在存在敏感内容(如与敏感词相对应的内容)时能够使其不可见，降低敏感内容的泄露，提高企业安全且能够对企业即时通讯消息的监控。并且在接收到企业即时通讯消息后可以立即对是否存在敏感词进行监控，实现实时监控。

技术领域

本发明属于企业即时通讯技术领域，尤其涉及一种消息监控方法、系统及服务器。

背景技术

目前企业员工之间可以通过EIM(Enterprise Instant Messaging，企业即时通讯)进行在线交流，如可以在手机和电脑等电子设备中安装EIM应用程序，通过启用EIM应用程序，并在EIM应用程序的界面中输入内容来进行在线交流。

通过EIM应用程序进行在线交流时能够交流各种内容，而一些内容是禁止交流的，因此需要提供一种消息监控方法及装置对内容进行监控。

发明内容

有鉴于此，本发明的目的在于提供一种消息监控方法、系统及服务器，用于对企业即时通讯消息进行监控。技术方案如下：

本发明提供一种消息监控方法，所述方法包括：

接收企业即时通讯消息，识别所述企业即时通讯消息的消息类型；

若所述消息类型指示所述企业即时通讯消息对应一幅图片，对所述图片中的文本内容和事物内容进行识别，得到所述图片关联的各个词语以及所述各个词语的置信度；

基于所述各个词语的置信度，从所述各个词语中选择至少一个目标词语；

若所述至少一个目标词语与预设敏感词库中的敏感词匹配，控制所述图片中与所述敏感词相对应的内容不可见。

优选的，所述对所述图片中的文本内容和事物内容进行识别，得到所述图片关联的各个词语以及所述各个词语的置信度包括：

对所述图片中的文本内容进行识别，得到所述文本内容包括的词语；

对所述图片中的事物内容进行识别，得到所述事物内容展示的场景的文字描述内容；

识别所述文字描述内容，得到所述文字描述内容包括的词语；

计算所述词语的置信度。

优选的，所述控制所述图片中与所述敏感词相对应的内容不可见包括：

对所述图片中与所述敏感词相对应的内容进行图层覆盖处理，和/或，对所述图片中与所述敏感词相对应的内容进行特效处理，所述图层覆盖处理和所述特效处理使与所述敏感词相对应的内容不可见；

或者

禁止将所述企业即时通讯消息发送至所述企业即时通讯消息的接收方。

优选的，若所述至少一个目标词语与预设敏感词库中的敏感词匹配，所述方法还包括：

调整所述企业即时通讯消息的发送方的消息发送权限；

和/或

将所述企业即时通讯消息存储在敏感消息列表中，所述敏感消息列表用于更新与所述目标词语进行比对的预设敏感词库；

和/或

发送提示信息，所述提示信息用于指示当前发送存在敏感词的企业即时通讯消息；

和/或