[发明专利]一种基于Spark Streaming的敏感内容识别方法及装置在审
申请号: | 201911027078.1 | 申请日: | 2019-10-27 |
公开(公告)号: | CN110888972A | 公开(公告)日: | 2020-03-17 |
发明(设计)人: | 董晓斌;喻波;王志海;安鹏 | 申请(专利权)人: | 北京明朝万达科技股份有限公司 |
主分类号: | G06F16/335 | 分类号: | G06F16/335;G06F16/535 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100097 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供基于Spark Streaming的敏感内容识别的方法及装置,包括:Spark Streaming处理集群从kafka集群中获取文本数据,从TCP SOCKETS服务器中获取图片流数据,从敏感内容规则定义模块接收定义好的敏感内容识别规则;由Spark Streaming处理集群的Driver节点按照调度规则调度需要使用的Executor计算节点;Driver节点将计算方式、敏感内容识别规则发送给所述Executor计算节点;由所述Executor计算节点对获取到的文本数据、图片流数据进行计算,得到敏感内容及相应敏感内容出现的次数;将计算结果反馈到Driver节点,由Driver节点进行汇总处理;Driver节点输出敏感内容及相应敏感内容出现的次数。 | ||
搜索关键词: | 一种 基于 spark streaming 敏感 内容 识别 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明朝万达科技股份有限公司,未经北京明朝万达科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911027078.1/,转载请声明来源钻瓜专利网。