[发明专利]一种基于storm流计算框架的食品安全网络舆情分析方法在审

专利信息
申请号: 201710957248.0 申请日: 2017-10-16
公开(公告)号: CN107832344A 公开(公告)日: 2018-03-23
发明(设计)人: 吴羽;黄文恺;林炽杰 申请(专利权)人: 广州大学
主分类号: G06F17/30 分类号: G06F17/30
代理公司: 广州市华学知识产权代理有限公司44245 代理人: 裘晖,林梅繁
地址: 510006 广东省广*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明为基于storm流计算框架的食品安全网络舆情分析方法,对网络媒体资源进行网络爬虫,获取有关食品安全网页的url,下载相应的网页数据进行分析后保存到Hbase数据库中;Spout节点从数据库读取数据放入网络拓扑结构,随机分发给第一层Bolt节点;第一层Bolt节点获取数据后对文本数据进行向量化,进行分词和计算该词汇的权重;对第一层Bolt节点向量化后的文本数据进行文本聚类,将同一类的发送到相同的Bolt节点中;对同一类的文本数据作进一步处理生成事件,提取事件中舆情信息,据此计算出文本分类的舆情倾向度。本发明通过对网络舆情进行分析以实现对食品安全的监控,利用storm分布式流计算框架,提高了数据处理的效率,解决了以往时效性较差的缺点。
搜索关键词: 一种 基于 storm 计算 框架 食品安全 网络 舆情 分析 方法
【主权项】:
一种基于storm流计算框架的食品安全网络舆情分析方法,其特征在于,包括以下步骤:S1、利用Scrapy爬虫框架对网络媒体资源进行网络爬虫,获取有关食品安全网页的url,根据url将相应的网页数据下载并进行分析,最后将数据保存到Hbase数据库中;S2、Spout节点从Hbase数据库读取数据放入网络拓扑结构topology,并且随机分发给第一层Bolt节点进行计算和处理;S3、第一层Bolt节点获取数据后对文本数据进行向量化,将文本数据进行分词和计算该词汇的权重;S4、对第一层Bolt节点向量化后的文本数据进行文本聚类,并将同一类的文本数据发送到相同的Bolt节点中;S5、对同一类的文本数据作进一步处理,生成事件,提取事件中的舆情信息,根据舆情信息计算出文本分类的舆情倾向度。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州大学,未经广州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201710957248.0/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top