[发明专利]基于Hadoop的物联网大数据处理方法及系统在审
申请号: | 201810380325.5 | 申请日: | 2018-04-25 |
公开(公告)号: | CN108563781A | 公开(公告)日: | 2018-09-21 |
发明(设计)人: | 陈阳 | 申请(专利权)人: | 广州绿源信息科技有限公司;广东松科智能科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F9/54 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 510000 广东省广州*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Hadoop的物联网大数据处理方法,包括以下步骤:S1.根据产品生产过程产生的数据及数据的使用需求,采用源数据层进行数据的获取存储,采用数据处理层进行数据的并行加载存储,采用数据存储层实现为数据应用展现所需数据的存储;S2.通过使用HDFS存储海量源数据,通过MapReduce处理海量源数据,用HBase分布式数据库存储处理后生产数据;S3.通过三个层面的数据流转从而设计实现产品生产海量生产数据的存储系统;本发明根据产品生产过程的不同特点通过Hadoop实现了海量生产数据的存储。通过HDFS实现了数据的一次写入,多次读取;通过MapReduce实现了充分的并行性,将作业有效分布到数据上。 | ||
搜索关键词: | 存储 生产数据 源数据 产品生产过程 数据处理 物联网 分布式数据库 数据应用展现 数据处理层 数据存储层 并行加载 产品生产 存储处理 存储系统 多次读取 数据流转 有效分布 并行性 写入 | ||
【主权项】:
1.一种基于Hadoop的物联网大数据处理方法,其特征在于:包括以下步骤:S1.根据产品生产过程产生的数据及数据的使用需求,采用源数据层进行数据的获取存储,采用数据处理层进行数据的并行加载存储,采用数据存储层实现为数据应用展现所需数据的存储;S2.通过使用HDFS存储海量源数据,通过MapReduce处理海量源数据,用HBase分布式数据库存储处理后生产数据;S3.通过三个层面的数据流转从而设计实现产品生产海量生产数据的存储系统。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州绿源信息科技有限公司;广东松科智能科技有限公司,未经广州绿源信息科技有限公司;广东松科智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810380325.5/,转载请声明来源钻瓜专利网。