[发明专利]一种基于Hadoop的传统网管数据处理方法在审
申请号: | 201610189666.5 | 申请日: | 2016-03-30 |
公开(公告)号: | CN105868365A | 公开(公告)日: | 2016-08-17 |
发明(设计)人: | 王炳亮 | 申请(专利权)人: | 浪潮通信信息系统有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 姜明 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于Hadoop的传统网管数据处理方法,涉及移动通信领域传统话务网管、数据网管、传输网管的数据采集、加工处理。在传统网管数据处理中通常采用关系型数据的方式实现对设备数据的存储与处理,通常采集处理时延高、数据补采补汇逻辑复杂,无法及时完成对数据的加工,影响上层基于数据的分析应用。采用基于Hadoop的传统网管数据处理方式,以Hadoop 分布式HDFS系统进行数据的存储、以Spark分布式数据处理框架进行数据的加工处理,通过基于文件方式的数据操作,快速实现对数据的采集及补采补汇处理。 | ||
搜索关键词: | 一种 基于 hadoop 传统 网管 数据处理 方法 | ||
【主权项】:
一种基于Hadoop的传统网管数据处理方法,其特征在于,主要包含三部分内容:1)传统网管数据Hadoop存储;2)传统网管数据Hadoop加载及加工处理;3)传统网管数据Hadoop补采、补汇;以Hadoop分布式文件系统作为数据的存储方式,以Hadoop本地文件加载的方式实现对数据到Hadoop集群的加载,通过Spark分布式计算引擎实现对数据的进一步加工处理操作;对于数据的补采、补汇,采用直接删除历史文件,重新进行数据加载、加工处理的方式。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮通信信息系统有限公司,未经浪潮通信信息系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610189666.5/,转载请声明来源钻瓜专利网。