[发明专利]一种大数据处理装置及方法在审
申请号: | 201810648667.0 | 申请日: | 2018-06-22 |
公开(公告)号: | CN108920410A | 公开(公告)日: | 2018-11-30 |
发明(设计)人: | 王旭生;梁娜;王健;邱志祺;安逸 | 申请(专利权)人: | 华北理工大学 |
主分类号: | G06F15/173 | 分类号: | G06F15/173;G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 063210 河北*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据形态 处理器 次级处理器 关键指标 主处理器 数据处理模块 数据处理装置 目标数据 数据处理 处理器连接 工作效率 公司系统 属性信息 数据交流 制定 | ||
1.一种大数据处理装置,包括主处理器(1)、初步处理器(2)和次级处理器(3),所述主处理器(1)内设有主数据处理模块,所述主处理器(1)与多个初步处理器(2)连接,一个初步处理器(2)与多个次级处理器(3)连接,,所述主数据处理器(1)、初步处理器(2)和次级处理器(3)内设均设有数据检测模块,数据检测模块用于检测输入数据异常。
2.根据权利要求1所述的一种大数据处理装置,其特征在于,所述初步处理器(2)内设有初步数据处理模块。
3.根据权利要求1所述的一种大数据处理装置,其特征在于,所述次级处理器(3)上连接有输入设备,所述输入设备内设有数据输入模块。
4.根据权利要求1所述的一种大数据处理装置,其特征在于,所述次级处理器(3)内设有次级数据处理模块。
5.根据权利要求1所述的一种大数据处理装置,其特征在于,所述主数据处理器(1)和初步处理器(2)之间、初步处理器(2)和次级处理器(3)之间均为双向传输方式。
6.一种大数据处理方法,其特征在于,包括以下步骤:
步骤S1,通过初步处理器2获取待处理的目标数据;
步骤S2,通过次级处理器3获取预先制定的数据形态关键指标,数据形态关键指标包括数据的自身属性信息;
步骤S3,主处理器1根据预先制定的数据形态关键指标确定待处理的目标数据的数据形态。
7.根据权利要求6所述的一种大数据处理方法,其特征在于,步骤S3可包括以下步骤S31-S33:
步骤S31,接收输入的预定数据表的表名;
步骤S32,根据预先制定的数据形态关键指标对预定数据表进行清洗,获得预定数据表中的目标数据的数据形态;
步骤S33,接收输入的预设数据表的待处理分区和/或接收输入的一个或多个待计算枚举值的字段。
8.根据权利要求6所述的一种大数据处理方法,其特征在于,步骤S3的操作流程为:新建任务,根据提示填对应的信息。比如,填写待分析的数据表的表名、预设数据表的待处理分区以及一个或多个待计算枚举值的字段。填写完毕后,点击执行按钮,即可开始对表中的数据进行分析,任务执行完后会向用户发送通知,用户还可以点击日志按钮实时查看任务执行进度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华北理工大学,未经华北理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810648667.0/1.html,转载请声明来源钻瓜专利网。