[发明专利]一种大数据一体机有效
申请号: | 201810936219.0 | 申请日: | 2018-08-16 |
公开(公告)号: | CN109343791B | 公开(公告)日: | 2021-11-09 |
发明(设计)人: | 张隆显 | 申请(专利权)人: | 武汉元鼎创天信息科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 武汉知产时代知识产权代理有限公司 42238 | 代理人: | 孙丽丽 |
地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 一体机 | ||
1.一种大数据一体机,其特征在于:包括
多个分布式数据存储模块,分布于相互独立的多个存储器,包括多个存储节点;
数据流模块,具有输入输出接口,用于获取和传输数据流;
多个计算机节点,与每一所述存储器上的大量的所述存储节点一一对应连接,以获取对应的所述存储节点中存储的数据;
数据挖掘模块,连接所述数据流模块和所述分布式数据存储模块,所述数据挖掘模块根据挖掘算法将所述数据流分类并根据数据流的类别将数据流传至相应的所述存储器中的相应的所述存储节点中存储;
分布式数据管理模块,通过通道选择器与所述多个计算机节点连接,以将计算任务指派到与存储着该任务所需数据的所述存储节点相连接的所述计算机节点;
多个分布式多级容错模块,与多个所述存储器一对一的对应,所述分布式多级容错模块连接所述数据流模块、所述数据挖掘模块、分布式数据管理模块和对应的所有所述存储节点,每一所述分布式多级容错模块以等级方式组织进程组,其中一所述进程组为主进程组,处于动态,其他所述进程组的交互状态由所述主进程组的检查点定期更新,若所述主进程组崩溃,采用后备执行选举算法在其他所述进程组中选择一个进程组作为新的主进程组,数据流的传输和存储及所述分布式数据管理模块发出的命令流经对应的所述分布式多级容错模块。
2.如权利要求1所述的大数据一体机,其特征在于:所述挖掘算法为聚类算法、分类算法和预测算法中的一种或者多种,用于将数据分为访问率高的热点数据和访问率低的冷数据,所述冷数据被所述数据挖掘模块传至低速廉价的所述存储器中,所述热点数据被所述数据挖掘模块根据存储预取算法分配至高速且容量大的所述存储器中。
3.如权利要求1所述的大数据一体机,其特征在于:分布式数据管理模块包括多个管理节点,每一所述管理节点与一所述存储器对应,且与与之对应的所述存储器中的所有所述存储节点连接,每一所述管理节点包括:
本地数据库管理系统,负责管理与本管理节点对应的所述存储器中的数据;
和数据连接组件,连接该管理节点与其他所有管理节点。
4.如权利要求1所述的大数据一体机,其特征在于:所述通道选择器包括多个通道开关,所述通道开关的数量与所述计算机节点的数量一致,且与所述计算机节点一一对应连接。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉元鼎创天信息科技有限公司,未经武汉元鼎创天信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810936219.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置