[发明专利]一种实现软硬件结合的面向应用的大数据系统及方法在审
申请号: | 201410321901.0 | 申请日: | 2014-07-07 |
公开(公告)号: | CN104102702A | 公开(公告)日: | 2014-10-15 |
发明(设计)人: | 辛国茂;亓开元;赵仁明;房体盈;曹连超;卢军佐 | 申请(专利权)人: | 浪潮(北京)电子信息产业有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 王丹;李丹 |
地址: | 100085 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实现 软硬件 结合 面向 应用 数据 系统 方法 | ||
1.一种实现软硬件结合的面向应用的大数据系统,其特征在于,包括:硬件层、基础平台层、平台增强层;其中,
硬件层,用于根据应用场景以及系统需求对硬件进行定制,并对基础平台层提供硬件支撑;
基础平台层,用于根据大数据平台搭配能力以及应用场景的策略,选择一个或者几个大数据平台;
平台增强层,用于根据基础平台层选择的所述大数据平台提供相应的大数据平台工具;
其中,所述应用场景为用户应用需求或用户应用场景。
2.根据权利要求1所述的系统,其特征在于,所述大数据平台搭配能力以及应用场景的策略包括:
批处理查询分析对应平台:映射规约平台MapReduce,内存计算引擎平台Spark,数据仓库工具Hive,数据仓库工具Shark;
交互式查询分析对应平台:交互式数据分析系统Dremel,实时查询开源项目Impala,内存数据库;
高并发单表简单查询场景对应平台:分布式的、面向列的开源数据库Hbase;
流式计算场景对应平台:流式计算平台Storm,流式计算平台Spark streaming;
复杂查询场景对应平台:大规模并行处理数据库,内存数据库。
3.根据权利要求1所述的系统,其特征在于,所述系统还包括业务增值层,用于根据用户应用场景提供与行业应用结合的大数据开发工具包;
所述与行业应用结合的大数据开发工具包包括:金融行业开发工具包、电信行业开发工具包、公安行业开发工具包。
4.根据权利要求1所述的系统,其特征在于,所述硬件层具体用于:
对硬件的网络性能进行定制,包括:根据所述应用场景选择节点间的网络互连类型;
对硬件的存储性能进行定制,包括:节点的硬盘配置、是否使用SSD卡及内存的大小;
对硬件的计算资源进行定制,包括:确定CPU个数、核数及主频要求。
5.根据权利要求1所述的系统,其特征在于,所述大数据平台工具包括:运维监控、数据导入导出、集群管理、数据挖掘、工作流管理、安全增强及权限管理、数据可视化、备份与容灾。
6.一种实现软硬件结合的面向应用的大数据方法,其特征在于,包括:
根据应用场景以及系统需求对硬件进行定制,并提供硬件支撑;
根据大数据平台搭配能力以及应用场景的策略,选择一个或者几个大数据平台;
根据基础平台层选择的所述大数据平台提供相应的大数据平台工具;
其中,所述应用场景为用户应用需求或用户应用场景。
7.根据权利要求6所述的方法,其特征在于,所述大数据平台搭配能力以及应用场景的策略包括:
批处理查询分析对应平台:映射规约平台MapReduce,内存计算引擎平台Spark,数据仓库工具Hive,数据仓库工具Shark;
交互式查询分析对应平台:交互式数据分析系统Dremel,实时查询开源项目Impala,内存数据库;
高并发单表简单查询场景对应平台:分布式的、面向列的开源数据库Hbase;
流式计算场景对应平台:流式计算平台Storm,流式计算平台Spark streaming;
复杂查询场景对应平台:大规模并行处理数据库,内存数据库。
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:根据用户应用场景提供与行业应用结合的大数据开发工具包;
所述与行业应用结合的大数据开发工具包包括:金融行业开发工具包、电信行业开发工具包、公安行业开发工具包。
9.根据权利要求6所述的方法,其特征在于,所述根据应用场景以及系统需求对硬件进行定制,包括:
对硬件的网络性能进行定制,包括:根据所述应用场景选择节点间的网络互连类型;
对硬件的存储性能进行定制,包括:节点的硬盘配置、是否使用SSD卡及内存的大小;
对硬件的计算资源进行定制,包括:确定CPU个数、核数及主频要求。
10.根据权利要求6所述的方法,其特征在于,所述大数据平台工具包括:运维监控、数据导入导出、集群管理、数据挖掘、工作流管理、安全增强及权限管理、数据可视化、备份与容灾。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮(北京)电子信息产业有限公司,未经浪潮(北京)电子信息产业有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410321901.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种海量数据查询方法
- 下一篇:工厂操作再现装置