[发明专利]一种可视化OLAP的应用实现方法及系统有效
申请号: | 201410167265.0 | 申请日: | 2014-04-24 |
公开(公告)号: | CN103955502B | 公开(公告)日: | 2017-07-28 |
发明(设计)人: | 陈思恩;林漳希;郭星晖;吴炎泉 | 申请(专利权)人: | 科技谷(厦门)信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 广州市红荔专利代理有限公司44214 | 代理人: | 张文 |
地址: | 361009 福建省厦门市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 可视化 olap 应用 实现 方法 系统 | ||
1.一种可视化OLAP的应用实现方法,其特征在于,包括如下步骤:
S1.通过ETL工具,将海量的关系型数据和数据文件进行高速传输和合并形成业务数据,将业务数据存储在支持分布式、列式存储的Hadoop集群中;
S2.通过可视化定义工具在业务数据中定义维度和度量,并自动生成多维分析的MDX语言,同时使用可视化的分析器通过GUI执行已经定义的多维分析命令;
S3.多维分析服务器接收提交的分析命令,使用Impala对提交的命令进行分析,分析以后将Hadoop中的数据抽取到内存中,进行分布式计算,最后将返回的结果生成用户自定义报表,多维分析处理过程为:
首先多维分析服务器与Impala结合,通过hive2server JDBC驱动连接Impala服务,执行其SQL查询引擎访问存储在Hbase中的事实数据,其次使用Mondrian Server应用聚合策略,通过分布式的分组查询,将聚合数据读取到内存中形成缓存数据,最后通过可视化工具,对聚合后的缓存数据进行展示。
2.如权利要求1所述的可视化OLAP的应用实现方法,其特征在于:步骤S1中所述的ETL工具为Storm、Kafka、Flume、Kettle、Sqoop中的一种或几种。
3.如权利要求1或2所述的可视化OLAP的应用实现方法,其特征在于:步骤S1中所述的业务数据存储在Hadoop的Hdfs和Hbase中。
4.如权利要求3所述的可视化OLAP的应用实现方法,其特征在于:所述的可视化工具为Pivot表,饼图,线状图,条形图和分析图中的一种或几种。
5.一种可视化OLAP的应用实现系统,其特征在于,包括:
存储单元,其放置在Hadoop集群服务器上,通过远程Hive和Impala的Java API连接访问,所述存储单元用于存储ETL后的数据;
表现单元,其用于提供多客户端方式展示多维数据集,利用浏览器展示Pivot表、饼图、线状图、条形图以及分析图;
模式管理器,其用于将Schema配置文件解析成维度模型、星型模型、以及Sql模型,且与Impala配合;
计算单元,其用于解析、校验和执行MDX查询,所述的计算单元包括集成连接的维度度量定义模块,多维分析执行模块及可视化分析查询器,所述维度度量定义模块用于自动生成大数据平台下多维分析的MDX语言,构建动态的可支持Impala的SQL标准;
聚合单元,其用于接收由所述计算单元批量发送的数据、维护和创建聚合缓存,利用Mondrian Server应用聚合策略,通过分布式的分组查询,将聚合数据读取到内存中形成缓存数据;
所述的表现单元置于Tomcat服务器上,所述的模式管理器、聚合单元和计算单元设于同一台包含核心框架的服务器上。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科技谷(厦门)信息技术有限公司,未经科技谷(厦门)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410167265.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:齿轮齿条传动装置
- 下一篇:翻辊倒向式往复运动机构