[发明专利]大数据环境下的数据挖掘平台的构建方法在审

专利信息
申请号: 201410055529.3 申请日: 2014-02-18
公开(公告)号: CN103838617A 公开(公告)日: 2014-06-04
发明(设计)人: 叶枫;王亚普;周发超;周远超 申请(专利权)人: 河海大学
主分类号: G06F9/455 分类号: G06F9/455;G06F17/30;H04L29/08
代理公司: 南京苏高专利商标事务所(普通合伙) 32204 代理人: 李玉平
地址: 210098 *** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 环境 挖掘 平台 构建 方法
【权利要求书】:

1.一种大数据环境下的数据挖掘平台的构建方法,其特征在于,包括如下几个步骤:

步骤1:基础设施虚拟化;采用虚拟化技术将设施虚拟化,包括物理层的服务器虚拟化、存储虚拟化和网络虚拟化,形成虚拟化层;主要从两个方面进行虚拟化,建立两个虚拟化池即计算虚拟化池和存储虚拟化池;计算虚拟化池主要实现应用虚拟化,在计算资源层面包括服务器虚拟化和应用中间件虚拟化;存储虚拟化池主要实现数据存储虚拟化,在存储层面包括存储硬件架构虚拟化和存储软件虚拟化; 

步骤2:部署虚拟化器件,即虚拟机实例化的阶段;此流程大致分为以下几个步骤:

(1)  选择虚拟器件并定制化;

(2)  保存定制化参数文件;

(3)  选择部署的目标物理机服务器;

(4)  拷贝虚拟器件的相关文件;

(5)  在目标机上启动部署后的虚拟器件;

步骤3:开源云计算解决方案CloudStack的安装;使用CloudStack作为基础,搭建虚拟机集群,用户可以快速方便地在现有的基础架构上创建私有的云计算平台,其安装过程主要包含以下几步:

(1)  配置安装源;

(2)  安装CloudStack Management Server;

(3)  安装MySQL数据库;

(4)  安装HOST主机;

(5)  配置安全策略、网桥、防火墙、NFS共享;

步骤4:服务层:部署RHadoop环境,使得R语言引擎能够运行在Hadoop集群之上;配置JRI动态链接库,使得实际的计算过程是通过在底层调用R语言来实现的;

步骤5:处理关系型数据库中的海量数据;结合R和Hadoop来实现对关系型数据库中大规模数据的操作:通过开源工具Sqoop将大量待分析数据输出为文本数据文件,并将文本数据文件上传到HDFS中,然后转化为对文本数据集进行分布式处理;

步骤6:流程化的操作方法;在应用层以Web界面的方式向用户服务层实现的各种功能;用户可以根据自身需求自定义分析流程,包括:设置数据来源、选择分析方法、设置分析参数、数据挖掘与分析、得出分析结果并展示。

2.根据权利要求1所述的大数据环境下的数据挖掘平台的构建方法,其特征在于:所述服务层中,使用了MySQL数据库的复制技术以及开源工具Sqoop实现了Hadoop与数据库间进行可定制的数据传递机制。

3.根据权利要求1所述的大数据环境下的数据挖掘平台的构建方法,其特征在于:所述应用层中,设计了B/S模式的用户操作界面,用户只需利用图形化界面进行操作,而不需要直接编写R代码进行数据分析和统计,实际的计算过程则是通过在底层调用R语言来实现的,从根本上屏蔽了R语言的复杂性。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河海大学,未经河海大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201410055529.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top