[发明专利]PaaS平台的大数据处理方法有效

专利信息
申请号: 201210581670.8 申请日: 2012-12-28
公开(公告)号: CN103067501A 公开(公告)日: 2013-04-24
发明(设计)人: 李进 申请(专利权)人: 广州杰赛科技股份有限公司
主分类号: H04L29/08 分类号: H04L29/08;G06F9/455
代理公司: 广州三环专利代理有限公司 44202 代理人: 郝传鑫;麦小婵
地址: 510310 广东省广*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: paas 平台 数据处理 方法
【权利要求书】:

1.一种PaaS平台的大数据处理方法,其特征在于,包括:

S1,PaaS平台服务器接收用户输入的集群创建参数;所述集群创建参数包括待创建的分布式处理集群的节点的数量、节点的内存大小和节点的存储空间大小;

S2,PaaS平台服务器根据所述集群创建参数,通过虚拟化技术生成分布式处理集群;

S3,PaaS平台服务器根据所述用户输入的日志文件存储地址或所述用户部署的应用名称,配置待分析的数据源;

S4,PaaS平台服务器将用于分析数据的脚本传输给所述分布式处理集群,通过所述分布式处理集群对待分析的数据进行处理;

S5,PaaS平台服务器将数据处理结果提供给所述用户。

2.如权利要求1所述的PaaS平台的大数据处理方法,其特征在于,所述节点为分布式处理集群中的虚拟机;所述节点包括控制节点和计算节点,所述控制节点用于管理集群和分配数据处理任务,所述计算节点用于分析处理数据。

3.如权利要求2所述的PaaS平台的大数据处理方法,其特征在于,所述步骤S2具体包括:

S201,根据所述集群创建参数,通过虚拟化技术生成一台虚拟机,并配置所述虚拟机的运行环境;

S202,根据所述集群创建参数中的节点的数量,复制步骤S201所生成的虚拟机,生成所需数量的虚拟机;

S203,设置虚拟机之间的无密码通信;

S204,设置分布式处理集群中的控制节点和计算节点。

4.如权利要求3所述的PaaS平台的大数据处理方法,其特征在于,所述步骤S3具体包括:

PaaS平台服务器接收用户输入日志文件存储地址,或者根据所述用户在PaaS平台上部署的应用的名称获得对应的日志文件存储地址;

PaaS平台服务器检测所述日志文件存储地址中的文件格式是否为日志文件;若是,则从所述日志文件存储地址导入待分析的数据,否则待分析的数据源配置失败。

5.如权利要求4所述的PaaS平台的大数据处理方法,其特征在于,所述步骤S4具体包括:

S401,PaaS平台服务器将用于分析数据的脚本传输给所述分布式处理集群中的控制节点;所述用于分析数据的脚本为MapReduce脚本,用于指示导入待分析的数据的方法和执行MapReduce作业的方法;

S402,所述控制节点选择所述分布式处理集群中空闲的计算节点,由所述计算节点并行地执行数据处理任务,对待分析的数据进行处理。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州杰赛科技股份有限公司,未经广州杰赛科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201210581670.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top