[发明专利]一种基于Spark的分布式多层大数据分析处理模型有效

专利信息
申请号: 201810956427.7 申请日: 2018-08-21
公开(公告)号: CN109271371B 公开(公告)日: 2022-02-11
发明(设计)人: 宋泊东;张立臣 申请(专利权)人: 广东工业大学
主分类号: G06F16/21 分类号: G06F16/21
代理公司: 广州粤高专利商标代理有限公司 44102 代理人: 林丽明
地址: 510006 广东*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 spark 分布式 多层 数据 分析 处理 模型
【权利要求书】:

1.一种基于Spark的分布式多层大数据分析处理模型,其特征在于,包括表示层PT、前端交换层FST、后端交换层BST、实时业务逻辑层RBLT、非实时业务逻辑层NRBLT和数据访问层DAT;其中表示层PT与前端交换层FST进行数据传输,前端交换层FST的输出端与媒介的输入端连接;媒介与后端交换层BST进行数据传输;后端交换层BST的输出端与实时业务逻辑层RBLT的输入端和非实时业务逻辑层NRBLT的输入端连接;实时业务逻辑层RBLT的输出端和非实时业务逻辑层NRBLT的输出端均与数据访问层DAT的输入端连接;所述实时业务逻辑层RBLT还包括表示节点和对接中心;所述表示节点通过喷口与媒介进行数据传输;所述对接中心通过螺栓与媒介进行数据传输;

所述非实时业务逻辑层NRBLT用于存储决策策略;其中所述决策策略存储在MongoDB中,利用R程序和Spark RDD即可获得快速访问大型数据集的接口;

所述数据访问层DAT包括实时数据资源库、交换中心、基线和数据仓库;其中实时数据资源库对交换中心进行实时数据访问。

2.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述表示层PT从BLT获取数据并使用服务来处理从用户到后端集群的所有请求。

3.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述前端交换层FST还包括部署在节点上的前端服务器,所述前端交换层FST负责接收web请求,并通过Kafka消息系统将web请求传递至

4.根据权利要求3所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述前端服务器为部署了MongoDB的前端服务器,所述MongoDB通过前端交换层FST发送至Kafka从而避免进入后端集群。

5.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述后端交换层BST从Kafka获取消息,通过BST入口接口进行前端服务器与后端交换层进行信息传输。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810956427.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top