[发明专利]一种基于Spark的分布式多层大数据分析处理模型有效
申请号: | 201810956427.7 | 申请日: | 2018-08-21 |
公开(公告)号: | CN109271371B | 公开(公告)日: | 2022-02-11 |
发明(设计)人: | 宋泊东;张立臣 | 申请(专利权)人: | 广东工业大学 |
主分类号: | G06F16/21 | 分类号: | G06F16/21 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 林丽明 |
地址: | 510006 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 spark 分布式 多层 数据 分析 处理 模型 | ||
1.一种基于Spark的分布式多层大数据分析处理模型,其特征在于,包括表示层PT、前端交换层FST、后端交换层BST、实时业务逻辑层RBLT、非实时业务逻辑层NRBLT和数据访问层DAT;其中表示层PT与前端交换层FST进行数据传输,前端交换层FST的输出端与媒介的输入端连接;媒介与后端交换层BST进行数据传输;后端交换层BST的输出端与实时业务逻辑层RBLT的输入端和非实时业务逻辑层NRBLT的输入端连接;实时业务逻辑层RBLT的输出端和非实时业务逻辑层NRBLT的输出端均与数据访问层DAT的输入端连接;所述实时业务逻辑层RBLT还包括表示节点和对接中心;所述表示节点通过喷口与媒介进行数据传输;所述对接中心通过螺栓与媒介进行数据传输;
所述非实时业务逻辑层NRBLT用于存储决策策略;其中所述决策策略存储在MongoDB中,利用R程序和Spark RDD即可获得快速访问大型数据集的接口;
所述数据访问层DAT包括实时数据资源库、交换中心、基线和数据仓库;其中实时数据资源库对交换中心进行实时数据访问。
2.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述表示层PT从BLT获取数据并使用服务来处理从用户到后端集群的所有请求。
3.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述前端交换层FST还包括部署在节点上的前端服务器,所述前端交换层FST负责接收web请求,并通过Kafka消息系统将web请求传递至
4.根据权利要求3所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述前端服务器为部署了MongoDB的前端服务器,所述MongoDB通过前端交换层FST发送至Kafka从而避免进入后端集群。
5.根据权利要求1所述的一种基于Spark的分布式多层大数据分析处理模型,其特征在于,所述后端交换层BST从Kafka获取消息,通过BST入口接口进行前端服务器与后端交换层进行信息传输。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810956427.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:权限设置方法及装置
- 下一篇:一种抗结核聚酮类化合物及其制备方法和用途