[发明专利]基于Spark SQL的数据处理方法及装置、存储介质及计算设备在审
申请号: | 201811214789.5 | 申请日: | 2018-10-18 |
公开(公告)号: | CN109408537A | 公开(公告)日: | 2019-03-01 |
发明(设计)人: | 姚琴 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/2455 |
代理公司: | 北京汉昊知识产权代理事务所(普通合伙) 11370 | 代理人: | 朱海波 |
地址: | 310052 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明的实施方式提供了一种基于Spark SQL的数据处理方法。该方法包括:响应于会话的发起,根据发起会话的代理用户的用户名,在预设关系集中查找该用户名对应的Spark上下文变量实例;若未查找到则新建与之对应的Spark上下文变量并实例化,并在预设关系集中添加该用户名至少与对应的Spark上下文变量实例之间的对应关系;根据发起会话的代理用户的用户名对应的Spark上下文变量实例,创建对应的运行时环境来执行对应的数据处理,该方法能够通过在一台服务器上运行单个应用实例来为多个租户提供服务,实现多租户功能。此外,本发明的实施方式提供了一种基于Spark SQL的数据处理装置、存储介质及计算设备。 | ||
搜索关键词: | 上下文变量 数据处理 会话 租户 存储介质 代理用户 计算设备 预设关系 数据处理装置 运行时环境 实例化 服务器 查找 响应 创建 应用 服务 | ||
【主权项】:
1.基于Spark SQL的数据处理方法,其特征在于包括:响应于会话的发起,根据发起所述会话的代理用户的用户名,在预设关系集中查找所述用户名对应的Spark上下文变量实例;若未查找到所述用户名对应的所述Spark上下文变量实例,则新建与所述用户名对应的Spark上下文变量,并对所述Spark上下文变量进行实例化,以形成所述用户名对应的Spark上下文变量实例,并在所述预设关系集中添加所述用户名至少与对应的Spark上下文变量实例之间的对应关系;以及根据发起所述会话的代理用户的用户名对应的Spark上下文变量实例,创建对应的运行时环境来执行对应的数据处理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811214789.5/,转载请声明来源钻瓜专利网。