[发明专利]基于Hive插件对Hive数据权限管控及安全审计方法及系统有效
申请号: | 202211134582.3 | 申请日: | 2022-09-19 |
公开(公告)号: | CN115203750B | 公开(公告)日: | 2022-12-16 |
发明(设计)人: | 南金豆 | 申请(专利权)人: | 杭州比智科技有限公司 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06F16/242;G06F8/41 |
代理公司: | 北京云科知识产权代理事务所(特殊普通合伙) 11483 | 代理人: | 张飙 |
地址: | 311121 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 hive 插件 数据 权限 安全 审计 方法 系统 | ||
本发明公开了一种基于Hive插件对Hive数据权限管控及安全审计方法及系统,包括如下步骤:S1.Hive请求通过JDBC连接或ODBC连接进入Hive集群中,连接到Thirft服务器(用于链接管理),然后进去到Hive驱动模块中;S2.在Hive驱动模块2中,依次进行抽象语法树解析、逻辑优化器优化、物理执行计划生成与优化、权限校验和提交到yarn运行;S3.HQL执行成功以后,异步通知到Admin服务器中;通过Antrl4来解析SQL,获取HQL的操作类型、表和字段;S4.对于操作类型为创建表的情况,则授予创建人全部的表权限;S5.更改完策略以后,策略信息保存到mysql中,同时添加标识标记该策略已经变更;Hive插件定时拉取策略,根据变更标识来刷新Hive插件中缓存。
技术领域
本发明涉及计算机、网络通信技术及大数据处理领域,具体涉一种基于Hive插件对Hive数据权限管控及安全审计方法及系统。
背景技术
近年来,随着企业数据量爆炸式增长,越来越多的企业运用以Hadoop为核心的大数据技术生态来分析处理企业中有价值的数据。进行OLAP(Online Analysis Process,OLAP)分析后的数据可以方便企业划分用户群体,寻找企业的增长点,提升企业的竞争力。保障企业的数据安全是企业竞争力的最基础的保证,只有通过事前身份验证,事中权限管控和事后安全审计全链路管控,才能保证数据在使用期间的数据安全。
Hive是Hadoop生态中最基础的离线分析组件,保障Hive数据权限是最基础的方案,现在业内中已经常有的有Apache Sentry和Apache Ranger这2种大数据权限管控组件。它们都是通过将插件安装到Hive底层,当一个SQL请求Hive的时候首先通过Hive对HQL进行解析,将HQL拆分成库,表,字段,然后对该HQL的请求方进行校验,判断请求方是否拥有该HQL的执行权限,若没有权限则抛出异常,最后会把HQL鉴权的结果发送到对应的admin客户端上保存下来。
现有的插件方案对于使用者是非常不方便的,每次创建表后都需要数据管理员在客户端中授予数据开发刚创建表的权限,数据开发才有权限使用该创建表,如果上百个数据开发需要开发上千个任务,那么管理成本就会非常高。若将数据管理员的权限授予数据开发使用,这样数据非常容易泄漏造成安全漏洞。
本方案是创建表后异步通知admin客户端让表的创建者默认拥有表的全部权限,而数据管理员可以通过变更策略来限制创建者对表的使用权限。后期删除表时候也会通知admin客户端,同步变更策略,防止出现ABA问题。(ABA问题是指创建一张表,同时授予用户该表权限,后续该表被管理员删除。然后创建相同表名的另一张表,而用户同样拥有新表的权限)。
发明内容
针对现有技术存在的问题,本发明的目的在于提供一种基于Hive插件对Hive数据权限管控及安全审计方法及系统,用于解决上述存在的问题,使得放开使用权限的同时防止数据泄露,实现数据管控和安全,形成更完善的数据安全体系。
为实现上述目的,本发明提供一种Hive插件对Hive数据权限管控及安全审计方法,所述方法包括如下步骤:
S1.Hive请求通过JDBC连接或ODBC连接进入Hive集群中,连接到Thirft服务器(用于链接管理),然后进去到Hive驱动模块中;
S2.在Hive驱动模块2中,依次进行抽象语法树解析、逻辑优化器优化、物理执行计划生成与优化、权限校验和提交到集群yarn运行;
S3.HQL执行成功以后,异步通知到Admin服务器中;通过Antrl4来解析SQL,获取HQL的操作类型、表和字段;
S4.对于操作类型为创建表的情况,则授予创建人全部的表权限;若是操作类型为删除表,则变更表策略去掉策略中被删除的表;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州比智科技有限公司,未经杭州比智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211134582.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置