[发明专利]基于依赖树拆分提高运算性能的方法及系统在审
申请号: | 201911386802.X | 申请日: | 2019-12-29 |
公开(公告)号: | CN111209301A | 公开(公告)日: | 2020-05-29 |
发明(设计)人: | 范羊羊;章晋 | 申请(专利权)人: | 南京云帐房网络科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F9/48;G06F9/50 |
代理公司: | 南京科知维创知识产权代理有限责任公司 32270 | 代理人: | 杜依民 |
地址: | 210000 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 依赖 拆分 提高 运算 性能 方法 系统 | ||
1.基于依赖树拆分实现的分布式公式运算提高运算性能的方法,其特征在于:包括
分析公式依赖关系的步骤,业务系统包含的规则库,其中的规则存在相互依赖的关系,执行时必须是被依赖的公式先执行,对公式的依赖关系进行分析,将公式库解析成由单个公式组成的多颗树,将公式库拆解成森林结构;
构造带层次拓扑结构的步骤,按照公式库与单个公式之间相互依赖的关系,将单个公式与公式库组成有引用关系组成的有向图,将公式库构造成带层次拓扑结构的公式库;
大数据框架并行、批量运行公式的步骤,大数据框架由“任务管理”、“协调者”、“agent”、“worker”角色组成:
任务管理:负责接收任务,任务的分配和调度,没有状态,支持热备部署;
协调者:存储任务,维护其他角色的心跳,本身是集群形态,集群内部通过gossip或者p2p协议同步状态数据,使用2pc协议同步数据;
agent:从协调者拉取任务,将任务分配到worker执行;
woker:执行任务,它可以是进程或者线程。
2.根据权利要求1所述的基于依赖树拆分实现的分布式公式运算提高运算性能的方法,其特征在于:
所述其他角色包括管理模块和服务器,心跳是为了在运行阶段检测各个模块的健康,由管理模块、服务器定时发送心跳至协调模块,它可以是tcp、http接口的rpc调用;协调模块用于存储任务和维护其他角色的心跳;
拉取任务是指运行公式的任务,一个任务包含一个或多个公式数据,它是执行公式的最小单元;
任务分配是指管理模块监控工作模块的任务执行情况,包括当前正在运行的任务数、任务积压数、机器资源负载情况,向协调者申请新的任务;
并发执行是指公式的并发执行,同一层级中有很多公式,将公式封装到任务中,提交给大数据框架并发执行。
3.根据权利要求1所述的基于依赖树拆分实现的分布式公式运算提高运算性能的方法,其特征在于:所述构造带层次拓扑结构的步骤,将公式依赖关系描述成拓扑图,图中节点为公式,边为公式之间的依赖关系,用有向无环图来表示依赖关系,拓扑排序能根据这些依赖给出公式执行的先后顺序;按排序值来划分层次,同一排序值处在一个层次,一个层次中的公式可以并发执行不存在依赖关系。
4.根据权利要求1所述的基于依赖树拆分实现的分布式公式运算提高运算性能的方法,其特征在于:所述业务库是指实际的业务数据,不限于关系或非关系型的数据库,由多个数据库组成,它包含一个公司或企业所有的信息化的数据。
5.一种基于依赖树拆分实现的分布式公式运算提高运算性能的系统,其特征在于:包括
公式库,所述公式库包含存在依赖关系的公式;
依赖分析模块,所述依赖分析模块用于分析公式库中的公式间存在的依赖关系;
业务库,为实际的业务数据,不限于关系或非关系型的数据库,由多个数据库组成,它包含一个公司或企业所有的信息化的数据;
大数据框架,所述大数据框架用于联合依赖分析模块和业务库数据运行公式。
6.根据权利要求4所述的基于依赖树拆分实现的分布式公式运算提高运算性能的系统,其特征在于:
所述大数据框架包括任务管理模块、协调模块、服务器,所述任务管理模块用于接收任务并且分配和调度任务;所述协调模块用于存储任务和维护其他角色的心跳;所述服务器用于拉取任务和执行任务;
所述依赖分析模块用于分析公式库中公式的依赖关系;
所述服务器从协调模块获取任务,从业务库中获取公式,进行运算。
7.根据权利要求5所述的基于依赖树拆分实现的分布式公式运算提高运算性能的系统,其特征在于:所述服务器包括管理模块和工作模块,所述管理模块用于拉取协调模块的任务,所述管理模块用于分配任务发送到工作模块,所述工作模块用于执行任务,所述依赖分析模块提交拓扑结构给任务管理模块,所述依赖分析模块的拓扑结构为层次结构,所述层次结构同一层次中的公式可以并发执行。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京云帐房网络科技有限公司,未经南京云帐房网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911386802.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种三维动态智能展示系统
- 下一篇:一种实现视频分类的自动化测试方法及系统