[发明专利]一种基于Spark和Ignite的分布式实时图构建和查询的方法及系统在审
申请号: | 201910895444.9 | 申请日: | 2019-09-21 |
公开(公告)号: | CN110659292A | 公开(公告)日: | 2020-01-07 |
发明(设计)人: | 黄度新 | 申请(专利权)人: | 北京海致星图科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2455 |
代理公司: | 11589 北京劲创知识产权代理事务所(普通合伙) | 代理人: | 张铁兰 |
地址: | 100000 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 请求参数 查询 实时图 图构建 监听 构建 字段 缓存 存储功能 获取数据 加密算法 结果数据 数据集中 字段创建 放入 加载 索引 数据库 返回 | ||
1.一种基于Spark和Ignite的分布式实时图构建和查询的方法,其特征在于,包括:
启动Spark实时图构建和图查询任务,从数据库加载待查询图的点和边的字段到Ignite的数据集中,对所述字段进行缓存,并为所述字段创建索引;
将前端发起的请求中的请求参数使用加密算法生成对应的请求参数主题,并监听所述请求参数主题;
将所述请求参数主题放入所述请求参数,发送给请求主题,并监听所述请求主题;
获取数据进行计算,将计算结果发送给所述请求参数主题;
将获取到的结果数据返回给前端。
2.根据权利要求1所述的一种基于Spark和Ignite的分布式实时图构建和查询的方法,其特征在于,所述从数据库加载待查询图的点和边的字段到Ignite的数据集中,具体包括:
从数据库加载待查询图的点和边的字段到IgniteRDD和/或IgniteDataframe。
3.根据权利要求1所述的一种基于Spark和Ignite的分布式实时图构建和查询的方法,其特征在于,所述将前端发起的请求中的请求参数使用加密算法生成对应的请求参数主题,并监听所述请求参数主题,具体包括:
将前端发起的请求中的请求参数使用MD5生成一个请求参数主题,并监听所述请求参数主题。
4.根据权利要求1所述的一种基于Spark和Ignite的分布式实时图构建和查询的方法,其特征在于,所述将所述请求参数主题放入所述请求参数,发送给请求主题,并监听所述请求主题,具体包括:
将所述请求参数主题放入所述请求参数,发送给分布式消息队列中的请求主题,并监听所述请求主题。
5.根据权利要求1-4任一项所述的一种基于Spark和Ignite的分布式实时图构建和查询的方法,其特征在于,所述获取数据进行计算,将计算结果发送给所述请求参数主题,具体包括:
从数据库获取数据进行计算或者使用缓存数据进行计算,将计算结果发送给所述请求参数主题。
6.一种基于Spark和Ignite的分布式实时图构建和查询的系统,其特征在于,包括:
加载模块,用于启动Spark实时图构建和图查询任务,从数据库加载待查询图的点和边的字段到Ignite的数据集中,对所述字段进行缓存,并为所述字段创建索引;
生成模块,用于将前端发起的请求中的请求参数使用加密算法生成对应的请求参数主题,并监听所述请求参数主题;
发送模块,用于将所述请求参数主题放入所述请求参数,发送给请求主题,并监听所述请求主题;
计算模块,用于获取数据进行计算,将计算结果发送给所述请求参数主题;
返回模块,用于将获取到的结果数据返回给前端。
7.根据权利要求6所述的一种基于Spark和Ignite的分布式实时图构建和查询的系统,其特征在于,所述加载模块,具体用于:
从数据库加载待查询图的点和边的字段到IgniteRDD和/或IgniteDataframe。
8.根据权利要求6所述的一种基于Spark和Ignite的分布式实时图构建和查询的系统,其特征在于,所述生成模块,具体用于:
将前端发起的请求中的请求参数使用MD5生成一个请求参数主题,并监听所述请求参数主题。
9.根据权利要求6所述的一种基于Spark和Ignite的分布式实时图构建和查询的系统,其特征在于,所述发送模块,具体用于:
将所述请求参数主题放入所述请求参数,发送给分布式消息队列中的请求主题,并监听所述请求主题。
10.根据权利要求6-9任一项所述的一种基于Spark和Ignite的分布式实时图构建和查询的系统,其特征在于,所述计算模块,具体用于:
从数据库获取数据进行计算或者使用缓存数据进行计算,将计算结果发送给所述请求参数主题。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京海致星图科技有限公司,未经北京海致星图科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910895444.9/1.html,转载请声明来源钻瓜专利网。