[发明专利]一种图数据处理方法、装置、设备及可读存储介质在审
申请号: | 202011573361.7 | 申请日: | 2020-12-24 |
公开(公告)号: | CN112685178A | 公开(公告)日: | 2021-04-20 |
发明(设计)人: | 袁博;高艳涛;秦朝阳 | 申请(专利权)人: | 北京浪潮数据技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F16/901 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王云晓 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 设备 可读 存储 介质 | ||
本申请公开了一种图数据处理方法、装置、设备及可读存储介质。本申请中的逻辑中心节点在划分目标图数据获得多个子图后,将多个子图分发至多个物理节点,以使多个物理节点并行处理多个子图,获得多个处理结果;收集并整合多个处理结果,获得整合结果;若接收到任一个物理节点发送的数据获取请求,则根据数据获取请求从整合结果中选择并返回相应数据,以便相关物理节点处理相应数据。本申请中的逻辑中心节点能够按照物理节点的需要同步数据,可避免各个物理节点在处理图数据的过程中频繁相互通信,因此可节约物理节点的计算机资源,提高物理节点处理图数据的效率。本申请提供的一种图数据处理装置、设备及可读存储介质,也同样具有上述技术效果。
技术领域
本申请涉及计算机技术领域,特别涉及一种图数据处理方法、装置、设备及可读存储介质。
背景技术
目前,各个物理节点在配合处理同一个图数据的过程中,需要相互通信。例如:物理节点A需要从物理节点B、C、D中分别获取一些处理结果,而物理节点B需要从物理节点A、C中获取一些处理结果。如此一来,不同物理节点之间频繁相互通信,会消耗较多计算机资源,降低了图数据的处理效率。
因此,在处理图数据的过程中,如何避免不同物理节点频繁通信,提高图数据的处理效率,是本领域技术人员需要解决的问题。
发明内容
有鉴于此,本申请的目的在于提供一种图数据处理方法、装置、设备及可读存储介质,以在处理图数据的过程中,避免不同物理节点频繁通信,提高图数据的处理效率。其具体方案如下:
第一方面,本申请提供了一种图数据处理方法,应用于逻辑中心节点,包括:
获取目标图数据,并划分所述目标图数据获得多个子图;
将所述多个子图分发至多个物理节点,以使所述多个物理节点并行处理所述多个子图,获得多个处理结果;
收集所述多个处理结果,并对所述多个处理结果进行整合,获得整合结果;
若接收到任一个物理节点发送的数据获取请求,则根据所述数据获取请求从所述整合结果中选择并返回相应数据,以便所述任一个物理节点处理所述相应数据。
优选地,所述多个物理节点并行处理所述多个子图,获得多个处理结果,包括:
所述目标物理节点将至少一个子图存储至自身内存;所述目标物理节点为所述多个物理节点中的任一个;
利用NUMA技术将所述目标物理节点中的CPU核和内存,划分为至少一个NUMA集合,并针对每个NUMA集合绑定相应线程;
并行运行相应线程,获得任一个处理结果。
优选地,所述利用NUMA技术将所述目标物理节点中的CPU核和内存,划分为至少一个NUMA集合,包括:
确定所述目标物理节点中的CPU核的核数量,将所述核数量确定为所述NUMA集合的集合数量;
按照所述集合数量划分所述目标物理节点中的CPU核和内存,获得等于所述集合数量的NUMA集合;
对每个NUMA集合包括的CPU核和内存地址范围打标签。
优选地,所述划分所述目标图数据获得多个子图,包括:
将所述目标图数据按点分割或按边分割,以得到所述多个子图。
优选地,所述目标图数据为无向图、有向图或简单图。
优选地,所述收集所述多个处理结果,包括:
接收每个物理节点推送的处理结果。
优选地,所述对所述多个处理结果进行整合,获得整合结果之后,还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京浪潮数据技术有限公司,未经北京浪潮数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011573361.7/2.html,转载请声明来源钻瓜专利网。