[发明专利]一种基于I/O调度的多任务外存模式图处理方法有效
申请号: | 201811053424.9 | 申请日: | 2018-09-11 |
公开(公告)号: | CN109522102B | 公开(公告)日: | 2022-12-02 |
发明(设计)人: | 施展;冯丹;戴凯航;曹孟媛;彭亚妹;刘上;杨蕾;杨文鑫;陈硕;陈静 | 申请(专利权)人: | 华中科技大学 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 华中科技大学专利中心 42201 | 代理人: | 李智;曹葆青 |
地址: | 430074 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 调度 任务 外存 模式 处理 方法 | ||
1.一种基于I/O调度的多任务外存模式图处理方法,其特征在于,所述方法包括以下步骤:
S1.将图数据进行流式分区,得到n个图分区,每个图分区对应的边集中具有相同的边数目,并初始化每个图分区的同步字段;
S2.将n个图分区均衡地置于N个外存设备中,更新每个图分区的部分同步字段,n为N的整数倍;
S3.基于I/O调度从N个外存设备中选取访问图处理任务数最少的外存设备作为目标外存设备,并将所述目标外存设备中图处理任务尚未访问的图分区作为指定分区;
S4.根据指定分区的同步字段判断其是否未被映射到内存中,若是,则将所述指定分区从外存设备映射到内存中,并更新所述指定分区的部分同步字段;否则,直接通过所述指定分区映射到内存的地址信息进行图分区数据的访问。
2.如权利要求1所述的图处理方法,其特征在于,所述图分区的同步字段为unit_num+mmap_addr+edge_num+fd,其中,unit_num为访问图分区的任务总数,初始化为0;mmap_addr为图分区在内存中的映射首地址,初始化为空;edge_num为图分区映射到内存中的边数目,初始化为0;fd为图分区对应的文件描述符,初始化为空。
3.如权利要求2所述的图处理方法,其特征在于,步骤S2具体如下:
当图分区置于N个外存设备中的一个后,在外存设备中创建图分区文件,为图分区文件分配一个同步字段,edge_num字段更新为图分区边数。
4.如权利要求1所述的图处理方法,其特征在于,步骤S3具体如下:
1)统计各外存设备正在执行的图处理任务数量ni,i=1,2,...,N;
2)确定各外存设备当前被内存访问的图分区集合si;
3)根据值ni的大小对外存设备进行升序排序,将对应的外存设备id加入集合U中;
4)依次判断集合U中各外存设备当前被访问的图分区集合si是否包含图处理任务尚未访问的图分区,若是,进入步骤5),否则,进入步骤6);
5)将外存设备i选为目标外存设备,进入步骤7);
6)按集合U中外存设备顺序判断各外存设备不在内存的图分区是否包含尚未访问的分区,若是,将外存设备i选为目标外存设备,进入步骤7),否则,结束;
7)将所述目标外存设备中图处理任务尚未访问的图分区作为指定分区,进入步骤S4。
5.如权利要求2所述的图处理方法,其特征在于,步骤S4如下:
当指定分区的字段unit_num=0,说明指定分区未被图处理任务映射到内存中,将指定分区从外存设备映射到内存中,字段mmap_addr更新为在内存中的映射首地址,字段unit_num更新为unit_num+1,字段fd更新为图分区文件的文件描述符;
否则,说明指定分区已经被图处理任务映射到内存中,则直接通过分区文件映射到内存的地址信息进行图分区数据的访问,即直接通过所述图分区的字段mmap_addr进行图分区的访问。
6.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的图处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华中科技大学,未经华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811053424.9/1.html,转载请声明来源钻瓜专利网。