[发明专利]存储器管理系统在审
申请号: | 202080015024.8 | 申请日: | 2020-02-18 |
公开(公告)号: | CN113454592A | 公开(公告)日: | 2021-09-28 |
发明(设计)人: | S·李;V·格罗弗;J·克拉克森 | 申请(专利权)人: | 辉达公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F9/50;G06F12/02 |
代理公司: | 北京市磐华律师事务所 11336 | 代理人: | 高伟 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储器 管理 系统 | ||
1.一种方法,包括:
至少部分地基于计算机程序要使用的数据之间的依赖关系来分配要由一个或更多个处理器使用的存储器,其中持久性数据将被存储在连续分配的存储器中;以及
将所述持久性数据仅存储在所述连续分配的存储器中。
2.根据权利要求1所述的方法,其中:
所述持久性数据包括所述计算机程序的输入的集合;以及
所述持久性数据包括所述计算机程序的输出。
3.根据权利要求1所述的方法,其中:
所述存储器是图形处理单元上的存储器的连续块;以及
所述计算机程序在所述图形处理单元的处理器上运行。
4.根据权利要求3所述的方法,其中:
所述图形处理单元是计算机系统的部分,所述计算机系统具有与所述图形处理单元上的存储器分开的主存储器;以及
所述图形处理单元上的所述存储器的部分被映射到与所述主存储器共享的存储器空间中。
5.一种系统,包括:
一个或更多个处理器;以及
存储器,用于存储计算机可执行指令,所述计算机可执行指令如果被执行,则使所述一个或更多个处理器:
至少部分地基于计算机程序要使用的数据之间的依赖关系来分配要由所述计算机程序使用的存储器,其中持久性数据将被存储在连续分配的存储器中;以及
将所述持久性数据仅存储在所述连续分配的存储器中。
6.根据权利要求5所述的系统,其中:
所述计算机程序描述计算;以及
所述计算机可执行指令还包括指令,所述指令如果被执行,则使所述一个或更多个处理器:
分析所述计算以生成表示由所述计算操纵的数据的树,所述树包含对应于所述计算的输入数据的叶节点的集合、对应于作为执行所述计算的部分而确定的中间数据的内部节点的集合、以及表示所述计算的结果的根节点;以及
至少部分地基于所述树来识别所述持久性数据。
7.根据权利要求5所述的系统,其中所述计算机可执行指令还包括指令,所述指令如果被执行,则使所述一个或更多个处理器:
分配图形处理单元内的存储器块,以充当所述计算机程序的存储器堆;以及
分配所述存储器堆上的存储器空间以存储所述中间数据。
8.根据权利要求7所述的系统,其中所述计算机可执行指令还包括指令,所述指令如果被执行,则使所述一个或更多个处理器:针对由所述计算机程序使用的变量,存储识别存储器的量以及相对于所述存储器堆的起点的存储器位置的信息。
9.根据权利要求8所述的系统,其中所述计算机可执行指令还包括指令,所述指令如果被执行,则使所述一个或更多个处理器:将所述存储器堆重新定位到所述图形处理单元中的不同存储器位置。
10.根据权利要求9所述的系统,其中所述存储器堆的重新定位由于存储器碎片整理操作而发生。
11.根据权利要求5所述的系统,其中通过在存储在图形处理单元上的分配表中记录保留存储器空间以供所述计算机程序使用的信息,来向所述计算机程序分配所述存储器空间。
12.根据权利要求5所述的系统,其中在单个分配操作中分配由所述计算机程序使用的所有GPU存储器。
13.一种或更多种非暂态计算机可读存储介质,其上存储有可执行指令,所述可执行指令由计算机系统的一个或更多个处理器执行,从而使所述计算机系统至少:
至少部分地基于计算机程序的数据之间的依赖关系来分配要由所述一个或更多个处理器使用的存储器,其中持久性数据将被存储在连续分配的存储器中;以及
将所述持久性数据存储在所述连续分配的存储器中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于辉达公司,未经辉达公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202080015024.8/1.html,转载请声明来源钻瓜专利网。