[发明专利]一种多任务GPU中TLB管理方法及系统

权利要求书

1.一种多任务GPU中TLB管理方法，其特征在于，包括：

当某个程序访问TLB时，基于所述TLB的访问类型查找对应的TLB项；

如果查找成功则返回当前虚拟地址对应的物理地址；

否则，按照预先设定的访问优先级寻找并确定TLB替换项，并继续访问下一级TLB，直到查找对应的TLB项或者TLB查找完后从页表中确定当前虚拟地址对应的物理地址。

2.如权利要求1所述的TLB管理方法，其特征在于，所述TLB的访问类型包括：全相联TLB和组相联TLB。

3.如权利要求2所述的TLB管理方法，其特征在于，所述基于所述TLB的访问类型查找对应的TLB项，包括：

如果所述TLB的访问类型为全相联TLB，则使用虚拟地址在分配给该程序的TLB中依次查找对应的TLB项；

如果所述TLB的访问类型为组相联TLB，则首先使用虚拟地址计算组号，然后用虚拟地址在分配给该程序的TLB中依次查找对应的TLB项。

4.如权利要求1所述的TLB管理方法，其特征在于，所述按照预先设定的访问优先级寻找并确定TLB替换项，包括：

首先，从分配给当前程序的TLB空间中确定TLB替换项；

如果无法从分配给当前程序的TLB空间中确定TLB替换项，则从分配给其它程序的TLB空间中确定空闲项；如果分配给其它程序的TLB空间中没有空闲项，则使用LRU替换算法从所述分配给当前程序的TLB空间中选出一个TLB项作为替换项。

5.如权利要求4所述的TLB管理方法，其特征在于，所述从分配给当前程序的TLB空间中确定TLB替换项，包括：

判断分配给当前程序的TLB空间中是否有空闲项，如果有标记一个空闲项为替换项，

否则判断当前程序所分配的TLB空间中是否有被其它程序使用的TLB项，如果有则使用LRU替换算法前程序所分配的TLB空间中选出一个TLB项作为替换项。

6.如权利要求2所述的TLB管理方法，其特征在于，所述访问TLB前还包括：

将TLB资源平均分配给同时运行的程序，如果是全相联TLB，则将全部TLB均分给每个程序，如果是组相联TLB，则将每个组内的TLB均分给每个程序。

7.如权利要求1所述的TLB管理方法，其特征在于，所述TLB包括：每个SM私有的TLB和被GPU上所有SM共享的TLB，其中所述私有的TLB和共享的TLB均为一个或多个。

8.一种多任务GPU中TLB管理系统，其特征在于，包括：

查找模块，用于当某个程序访问TLB时，基于所述TLB的访问类型查找对应的TLB项；如果查找成功则返回当前虚拟地址对应的物理地址；

替换模块，用于当查找失败时，按照预先设定的访问优先级寻找并确定TLB替换项，并继续访问下一级TLB直到查找对应的TLB项或者TLB查找完后从页表中确定当前虚拟地址对应的物理地址。

9.如权利要求8所述的TLB管理系统，其特征在于，所述查找模块，包括：

第一查找单元，用于当所述TLB的访问类型为全相联TLB时，则使用虚拟地址在分配给该程序的TLB中依次查找对应的TLB项；

第二查找单元，用于当所述TLB的访问类型为组相联TLB，则首先使用虚拟地址计算组号，然后用虚拟地址在分配给该程序的TLB中依次查找对应的TLB项。

10.如权利要求8所述的TLB管理系统，其特征在于，所述替换模块包括：

第一替换单元，用于从分配给当前程序的TLB空间中确定TLB替换项；

第二替换单元，用于当第一替换单元失败时，从分配给其它程序的TLB空间中确定空闲项；

第三替换单元，用于当第一替换单元和第二替换单元均失败时，使用LRU替换算法从所述分配给当前程序的TLB空间中选出一个TLB项作为替换项。