[发明专利]CUDA多线程处理方法、系统及相关设备有效
申请号: | 202111212768.1 | 申请日: | 2021-10-18 |
公开(公告)号: | CN114020333B | 公开(公告)日: | 2022-05-31 |
发明(设计)人: | 雷宇;李原;朱建斌;付尧;永田敏雄 | 申请(专利权)人: | 珠海市芯动力科技有限公司 |
主分类号: | G06F9/38 | 分类号: | G06F9/38;G06T1/20 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强 |
地址: | 519000 广东省珠海市香洲区吉大*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | cuda 多线程 处理 方法 系统 相关 设备 | ||
1.一种CUDA多线程处理方法,其特征在于,应用于索引生成器,所述方法包括:
获取核函数对应的配置信息;
在历史配置信息中不存在与所述配置信息相匹配的目标历史配置信息的情况下,根据所述配置信息生成线程的三维索引;
根据所述配置信息对生成的三维索引进行压缩打包,并将压缩打包后的三维索引存储在存储器中;
在所述历史配置信息中存在所述目标历史配置信息的情况下,获取所述目标历史配置信息对应的历史三维索引;
根据所述目标历史配置信息对历史三维索引进行压缩打包,并将压缩打包后的历史三维索引存储在存储器中。
2.根据权利要求1所述的方法,其中,所述配置信息包括线程块的维度信息和预先设定的迭代步长的三维索引,所述根据所述配置信息生成线程的三维索引,包括:
根据所述线程块的维度信息得到所述线程块中任意一个线程的三维索引;
采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,以生成所述线程块中的线程的三维索引。
3.根据权利要求2所述的方法,其中,所述采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,以生成所述线程块中的线程的三维索引,包括:
采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,生成所述线程块中第一目标线程的三维索引,所述第一目标线程与所述任意一个线程之间的间隔满足所述迭代步长;
采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述第一目标线程的三维索引进行迭代,生成所述线程块中第二目标线程的三维索引,所述第二目标线程与所述第一目标线程之间的间隔满足所述迭代步长;
重复执行采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述线程块中的目标线程的三维索引进行迭代,生成与所述目标线程之间的间隔满足所述迭代步长的线程的三维索引的操作,得到所述线程块中的线程的三维索引,所述目标线程为所述线程块中已生成三维索引的线程。
4.根据权利要求3所述的方法,其中,所述线程块的维度信息包括所述线程块在x方向的维度信息和y方向的维度信息,第一目标线程的三维索引包括所述第一目标线程在x方向的索引、y方向的索引和z方向的索引,所述采用所述线程块的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,生成所述线程块中第一目标线程的三维索引,包括:
采用所述线程块在x方向的维度信息、y方向的维度信息、所述迭代步长和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,得到所述第一目标线程在x方向的索引;
采用所述线程块在x方向的维度信息、y方向的维度信息和所述迭代步长的三维索引,对所述任意一个线程的三维索引进行迭代,得到所述第一目标线程在y方向的索引和所述第一目标线程在z方向的索引。
5.根据权利要求1-4任一项所述的方法,其中,所述配置信息包括生成的三维索引在x方向最高位为1的位置、在y方向最高位为1的位置和在z方向最高位为1的位置,所述根据所述配置信息对生成的三维索引进行压缩打包,包括:
按照在x方向最高位为1的位置对生成的三维索引中x维度的索引进行压缩打包;
按照在y方向最高位为1的位置对生成的三维索引中y方向的维度信息进行压缩打包;以及,
按照在z方向最高位为1的位置对生成的三维索引中z维度的索引进行压缩打包。
6.根据权利要求1-4任一项所述的方法,其中,所述核函数为调用频繁的核函数,所述配置信息包括所述核函数的专用存储器地址,所述将压缩打包后的三维索引存储在存储器中,包括:
将压缩打包后的三维索引存储在所述核函数的专用存储器地址中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于珠海市芯动力科技有限公司,未经珠海市芯动力科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111212768.1/1.html,转载请声明来源钻瓜专利网。