[发明专利]对编译过程中的向量化进行优化的方法、装置及电子设备在审
申请号: | 202110209259.7 | 申请日: | 2021-02-24 |
公开(公告)号: | CN112947932A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 穆沛;李秀红;颜深根 | 申请(专利权)人: | 上海商汤智能科技有限公司 |
主分类号: | G06F8/41 | 分类号: | G06F8/41;G06F9/50 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 靳玫 |
地址: | 200233 上海市徐*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 编译 过程 中的 量化 进行 优化 方法 装置 电子设备 | ||
1.一种对编译过程中的向量化进行优化的方法,其特征在于,所述方法包括:
获取目标芯片的硬件参数信息,所述硬件参数信息用于表征所述目标芯片的计算能力;
根据预设的且与所述硬件参数信息对应的优化策略集,确定所述目标芯片的向量化参数的参数值;
基于所述向量化参数的参数值,将所述目标芯片待执行的指令向量化,得到向量化指令。
2.根据权利要求1所述的方法,其特征在于,所述硬件参数信息至少包括以下之一:所述目标芯片的体系结构、所述目标芯片的计算核数量、单个所述计算核的计算能力,其中,所述体系结构包括所述目标芯片的内存模型结构以及所述目标芯片的计算核并行结构。
3.根据权利要求1或2所述的方法,其特征在于,获取目标芯片的硬件参数信息,包括:
基于预先设置的硬件参数配置表确定所述目标芯片的硬件参数信息,所述硬件参数配置表记录有不同型号的芯片对应的硬件参数;或
调用预先配置的硬件参数查询接口获取所述目标芯片的硬件参数信息;或
获取用户通过所述目标芯片的硬件参数配置接口配置的硬件参数信息。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述向量化参数包括以下一种或多种:
所述目标芯片执行所述向量化指令所采用的并行计算方式,所述并行计算方式包括数据级并行优先的方式或线程级并行优先的方式;
所述向量化指令对应的计算数据占用的所述目标芯片各层级内存的大小;
所述目标芯片的计算核的并行度;
单条所述向量化指令对应的计算数据量。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述优化策略集包括以下一种或多种优化策略:
第一优化策略,用于基于所述目标芯片的体系结构,确定所述目标芯片执行所述向量化指令所采用的并行计算方式,所述并行计算方式包括数据级并行优先的方式或线程级并行优先的方式;
第二优化策略,用于基于所述目标芯片的各级内存的大小,确定为所述向量化指令对应的计算数据分配的所述芯片各层级内存的大小,其中,越靠近所述目标芯片的计算核的内存越优先分配;
第三优化策略,用于根据所述目标芯片计算核的数量以及所述目标芯片计算核的计算能力,确定对所述待执行指令向量化时所述目标芯片的计算核的并行度;
第四优化策略,用于根据所述目标芯片的单个计算核的计算能力,确定单条所述向量化指令对应的计算数据量。
6.根据权利要求1-5任一项所述的方法,其特征在于,根据预设的且与所述硬件参数信息对应的优化策略集,确定所述目标芯片的向量化参数的参数值,包括:
基于所述硬件参数信息和所述优化策略集确定所述向量化参数的初始值;
基于所述初始值不断调整所述向量化参数,直至所述目标芯片执行所述向量化指令耗时最小,以得到所述向量化参数的参数值。
7.根据权利要求6所述的方法,其特征在于,不断调整所述初始值的大小,直至所述目标芯片执行所述向量化指令耗时最小,以得到所述向量化参数的参数值,包括:
基于所述初始值单独调整每个向量化参数的数值,直至所述目标芯片执行所述向量化指令耗时最小,以得到每个向量化参数的参数值;或
基于所述初始值同时调整所有向量化参数的数值,直至所述目标芯片执行所述向量化指令耗时最小,以得到每个向量化参数的参数值。
8.根据权利要求1-5任一项所述的方法,其特征在于,根据预设的且与所述硬件参数信息对应的优化策略集,确定所述目标芯片的向量化参数的参数值,包括:
根据所述优化策略集确定一个或多个与所述向量化参数相关的条件函数;
对所述条件函数进行求解,得到所述向量化参数的参数值。
9.根据权利要求1-8任一项所述的方法,其特征在于,所述方法还包括:
基于所述向量化指令对应的计算数据的依赖关系,对所述计算数据进行以下一种或多种操作:循环拆分、循环整合和循环移位。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海商汤智能科技有限公司,未经上海商汤智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110209259.7/1.html,转载请声明来源钻瓜专利网。