[发明专利]对编译过程中的向量化进行优化的方法、装置及电子设备

说明书

本申请提供一种对编译过程中的向量化进行优化的方法，所述方法包括：获取目标芯片的硬件参数信息，所述硬件参数信息用于表征所述目标芯片的计算能力；根据预设的且与所述硬件参数信息对应的优化策略集，确定所述目标芯片的向量化参数的参数值；基于所述参数值，将所述目标芯片待执行的指令向量化，得到向量化指令。通过获取芯片的硬件参数信息，并基于芯片的硬件参数信息确定与该芯片匹配的向量化参数，可以最大化利用芯片的计算能力，提高芯片处理指令的速度。

技术领域

本申请涉及数据处理技术领域，尤其涉及一种对编译过程中的向量化进行优化的方法、装置、电子设备及机器可读存储介质。

背景技术

编译器通常用于将指令编译成机器可执行的机器指令，同时还可以对指令进行向量化，即将指令中的循环操作转换为向量或者矩阵的运算，以提高运算效率。由于不同芯片的硬件性能不同，因而编译器在对指令进行向量化时，其最优的向量化方案也不一样。目前的编译器，要么针对特定的芯片实现指令的向量化，要么基于通用芯片的硬件性能，实现指令的向量化，前者存在通用性较差的问题，而后者存在不能充分利用芯片各自的计算性能的缺陷。

发明内容

为克服相关技术中存在的问题，本申请提供了一种对编译过程中的向量化进行优化的方法、装置、电子设备及机器可读存储介质。

根据本申请实施例的第一方面，提供一种对编译过程中的向量化进行优化的方法，所述方法包括：获取目标芯片的硬件参数信息，所述硬件参数信息用于表征所述目标芯片的计算能力；根据预设的且与所述硬件参数信息对应的优化策略集，确定所述目标芯片的向量化参数的参数值；基于所述向量化参数的参数值，将所述目标芯片待执行的指令向量化，得到向量化指令。

在一些实施例中，所述硬件参数信息至少包括以下之一：所述目标芯片的体系结构、所述目标芯片的计算核数量、单个所述计算核的计算能力，其中，所述体系结构包括所述目标芯片的内存模型结构以及所述目标芯片的计算核并行结构。

在一些实施例中，所述获取目标芯片的硬件参数信息，包括：基于预先设置的硬件参数配置表确定所述目标芯片的硬件参数信息，所述硬件参数配置表记录有不同型号的芯片对应的硬件参数；或调用预先配置的硬件参数查询接口获取所述目标芯片的硬件参数信息；或获取用户通过所述目标芯片的硬件参数配置接口配置的硬件参数信息。

在一些实施例中，所述向量化参数包括以下一种或多种：所述目标芯片执行所述向量化指令所采用的并行计算方式，所述并行计算方式包括数据级并行优先的方式或线程级并行优先的方式；所述向量化指令对应的计算数据占用的所述目标芯片各层级内存的大小；所述目标芯片的计算核的并行度；单条所述向量化指令对应的计算数据量。

在一些实施例中，所述优化策略集包括以下一种或多种优化策略：第一优化策略，用于基于所述目标芯片的体系结构，确定所述目标芯片执行所述向量化指令所采用的并行计算方式，所述并行计算方式包括数据级并行优先的方式或线程级并行优先的方式；第二优化策略，用于基于所述目标芯片的各级内存的大小，确定为所述向量化指令对应的计算数据分配的所述芯片各层级内存的大小，其中，越靠近所述目标芯片的计算核的内存越优先分配；第三优化策略，用于根据所述目标芯片计算核的数量以及所述目标芯片计算核的计算能力，确定对所述待执行指令向量化时所述目标芯片的计算核的并行度；第四优化策略，用于根据所述目标芯片的单个计算核的计算能力，确定单条所述向量化指令对应的计算数据量。

在一些实施例中，所述根据预设的且与所述硬件参数信息对应的优化策略集，确定所述目标芯片的向量化参数的参数值，包括：基于所述硬件参数信息和所述优化策略集确定所述向量化参数的初始值；基于所述初始值不断调整所述向量化参数，直至所述目标芯片执行所述向量化指令耗时最小，以得到所述向量化参数的参数值。