[发明专利]基于芯片的指令集处理方法、装置及存储介质

说明书

本发明实施例公开了一种基于芯片的指令集处理方法、装置及计算机可读存储介质，属于数据处理技术领域。方法包括：基于芯片的架构对待加速的深度学习模型进行编译，得到与芯片匹配的待处理的深度学习指令集；对待处理的深度学习指令集进行压缩处理，得到压缩后的指令集；将所述压缩后的指令集通过写寄存器的方式存储至所述芯片的指令集缓冲区中，以用于执行对应的任务。通过对待处理的深度学习指令集进行压缩处理，可以降低对存储空间的需求；将压缩后的指令集通过写寄存器的方式存储至芯片的指令集缓冲区中，实现指令寄存器化，降低指令交互的开销。

技术领域

本发明涉及数据处理技术领域，特别涉及一种基于芯片的指令集处理方法、装置及存储介质。

背景技术

随着深度学习的持续演进以及数据中心体系架构的重大变革，深度学习网络广泛应用在图像分类及检测中，各种深度学习模型也应运而生。然而，由于网络结构复杂、参数过多，计算时间过长使其应用受到了一定的限制。因此，对模型压缩、模型加速成为了深度学习领域比较热门的一个研究方向，而其中非常重要的一项研究就是高效的深度学习指令集的处理机制。

在相关技术中，主要通过编译器将深度学习模型编译成指令集，然后通过直接使用该指令集驱动芯片的各功能模块执行指令对应的任务。

在相关技术中，由于是直接使用指令集驱动芯片的各功能模块执行指令对应的任务，因而指令的交互较为频繁，开销大，特别是对于复杂模型，指令集占用较多存储空间。

发明内容

本发明实施例提供了一种基于芯片的指令集处理方法、装置及计算机可读存储介质，可以解决相关技术中存在的技术问题，具体技术方案如下：

一方面，提供了一种基于芯片的指令集处理方法，所述方法包括：

基于芯片的架构对待加速的深度学习模型进行编译，得到与所述芯片匹配的待处理的深度学习指令集；

对所述待处理的深度学习指令集进行压缩处理，得到压缩后的指令集；

对所述压缩后的指令集进行译码，得到译码后的指令信息；

将所述压缩后的指令集通过写寄存器的方式存储至所述芯片的指令集缓冲区中，以用于执行对应的任务。

一方面，提供了一种基于芯片的指令集处理方法，所述方法包括：

获取任务处理请求；

根据所述任务处理请求从芯片的指令集缓冲区中获取压缩后的指令集；

对所述压缩后的指令集进行译码，得到译码后的指令信息；

将所述译码后的指令信息进行寄存器的寄存更新操作；

根据寄存更新操作控制对应的功能模块执行所述指令信息对应的任务。

一方面，还提供了一种基于芯片的指令集处理装置，所述装置包括：

模型指令编译模块，用于基于芯片的架构对待加速的深度学习模型进行编译，得到与所述芯片匹配的待处理的深度学习指令集；

指令集压缩模块，用于对所述待处理的深度学习指令集进行压缩处理，得到压缩后的指令集；

指令集缓存模块，用于将所述压缩后的指令集通过写寄存器的方式存储至所述芯片的指令集缓冲区中，以用于执行对应的任务。

一方面，提供了一种基于芯片的指令集处理装置，所述装置包括：

第一获取模块，用于获取任务处理请求；

第二获取模块，用于根据所述任务处理请求从指令集缓冲区中获取压缩后的指令集；

指令集译码模块，用于对所述压缩后的指令集进行译码，得到译码后的指令信息；