[发明专利]一种可编程人工智能加速器执行单元及人工智能加速方法

说明书

本本发明公开了一种可编程人工智能加速器执行单元及人工智能加速方法，所述执行单元包括：编码模块、解码模块、数据执行分配模块、执行模块。本发明方法根据所述控制信息执行相应的运算操作，并输出执行结果。本发明可编程人工智能加速器执行单元及人工智能加速方法，基于获取的人工智能加速程序指令，可以根据运行该指令所需要算力的大小进行分类编码，并分配到不同的执行模块进行执行动作，最终将输出结果进行合成运算并输出，有效的缓解了当新的人工智能算法出现时，原有的人工智能加速器硬件已经无法高效适配新的算法加速的情况，有效的保证了硬件算力的充分利用并降低了更新换代的频次，进而有效降低了成本。

技术领域

本发明涉及一种可编程人工智能加速器，具体是一种可编程人工智能加速器执行单元及人工智能加速方法。

背景技术

随着大数据、人工智能技术的快速发展，传统的中央处理器CPU的运算处理能力已经无法满足人工智能运算的处理需求，业内处理器厂商开始研发专用的人工智能加速器用于人工智能算法加速。

现有的人工智能加速器大多使用ASIC专用集成电路设计方法进行设计，根据这种方法设计的人工智能加速器通常用于特定的人工智能算法加速。然而，随着人工智能技术在各领域的普遍应用，作为人工智能技术基础的机器学习算法、尤其是深度学习算法也是多种多样。为了使得一种人工智能加速器能够支持多种人工智能算法的运算加速，现有的一种方案是从功能的角度提取人工智能算法的通用逻辑，通过硬件控制，使得多种人工智能算法可以在相同的硬件逻辑上运行，从而达到一款ASIC人工智能加速器可以实现对多种人工智能算法进行加速的目的。例如，可以将人工智能算法抽象为矩阵乘法(MatrixMultiply)、激活(Activation)和规范化/池化(Normalize/Pool)三种基本功能操作，结合硬件控制达到用一种人工智能加速器实现多种人工智能算法的目的。

但是，这种方法是从功能的角度对常用的人工智能算法进行抽象，而不同的人工智能算法对硬件的利用率不同，这种抽象方法必然会导致一部分硬件对一些人工智能算法是冗余的，而对其它人工智能算法却是不足的。此外，通过ASIC思路设计的人工智能加速器执行单元只能按照固定的流程执行人工智能算法。随着人工智能算法的不断研究，各种算法也在不断发展演进，当新的人工智能算法出现时，原有的人工智能加速器硬件已经无法高效适配新的算法加速，从而导致硬件的算力浪费和成本上升。

发明内容

本发明的目的在于提供一种可编程人工智能加速器执行单元及人工智能加速方法，以解决上述背景技术中提出的问题。

为实现上述目的，本发明提供如下技术方案：

一种可编程人工智能加速器执行单元，包括：

编码模块，用于获取人工智能加速程序指令，并根据运行该指令所需要算力的大小进行分类编码；

解码模块，根据上述分类编码的结果，对编码后的所述人工智能加速程序指令进行解码，生成程序执行需要的控制信息；

数据执行分配模块，根据所述分类编码结果，将所述控制信息分配到不同的执行模块；

执行模块，根据所述控制信息执行相应的运算操作，并输出执行结果。

作为本发明的一个优选方案，本发明还提供一种可编程人工智能加速器执行单元，包括：

编码模块，用于获取人工智能加速程序指令，并根据运行该指令所需要算力的大小进行分类编码；

解码模块，根据上述分类编码的结果，对编码后的所述人工智能加速程序指令进行解码，生成程序执行需要的控制信息；

数据分割模块，用于将所述控制信息根据运行指令所需要算力的大小分割成若干个可以单独运行的子控制信息；

数据执行分配模块，根据所述分类编码结果，将所述分割后的子控制信息分配到不同的执行模块；

执行模块，根据所述子控制信息执行相应的运算操作，并输出执行结果；

合成模块，将所述输出的执行结果进行合成运算并输出。