[发明专利]一种神经网络芯片的优化方法、系统、设备和存储介质

权利要求书

1.一种神经网络芯片的优化方法，其特征在于，包括：

获取预设的神经网络模型；

将所述神经网络模型编译为第一中间表达，所述第一中间表达包括一个或多个第一计算单元；

根据所述一个或多个第一计算单元在神经网络芯片的运行时间确定所述第一中间表达在所述神经网络芯片的运行总时间；

根据所述运行总时间对所述神经网络芯片的芯片参数进行调整以优化所述神经网络芯片。

2.根据权利要求1所述的方法，其特征在于，所述将所述神经网络模型编译为第一中间表达包括：

将所述神经网络模型转换为基于指令集架构的第二中间表达；

将所述第二中间表达转换为基于数据流架构第一中间表达。

3.根据权利要求2所述的方法，其特征在于，所述将所述第二中间表达转换为基于数据流架构第一中间表达包括：

解析所述第二中间表达以得到一个或多个第二计算单元；

基于预设的数据流架构将所述一个或多个第二计算单元匹配映射为一个或多个第一计算单元；

根据所述一个或多个第一计算单元得到基于数据流架构第一中间表达。

4.根据权利要求1所述的方法，其特征在于，所述将所述神经网络模型编译为第一中间表达之后包括：

基于神经网络芯片的芯片参数对所述第一中间表达进行优化。

5.根据权利要求4所述的方法，其特征在于，所述基于神经网络芯片的芯片参数对所述第一中间表达进行优化包括：

根据所述神经网络芯片的芯片参数确定所述神经网络芯片的计算顺序；

根据所述计算顺序对所述一个或多个第一计算单元进行分类打包。

6.根据权利要求1所述的方法，其特征在于，所述根据所述运行总时间对所述神经网络芯片的芯片参数进行调整以优化所述神经网络芯片包括：

定义一个芯片运行时间公式，所述芯片运行时间公式的输入为所述神经网络芯片的芯片参数，所述芯片运行时间公式的输出为所述运行总时间；

根据所述芯片运行时间公式对所述神经网络芯片的芯片参数进行多次调整直至所述运行总时间达到最快。

7.根据权利要求1所述的方法，其特征在于，所述根据所述运行总时间对所述神经网络芯片的芯片参数进行调整以优化所述神经网络芯片之后包括：

根据所述运行总时间对所述神经网络模型进行调整。

8.一种神经网络芯片的优化系统，其特征在于，包括：

模型获取模块，用于获取预设的神经网络模型；

模型编译模块，用于将所述神经网络模型编译为第一中间表达，所述第一中间表达包括一个或多个第一计算单元；

时间确定模块，用于根据所述一个或多个第一计算单元在神经网络芯片的运行时间确定所述第一中间表达在所述神经网络芯片的运行总时间；

芯片优化模块，用于根据所述运行总时间对所述神经网络芯片的芯片参数进行调整以优化所述神经网络芯片。

9.一种神经网络芯片的优化设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的方法。