[发明专利]一种深度神经网络的计算执行方法和系统

权利要求书

1.一种深度神经网络的计算执行方法，其特征在于，包括步骤：

S100构建深度神经网络；

S200初始化深度神经网络；

S300通过计算后端模块执行提交的神经层算法，逐一执行深度神经网络中各神经层模块；

S400通过运行计算后端模块，获取深度神经网络的运算输出结果。

2.根据权利要求1所述的一种深度神经网络的计算执行方法和系统，其特征在于，所述构建深度神经网络，包括步骤：

S101通过神经层模块定义出深度神经网络中的所有隐藏层；

S102根据所要实现的内存管理对象，定义各神经层模块所的输入及输出。

3.根据权利要求2所述的一种深度神经网络的计算执行方法和系统，其特征在于，所述初始化深度神经网络，包括步骤：

S201把预先训练好的深度神经网络，加载到深度神经网络的模型对象中；

S202初始化计算后端模块；

S203加载算法库：将预先编写的算法库分别加载到计算后端模块中；

S204逐一初始化深度神经网络中所有的神经层：选取所需的计算后端模块初始化神经层；

S205逐一初始化深度神经网络中的缓冲区。

4.根据权利要求3所述的一种深度神经网络的计算执行方法和系统，其特征在于，所述神经层模块的运行，包括步骤：

S301参数设置：设置神经层模块的必需参数，加载计算后端模块执行提交的神经层算法，神经层算法所产生的中间结果分配到神经层模块中的中间结果缓冲区；

S302提交：指定神经层模块的输入位置和输出位置，提交到计算后端模块；计算后端模块适时执行算法，计算输出结果。

5.根据权利要求4所述的一种深度神经网络的计算执行方法和系统，其特征在于，所述计算后端模块的运行，包括步骤：

S401初始化：初始化当前系统平台中的所有可用计算资源信息，根据计算资源信息初始化所有运行于该平台的计算后端实现；

S402计算设备选择：向神经层模块提供当前平台上的计算资源信息，并执行相应算法；

S403计算队列创建：在指定的计算设备上创建执行队列；

S404内存分配：在指定的计算设备上创建缓冲区，以及在不同的设备间同步缓冲区内容；

S405算法提取：向神经层模块提供指定设备上的算法实现。

6.一种深度神经网络的计算执行系统，其特征在于，包括神经网络模块、神经层模块和计算后端模块；

所述神经网络模块，包括各种类型的神经层模块，用于描述和执行深度神经网络；

所述神经层模块，对应深度神经网络中的隐藏层概念，按不同的功能与实现算法，分为多种不同类型的神经层模块；由计算后端模块中的算法实现，为计算后端模块提供参数，供计算后端模块生成中间结果；

所述计算后端模块，包括后端上下文、计算设备描述、执行队列、后端内存管理器和后端算法管理器，用于执行神经层算法并输出结果。