[发明专利]基于集成Jetson Nano域控制器运行神经网络的优化算法

说明书

本发明涉及神经网络优化技术领域，具体涉及基于集成Jetson Nano域控制器运行神经网络的优化算法，具体步骤包括S1：将待优化的神经网络模型中不重要的连接剪裁掉；S2：对剪裁后的待优化的神经网络模型的连接权重进行INT8参数量化；S3：压缩编码：采用霍夫曼编码算法将量化后的连接权重进行压缩；S4：部署测试：分别计算优化后的神经网络模型的精度和原来待优化的神经网络模型的精度，精度下降在合理范围内，则无需重新剪裁。采用本发明的优化算法对神经网络模型进行优化，本发明可以去除神经网络模型的冗余参数，神经网络模型参数大小能够很大幅度的减少，并且神经网络模型的FPS性能得以显著提高，也能提高神经网络的运行速度，提高神经网络模型的训练效率。

技术领域

本发明涉及神经网络优化技术领域，具体涉及基于集成Jetson Nano域控制器运行神经网络的优化算法。

背景技术

目前的神经网络算法存在以下弊端：

(1)算法参数复杂度高：运行神经网络算法模型需要消耗非常高的硬件服务器资源；

(2)神经网络训练非常耗时：现如今无论是何种类型的神经网络算法，在其训练过程中都需要一个长时间的训练，最后才能得到合适的模型，这就会导致最后所需的时间成本上升。

(3)在没有GPU资源环境下执行效率低：现有的神经网络训练都是利用GPU显卡资源进行运算，但是在没有GPU资源或者GPU资源不够强大的移动平台上的执行效率就大打折扣。

发明内容

为了解决上述问题，本发明提供了基于集成Jetson Nano域控制器运行神经网络的优化算法，具体技术方案如下：

基于集成Jetson Nano域控制器运行神经网络的优化算法，包括以下步骤：

S1：剪裁：在服务器上对待优化的神经网络模型进行训练，将待优化的神经网络模型中不重要的连接剪裁掉，得到剪裁后的待优化的神经网络模型；

S2：量化：对剪裁后的待优化的神经网络模型的连接权重进行INT8参数量化；

S3：压缩编码：采用霍夫曼编码算法将量化后的连接权重进行压缩，得到优化后的神经网络模型；

S4：测试：采用集成jetson Nano的域控制器分别对优化后的神经网络模型和原来待优化的神经网络模型进行训练，计算优化后的神经网络模型的精度和原来待优化的神经网络模型的精度，若优化后的神经网络模型的精度比原来待优化的神经网络模型的精度下降超过2％，则重新对待优化的神经网络模型进行剪裁，直到优化后的神经网络模型的精度比原来待优化的神经网络模型的精度下降小于2％为止，如此得到最终优化后的神经网络模型。

优选地，所述不重要的连接的确定方法为：

(1)计算待优化的神经网络模型中每一层网络每个连接的连接权重；

(2)对每一层网络的连接权重按照降序的方式进行排序；

(3)每一层网络的连接权重排在后20％的连接为改层网络的不重要的连接。

优选地，所述步骤(1)中采用Hessian算法来计算每个连接的连接权重。

优选地，所述步骤S4是将优化后的神经网络模型转换为二进制的形式，并将二进制的优化后的神经网络模型进行上传至集成jetson Nano的域控制器进行测试。

优选地，所述步骤S4中还包括将优化后的神经网络模型采用TensorRT框架进行转换成二进制的形式。

本发明的有益效果为：采用本发明的优化算法对神经网络模型进行优化，本发明可以去除神经网络模型的冗余参数，神经网络模型参数大小能够很大幅度的减少，并且神经网络模型的FPS性能得以显著提高，也能提高神经网络的运行速度，提高神经网络模型的训练效率。