[发明专利]一种神经网络模型确定方法及装置

说明书

本申请实施例提供了一种神经网络模型确定方法及装置，其中，神经网络模型确定方法包括：获取目标任务的任务配置参数、训练资源的资源配置参数、模型设计配置参数以及模型压缩配置参数；基于任务配置参数、资源配置参数及模型设计配置参数，生成针对目标任务的初始神经网络模型；根据模型压缩配置参数，选择相应的预设压缩方式，对初始神经网络模型进行压缩处理，得到待部署的神经网络模型。通过本方案，可以提高神经网络模型确定过程中的开发效率。

技术领域

本申请涉及机器学习技术领域，特别是涉及一种神经网络模型确定方法及装置。

背景技术

神经网络作为机器学习研究中的一个新兴领域，通过模仿人脑的机制来解析数据，是一种通过建立和模拟人脑进行分析学习的智能模型。神经网络在计算机视觉、语音识别、机器人控制等领域已经取得了巨大成功，通过多个网络层的逐层运算，可以提取出目标的特征信息，从而实现智能跟踪、智能检索等功能，因此，神经网络逐渐成为了现代人工智能的基石。

然而，神经网络模型的确定过程十分复杂，从初始设计神经网络模型到最终确定可在设备端部署的神经网络模型的过程耗时较大，通常需要人工干预，通过人工验证的方式，对神经网络模型进行大量的模型验证、模型调试等工作，导致神经网络模型确定过程中的开发效率较低。

发明内容

本申请实施例的目的在于提供一种神经网络模型确定方法及装置，以提高神经网络模型确定过程中的开发效率。具体技术方案如下：

第一方面，本申请实施例提供了一种神经网络模型确定方法，所述方法包括：

获取目标任务的任务配置参数、训练资源的资源配置参数、模型设计配置参数以及模型压缩配置参数；

基于所述任务配置参数、所述资源配置参数及所述模型设计配置参数，生成针对所述目标任务的初始神经网络模型；

根据所述模型压缩配置参数，选择相应的预设压缩方式，对所述初始神经网络模型进行压缩处理，得到待部署的神经网络模型。

可选的，所述任务配置参数，包括：任务类型；所述资源配置参数，包括：训练数据以及算力资源；

所述基于所述任务配置参数、所述资源配置参数及所述模型设计配置参数，生成针对所述目标任务的初始神经网络模型，包括：

根据所述模型设计配置参数，确定神经网络模型的搜索空间及搜索策略；

根据所述任务类型及所述算力资源，从所述搜索空间中，确定神经网络模型的各网络层内部初始结构及网络层间初始结构，并从所述搜索策略中，确定各网络层内部训练方式及网络层间训练方式；

从所有训练数据中提取预设数量的训练数据，组成小数据集；

根据各网络层内部初始结构，基于所述小数据集，采用对应的网络层内部训练方式，训练得到各网络层内部结构模型；

根据所述网络层间初始结构，连接各网络层内部结构模型，得到待训练神经网络模型；

根据所述待训练神经网络模型，基于大数据集，采用所述网络层间训练方式，训练得到初始神经网络模型，其中，所述大数据集包括所有训练数据。

可选的，所述根据所述模型压缩配置参数，选择相应的预设压缩方式，对所述初始神经网络模型进行压缩处理，得到待部署的神经网络模型，包括：

对所述初始神经网络模型进行知识迁移，得到待压缩神经网络模型；

根据所述模型压缩配置参数，选择相应的预设压缩方式；

根据所述预设压缩方式，对所述初始神经网络模型进行模型压缩自适应分析，得到压缩量；