[发明专利]模型搜索空间的确定方法、装置及电子设备

说明书

本发明提供了一种模型搜索空间的确定方法、装置及电子设备，涉及深度学习的技术领域，包括：先将目标可分离卷积中的逐通道卷积和点卷积进行融合处理，得到目标等效卷积；然后确定目标等效卷积中逐通道卷积参数和点卷积参数的组合方式，最后基于组合方式对目标等效卷积进行拆分，得到目标卷积模型，以基于目标卷积模型确定模型搜索空间。本发明基于目标等效卷积中逐通道卷积参数和点卷积参数不同的组合方式，可以得到多个不同类型的模型结构，进而得到类型丰富的模型搜索空间。因此本发明可以在模型搜索空间中添加与原有的目标可分离卷积结构类似的多个其他小结构，为搜索算法的有效性提供了保障。

技术领域

本发明涉及深度学习的技术领域，尤其是涉及一种模型搜索空间的确定方法、装置及电子设备。

背景技术

在深度学习领域中，模型结构的设计往往需要耗费大量的人力和时间。为了解决这个技术问题，当前涌现出了很多模型搜索的方法，这些方法能够基于人类设计的模型搜索空间搜索到比人工设计性能更优的模型，且这些搜索算法的有效性与模型搜索空间的性能密切挂钩。目前一般的模型搜索空间具有模型结构固定，质量较差的缺陷，因此无法保证搜索算法的有效性。

发明内容

本发明的目的在于提供一种模型搜索空间的确定方法、装置及电子设备，以缓解了现有技术中存在的一般的模型搜索空间具有模型结构固定，质量较差的缺陷，因此无法保证搜索算法的有效性的技术问题。

第一方面，本发明实施例提供了一种模型搜索空间的确定方法，包括：将目标可分离卷积中的逐通道卷积和点卷积进行融合处理，得到目标等效卷积；确定所述目标等效卷积中逐通道卷积参数和点卷积参数的组合方式，其中，所述组合方式用于确定模型搜索空间中的模型结构类型；基于所述组合方式对所述目标等效卷积进行拆分，得到目标卷积模型，以基于所述目标卷积模型确定模型搜索空间。

进一步地，将所述目标可分离卷积中的逐通道卷积和点卷积进行融合处理，得到目标等效卷积包括：获取所述逐通道卷积的卷积参数和所述点卷积的卷积参数；将所述逐通道卷积的卷积参数和所述点卷积的卷积参数进行融合，得到卷积融合结果，并将基于所述卷积融合结果确定为所述目标等效卷积。

进一步地，将所述逐通道卷积的卷积参数和所述点卷积的卷积参数进行融合，得到卷积融合结果包括：按照预设运算算法将所述逐通道卷积的卷积参数和所述点卷积的卷积参数进行计算，得到目标计算结果；将输入特征图的第t个通道中卷积中心点处的通道值为中心，对所述目标计算结果进行卷积操作，得到多个卷积计算结果；其中，t依次取1至c_in，c_in为所述输入特征图的通道数；将所述多个卷积计算结果进行求和计算，并将求和计算结果确定为所述卷积融合结果。

进一步地，按照预设运算算法将所述逐通道卷积的卷积参数和所述点卷积的卷积参数进行计算，得到目标计算结果：将所述逐通道卷积的卷积参数和所述点卷积的卷积参数进行计算点乘运算，并将点乘运算结果确定为所述目标计算结果。

进一步地，所述逐通道卷积参数和所述点卷积参数为多维参数；确定所述目标等效卷积中逐通道卷积参数和点卷积参数的组合方式包括：确定所述目标等效卷积中逐通道卷积参数和所述点卷积参数的共享方式和/或结合方式，其中，所述共享方式表示多维参数中每个维度的参数的共享信息，且不同共享方式对应不同的模型搜索空间，所述结合方式包括以下任意一种方式：乘法结合方式、加法结合方式和拼接结合方式；将所述共享方式和/或所述结合方式确定为所述组合方式。

进一步地，基于所述组合方式对所述目标等效卷积进行拆分，得到目标卷积模型包括：当所述结合方式为所述乘法结合方式时，基于所述共享方式确定所述逐通道卷积参数和所述点卷积参数中多个维度参数的共享信息对所述目标等效卷积进行拆分，得到目标卷积模型。