[发明专利]一种面向嵌入式应用的深度对抗网络优化方法

权利要求书

1.一种面向嵌入式应用的深度对抗网络优化方法，其特征在于，包括以下步骤：

步骤1：将亚像素卷积神经网络中尺寸为(o*r²，i，k/r，k/r)的卷积层与典型的生成器中尺寸为(o，i，k，k)的反卷积层等效，其中，卷积层和反卷积层的尺寸参数分别对应输出深度、输入深度、卷积核的宽度和卷积核的高度，o为典型的生成器中反卷积层的输出深度，i为典型的生成器中反卷积层的输入深度，k为正整数，r为上采样率，根据卷积层和反卷积层的对应关系，通过亚像素卷积神经网络改进典型的生成式对抗网络模型，并以Swish激活函数替换卷积层的LReLU激活函数，具体方法如下：

步骤1.1：将L维输入向量通过亚像素卷积神经网络中典型的卷积层在低分辨率空间提取特征图，特征图的尺寸参数为d_n@h_n*w_n，卷积核的尺寸为k/r*k/r，其中，d_n为第n个卷积层提取特征图的深度，h_n为第n个卷积层提取特征图的高度，w_n为第n个卷积层提取特征图的宽度，n为亚像素卷积神经网络中卷积层的个数，@为隔离符号，卷积核的宽度和高度均为k/r；

步骤1.2：令卷积核的深度为d_n-1*r²，继续在低分辨率空间提取特征图，此时特征图的尺寸参数为d_n-1*r²@h_n-1*w_n-1；

步骤1.3：令n＝n-1，重复步骤1.2，直到特征图的尺寸参数为d₂*r²@h₂*w₂，其中，d₂*r²、h₂和w₂分别为第2个卷积层提取特征图的深度、高度和宽度，即在低分辨率空间最后一次提取特征图的深度、高度和宽度，d₂为与亚像素卷积神经网络第2个卷积层等效的典型生成器中反卷积层的输出深度；

步骤1.4：利用亚像素卷积神经网络中典型的亚像素卷积层将最终的特征图转换为高分辨率图像，图像的尺寸参数为d₁*r²@h₁*w₁，由此，完成典型生成式对抗网络模型中生成器的改进；

步骤1.5：改进的生成式对抗网络模型中鉴别器依旧采用典型的生成式对抗网络模型中鉴别器，并以Swish激活函数替换卷积层的LReLU激活函数，其输入体的尺寸参数为d₁*r²@h₁*w₁，卷积层的卷积核宽度和高度均为k，各卷积层包含一系列卷积核，并具有和输入体同样的深度，卷积核在输入体宽度和高度方向滑动，计算卷积核与输入体任一位置的点积，进而产生二维特征图，将这些特征图沿着深度方向叠加，得到输出体，输出体的大小由深度、步长和补零来控制，其中，深度控制输出体的深度，即是卷积核的数量，步长控制同一深度的相邻两个隐含单元，与他们相连接的输入区域的距离，补零改变输入单元整体大小，从而控制单元的空间大小；

所述输入体为前一个卷积层输出的特征图；所述输出体为当前卷积层输出的特征图；

步骤2：根据改进的生成式对抗网络模型构建生成式对抗网络系统；所述生成式对抗网络系统包括构成生成器的S个硬件加速器、构成鉴别器的T个硬件加速器以及一个控制模块，其中，S＝T，且每个硬件加速器实现一个卷积层功能，并包括卷积模块和Swish激活函数模块两部分；

步骤3：对构建生成式对抗网络系统进行优化，具体步骤如下：

步骤3.1：对生成式对抗网络系统中每个硬件加速器的卷积模块进行优化，具体步骤如下：

步骤3.1.1：求取生成器各卷积层输入体深度的最大公约数，并将卷积层内侧三环路按照最大公约数分解，设计硬件加速器，并在各硬件加速器的卷积模块重用；

步骤3.1.2：求取鉴别器各卷积层输入体深度的最大公约数，并将卷积层内侧三环路按照最大公约数分解，设计硬件加速器，并在各硬件加速器的卷积模块重用；

步骤3.1.3：各卷积层外侧三层环路综合采用环路交换、硬件平铺和CSD编码方法优化；

步骤3.2：对生成式对抗网络系统中每个硬件加速器模块的Swish激活函数进行优化，具体步骤如下：

步骤3.2.1：当卷积层的输出值介于(-∞，-16)时，将函数值近似为0；

步骤3.2.2：当卷积层的输出值介于(-16，0)区间时，采用查找表的方式求值；

步骤3.2.3：当卷积层的输出值介于(0，2^Q)区间时，其中Q为定标值，将函数值进行等效交换后再采用查找表的方式求解。