[发明专利]一种神经网络内部特征重要性可视化分析及特征迁移方法

权利要求书

1.一种神经网络内部特征重要性可视化分析及特征迁移方法，其特征在于，包括以下步骤：

步骤1：获取已训练的神经网络模型的特征提取部分，识别其卷积层位置；

步骤2：基于先验知识对数据集进行采样，划分代表性数据子集：

对于共有K类的数据，C_K＝{Ci|i＝0,1,...,K}表示所有类的数据，根据先验知识以及目标大小、方向、类别的目标特性将原数据划分为数据子集C_N＝{Ci|i＝0,1,...,K；K≥N}；

步骤3：数据子集平均化和正则化，获取数据子集标准平均图：

对于数据子集C_N，每个数据子集包含n个数据实例，计算每个数据子集的标准平均图σ为min-max正则化；

步骤4：使用导向反向传播特征可视化方法获取神经网络内部所有神经元针对每张标准平均图的特征可视化图像Ω＝{ω_ilf|i＝0,1,...,N,l＝0,1,...,L,f＝0,1,...,F}；

步骤5：计算特征可视化图像与标准平均图的余弦相似度0,1,...,N,l＝0,1,...,L,f＝0,1,...,F}，获取每个神经元的平均指标相似值；

步骤6：对网络相似值进行层间分析与层内分析：

基于步骤5获取的网络神经元相似度指标，进行神经元、层、网络模块多层次的信息提取能力分析，基于层内与层间相似值波动性、稳定性、梯度变化，对网络进行多角度分析，了解网络拟合程度、泛化程度、过拟合问题；

步骤7：根据层及神经元相似值排序，获取神经元价值排序序列；

步骤8：使用神经网络剪枝算法提取高价值网络模块并进行迁移测试。

2.根据权利要求1所述的神经网络内部特征重要性可视化分析及特征迁移方法，其特征在于，所述步骤2与步骤3中，基于先验知识对数据集进行采样，划分代表性数据子集，并求取标准平均图，包括以下步骤：

步骤2.1：基于目标物体类别、目标大小、目标方向、主体语义内容对数据集进行采样，数据子集采样数量为每个子集20～30张图像，数据子集数量为每个原数据类别包括4个数据子集；

步骤3.1：将数据子集中图像归一化至0-1区间后，计算每个数据子集图像的平均图像，得到平均图；

步骤3.2：计算原数据子集的图像的最大最小值，对平均图进行min-max正则化，获取标准平均图。

3.根据权利要求1所述的神经网络内部特征重要性可视化分析及特征迁移方法，其特征在于，所述步骤4与步骤5中，使用导向反向传播特征可视化方法获取神经网络内部所有神经元针对每张标准平均图的特征可视化图像及其价值指标相似值，包括以下步骤：

步骤4.1：加载网络模型，修改网络反向传播终止位置，使网络获取输入层的梯度信息，修改ReLU层的梯度反向传播过程；

步骤4.2：加载网络卷积层信息，包含卷积层位置，卷积层神经元数量，网络层次信息；

步骤4.3：加载标准平均图，转换为GPU张量形式；

步骤4.4：从浅层至深层遍历网络，基于导向反向传播计算每层每个神经元的特征可视化图像；

步骤5.1：计算特征可视化图像与对应输入的标准平均图的余弦相似值，存储为该神经元的价值指标。