[发明专利]一种解释卷积神经网络的可视化方法

权利要求书

1.一种解释卷积神经网络的可视化方法，包括下列步骤：

步骤1：准备卷积神经网络模型M及其训练集S；

步骤2：提取模型M在决策过程中所使用到的全部判定条件，并用C＝{c₁,c₂,...,c_n}表示模型M所有判定条件组成的集合；

步骤3：利用神经元和人类语料库中语义的匹配程度来决定神经元的语义，为集合C中的所有判定条件生成可理解语义，并用集合C_semantics表示，其中，匹配程度的计算方式为：

设某一类语义为X，用S_c表示输入该卷积神经网络的某一类语义图像，其被第l个神经元所激活的图像像素用M_l表示，使用下式得到神经元和该语义的匹配程度值：

总共有六个类别的语义，分别是颜色、纹理、材质、场景、局部和对象，计算六个类别对应的匹配程度值，拥有最高匹配程度值的语义就代表该神经元的语义；

步骤4：使用C_semantics生成决策树T，以决策树T的决策过程作为模型M的决策过程；

步骤5：将决策树T转化为树流图以降低决策树T的复杂度；

步骤6：制作神经元语义视图V_semantic；树流图V_tree-flow中的每一个判定条件都会关联到语义视图V_semantic中和该语义相关的一组图片；

步骤7：制作神经元关系图V_relation；将所有神经元的判定条件根据相似度投影到二维平面上，用于找出被错误标注的语义，投影的方法如下：

1)用x，y分别表示某一个神经元，利用核函数来衡量x和y的相似度，对所有的神经元做相似度计算后，得到语义的聚类结果；

2)保留高维空间中语义的聚类结果，在低维空间中，用T分布将所有神经元重新分布在二维平面上；

步骤8：制作决策数据流图V_decision，以数据驱动方式理解判定条件，显示模型M决策的合理和不合理的证据；

步骤9：以V_tree-flow为主，V_semantic，V_relation，V_decision为辅构建可交互可视化系统；

步骤10：利用该系统分析模型M的决策过程。

2.根据权利要求1所述的可视化方法，其特征在于，步骤2中，提取判定条件的方法如下：

1)输入一个神经元，根据该神经元的权重值聚类到某一个类别中；

2)设置该类别神经元的权重值为该类的权重值均值；

3)消除不影响输出的类别；

4)保持该神经元的权重值始终为其对应类别的均值，使用反向传播寻找最优的偏置；

5)形成该神经元对应的判定条件。

3.根据权利要求1所述的可视化方法，其特征在于，步骤5转化的方法如下：

1)将决策树的节点根据其数据量转化为相应长度的长方形；

2)根据类别划分节点长方形，得到内部“类别小块”；

3)按顺序使用弧线连接父节点和子节点中相同位置的“类别小块”，将决策树就转化为树流图；

4)标识树流图上每一个判定条件的可理解语义。