[发明专利]使用神经网络

权利要求书

1.一种用于使用由一层或多层神经元形成的神经网络的计算机实施的方法，所述方法包括：

使用所述神经网络来处理第一神经网络输入以产生第一神经网络输出；

使用所述神经网络来处理第二神经网络输入以产生第二神经网络输出；

确定第一相似性指标，所述第一相似性指标指示所述第一神经网络输出与所述第二神经网络输出之间的相似性水平；

选择所述神经网络的一个或多个神经元的集合，所述神经元的集合是所述神经网络的单个层的神经元的子集；

当使用所述神经网络来处理所述第一神经网络输入时，确定每个选定的神经元的激活值，从而产生第一激活值集合；

当使用所述神经网络来处理所述第二神经网络输入时，确定每个选定的神经元的激活值，从而产生第二激活值集合；

确定第二相似性指标，所述第二相似性指标指示所述第一激活值集合与对应的第二激活值集合之间的相似性水平；并且

确定是以下两种情况中的哪种情况：

所述第一相似性指标指示高于第一预定阈值的相似性水平并且所述第二相似性指标指示低于第二预定阈值的相似性水平；或者

所述第一相似性指标指示低于第三预定阈值的相似性水平并且所述第二相似性指标指示高于第四预定阈值的相似性水平，

从而预测所述神经网络是否已经不准确地处理了所述第一神经网络输入和所述第二神经网络输入中的一个。

2.根据权利要求1所述的计算机实施的方法，其中：

使用所述神经网络来处理第一神经网络输入的步骤包括：将所述第一神经网络输入分类成类别，所述类别是所述第一神经网络输出；

使用所述神经网络来处理第二神经网络输入的步骤包括：将所述第二神经网络输入分类成类别，所述类别是所述第二神经网络输出；

确定第一相似性指标的步骤包括：生成识别所述第一神经网络输入的类别与所述第二神经网络输入的类别是否相同的第一相似性指标；并且

预测是否已经不准确地处理了所述第一神经网络输入和所述第二神经网络输入中的一个的步骤包括：确定是以下两种情况中的哪种情况：

所述第一相似性指标指示所述第一神经网络输入的类别与所述第二神经网络输入的类别相同并且所述第二相似性指标指示低于第二预定阈值的相似性水平；或者

所述第一相似性指标指示所述第一神经网络输入的类别与所述第二神经网络输入的类别不同并且所述第二相似性指标指示高于第四预定阈值的相似性水平，

从而预测所述神经网络是否已经对所述第一神经网络输入和所述第二神经网络输入中的一个进行了不准确的分类。

3.根据权利要求1或2中的任一项所述的计算机实施的方法，其中，所述神经元的集合包括同一层的至少两个神经元。

4.根据权利要求3所述的计算机实施的方法，其中，确定第二相似性指标的步骤包括计算所述第一值集合与所述第二值集合之间的多维距离。

5.根据权利要求5所述的计算机实施的方法，其中，所述第二预定阈值和所述第四预定阈值是预定阈值距离。

6.根据权利要求1至5中的任一项所述的计算机实施的方法，其中，选择一个或多个神经元的集合的步骤包括：当所述神经网络用于处理所述第一神经网络输入时，在同一层中选择具有在预定的激活值范围之外的激活值的一个或多个神经元。

7.根据权利要求1至5中的任一项所述的计算机实施的方法，其中，选择一个或多个神经元的集合的步骤包括：当所述神经网络用于处理所述第二神经网络输入时，在同一层中选择具有在预定的激活值范围之外的激活值的一个或多个神经元。