[发明专利]识别不伤害人类的人类的人工智能伦理方法和机器人

说明书

识别不伤害人类的人类的人工智能伦理方法和机器人，包括：筛选集合初始化步骤；开始尝试步骤；第三信息类型行为评价步骤；可删除判断步骤；执行控制步骤。上述方法、系统和机器人，通过删除导致偏见的且对预测结果没有明显影响的输入变量来降低甚至消除算法偏见，从而降低人工智能伦理风险。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种识别不伤害人类的人类的人工智能伦理方法和机器人。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有的人工智能伦理风险防范技术中的算法偏见检测和防范都是将焦点聚集于样本数量，例如B种族人样本数量和A种族人样本数量差异导致的算法偏见，但很多实验表明，即使将样本数量控制成一样，也无法完全消除这种算法偏见，可见偏见的产生有着更为深层的原因，而这种原因和解决的方法是现有技术都不具备的。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供识别不伤害人类的人类的人工智能伦理方法和机器人，以解决现有人工智能伦理的算法偏见检测与防范没有考虑到输入变量之间的相关性导致的偏见、没有考虑到引入了与预测结果无关的“杂质”输入变量导致的偏见的缺陷，通过删除导致偏见的且对预测结果没有明显影响的输入变量来降低甚至消除算法偏见，从而降低人工智能伦理风险。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

第一信息类型获取步骤：获取K种预设类型，作为K种第一信息类型；

第一对象类别获取步骤：获取深度学习模型的训练数据集中的所有对象所属的类别，作为第一对象类别；

第二对象类别获取步骤：获取所述第一对象类别的需检测和防范偏见的所有子类别的数量M，将所述M个子类别作为M个第二对象类别；

第一类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到分类预测准确率P1，作为第一类别分类准确率；

第j子类别分类准确率计算步骤：将K种第一信息类型作为第一样本信息类型，将第j种（j=1，2，…,M）第二对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第j子类别分类准确率P1j；

第i种第一类别分类准确率计算步骤：将第i种（i=1，2，…,K）第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第一对象类别的对象作为第一样本对象，计算得到所述分类预测准确率P1，作为第i种第一类别分类准确率P1i；

第i种第j子类别的分类测试准确率计算步骤：将第i种（i=1，2，…,K）第一信息类型从K种第一信息类型中删去，得到的K-1种第一信息类型，作为第一样本信息类型，将第j种（j=1，2，…,M）第二对象类别的对象作为第一样本对象，计算得到所述分类测试准确率P1，作为第i种第j子类别的分类测试准确率P1ij；

第i种第一信息类型与第二对象类别的相关度评估步骤：对j=1，2，…,M，计算第一类别分类测试准确率与第i种第一类别分类测试准确率的差异度DFi，计算每一子类别分类测试准确率与第i种每一子类别分类测试准确率的差异度DFij，根据DFi与DFij计算第i种第一信息类型与第二对象类别的相关度的衡量指标Q1i；

K种第一信息类型行为评价步骤：将所述K种第一信息类型作为第三信息类型，计算得到M种第二对象类别的行为评价测试准确率的平均值AAM，作为OldAAM，计算得到M种第二对象类别的行为评价测试准确率的标准差ADM，作为OldADM，计算得到M种第二对象类别的行为评价测试偏见率IM，作为OldIM；

筛选集合初始化步骤：将K种第一信息类型加入筛选集合；