[发明专利]基于人工智能体决策的人工智能伦理风险辨识和防范方法

说明书

基于人工智能体决策的人工智能伦理风险辨识和防范方法，包括：获取规则步骤；场景获取步骤；行为决策步骤；待执行行为设置步骤；行为执行步骤。上述方法、系统和机器人，根据事件场景和人工智能伦理行为规则来进行行为决策，并且在符合人工智能伦理规则的人工智能体备选行为中选取人工智能伦理尽量小的人工智能体备选行为进行执行，使得人工智能体行为后的事件场景的人工智能伦理风险最小，起到了人工智能伦理风险高效辨识和防范的作用。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种基于人工智能体决策的人工智能伦理风险辨识和防范方法。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有的人工智能机器人或装置或系统等人工智能体在行动时一般都只考虑是否能完成任务、效率是否最高，很少考虑是否符合人工智能伦理规则，更极少考虑是否会产生人工智能伦理风险，缺少人工智能伦理风险防范方法。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供基于人工智能体决策的人工智能伦理风险辨识和防范方法，以解决现有技术中人工智能体在进行行为决策时对人工智能伦理风险缺乏辨识和防范的问题。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

获取规则步骤：获取人工智能伦理规则，作为第一人工智能伦理规则；

场景获取步骤：获取事件场景，作为第一事件场景；

行为决策步骤：根据所述第一人工智能伦理规则、所述第一事件场景，按照尽量降低人工智能伦理风险，减少人工智能体行为成本的算法，计算得到备选的人工智能体行为序列；

待执行行为设置步骤：将所述备选的人工智能体行为序列列中的第一个人工智能体行为作为待执行的人工智能体行为；

行为执行步骤：调用所述第一事件场景中的人工智能体执行所述待执行的人工智能体行为，判断所述执行是否成功：若成功，则将所述第一人工智能伦理规则、所述第一事件场景、所述待执行的人工智能体行为加入风险成功防范知识库；若失败，则将所述备选的人工智能体行为序列列中的所述待执行的人工智能体行为的下一个人工智能体行为作为所述待执行的人工智能体行为，重新所述执行行为执行步骤。

在其中一个优选实施例中，所述行为决策步骤具体包括：

合规行为获取步骤：获取在所述第一事件场景中符合所述第一人工智能伦理规则的所有人工智能体行为，作为所有合规人工智能体行为；

场景仿真步骤：对所述所有合规人工智能体行为中每一人工智能体行为，判断所述每一人工智能体行为是否为空：若是，则将所述第一事件场景作为行为后的第二事件场景；若否，则根据所述第一事件场景、所述每一人工智能体行为，得到所述每一人工智能体行为后的第二事件场景；

风险大小计算步骤：对所述所有合规人工智能体行为中每一人工智能体行为，计算所述每一人工智能体行为后的所述第二事件场景的风险大小；

行为成本计算步骤：对所述所有合规人工智能体行为中每一人工智能体行为，计算所述每一人工智能体行为的行为成本；

行为排序步骤：对所述所有合规人工智能体行为中每一人工智能体行为，根据所述每一人工智能体行为后的所述第二事件场景的风险大小、所述每一人工智能体行为的行为成本对所述每一人工智能体行为进行排序，得到备选的人工智能体行为序列。

在其中一个优选实施例中，所述行为排序步骤具体包括：