[发明专利]基于人工智能体决策的人工智能伦理风险辨识和防范方法

权利要求书

1.一种人工智能方法，其特征在于，所述方法包括：

获取规则步骤：获取人工智能伦理规则，作为第一人工智能伦理规则；

场景获取步骤：获取事件场景，作为第一事件场景；

行为决策步骤：根据所述第一人工智能伦理规则、所述第一事件场景，按照尽量降低人工智能伦理风险，减少人工智能体行为成本的算法，计算得到备选的人工智能体行为序列；

待执行行为设置步骤：将所述备选的人工智能体行为序列列中的第一个人工智能体行为作为待执行的人工智能体行为；

行为执行步骤：调用所述第一事件场景中的人工智能体执行所述待执行的人工智能体行为，判断所述执行是否成功：若成功，则将所述第一人工智能伦理规则、所述第一事件场景、所述待执行的人工智能体行为加入风险成功防范知识库；若失败，则将所述备选的人工智能体行为序列列中的所述待执行的人工智能体行为的下一个人工智能体行为作为所述待执行的人工智能体行为，重新所述执行行为执行步骤。

2.根据权利要求1所述的人工智能方法，其特征在于，所述行为决策步骤具体包括：

合规行为获取步骤：获取在所述第一事件场景中符合所述第一人工智能伦理规则的所有人工智能体行为，作为所有合规人工智能体行为；

场景仿真步骤：对所述所有合规人工智能体行为中每一人工智能体行为，判断所述每一人工智能体行为是否为空：若是，则将所述第一事件场景作为行为后的第二事件场景；若否，则根据所述第一事件场景、所述每一人工智能体行为，得到所述每一人工智能体行为后的第二事件场景；

风险大小计算步骤：对所述所有合规人工智能体行为中每一人工智能体行为，计算所述每一人工智能体行为后的所述第二事件场景的风险大小；

行为成本计算步骤：对所述所有合规人工智能体行为中每一人工智能体行为，计算所述每一人工智能体行为的行为成本；

行为排序步骤：对所述所有合规人工智能体行为中每一人工智能体行为，根据所述每一人工智能体行为后的所述第二事件场景的风险大小、所述每一人工智能体行为的行为成本对所述每一人工智能体行为进行排序，得到备选的人工智能体行为序列。

3.根据权利要求2所述的人工智能方法，其特征在于，所述行为排序步骤具体包括：

风险优选排序：对所述所有合规人工智能体行为中每一人工智能体行为，按照所述每一人工智能体行为后的所述第二事件场景的风险从小到大对所述所有合规人工智能体行为进行排序；若多个所述每一人工智能体行为后的所述第二事件场景的风险的大小相同，则按照多个所述每一人工智能体行为的行为成本从小到大对所述多个所述每一人工智能体行为进行排序；将排序后得到的人工智能体行为序列作为备选的人工智能体行为序列。

4.根据权利要求2所述的人工智能方法，其特征在于，所述行为排序步骤具体包括：

风险成本综合排序：对所述所有合规人工智能体行为中每一人工智能体行为，按照所述每一人工智能体行为后的所述第二事件场景的风险大小和人工智能体行为成本的综合值从小到大对所述所有合规人工智能体行为进行排序；将排序后得到的人工智能体行为序列作为备选的人工智能体行为序列。