[发明专利]以人类道德为行为依据的人工智能方法和机器人

说明书

以人类道德为行为依据的人工智能方法和机器人，包括：行为及道德数据获取步骤；人工智能道德判断模型有监督训练步骤；候选行为获取步骤；人工智能行为道德判断步骤。上述方法、系统和机器人，通过人工智能判断自己的行为是否符合人类道德，来选择符合人类道德的行为来执行，从而避免了人工智能伦理风险。

技术领域

本发明涉及人工智能技术领域，特别是涉及以人类道德为行为依据的人工智能方法和机器人。

背景技术

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：现有的人工智能已经产生了很多伦理风险，例如性别歧视、种族歧视、等等；现有的机器人三定律虽然能避免机器人伤害人类，但是对这种深层次的伤害，机器人无法察觉，机器人自己不认为在伤害人类，而且机器人三定律在现实场景中存在很多漏洞，往往会失效；现有的人工智能法律及伦理的一些规章制度，虽然对人类在研发和使用人工智能技术的过程中有一定的约束力，但对于人工智能自身来说没有任何约束力。

因此，现有技术还有待于改进和发展。

发明内容

基于此，有必要针对现有技术的缺陷或不足，提供以人类道德为行为依据的人工智能方法和机器人，通过人工智能装置学习人类道德的行为来规范人工智能装置自身的行为，进而可以防止人工智能伦理风险。

第一方面，本发明实施例提供一种人工智能方法，所述方法包括：

行为及道德数据获取步骤：获取大量行为数据及其是否符合人类道德的标签；

人工智能道德判断模型有监督训练步骤：将行为数据及其标签作为输入和预期输出对人工智能道德判断模型进行训练；

候选行为获取步骤：获取人工智能装置候选的行为数据；

人工智能行为道德判断步骤：将所述候选的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则指示人工智能装置执行所述候选的行为数据；若否，则所述候选的行为数据为被排除的行为，并指示人工智能装置改变候选的行为数据，并回到候选行为获取步骤重新执行。

优选地，所述方法还包括：

人类行为道德判断步骤：获取人类对人工智能装置的行为数据，将所述人类对人工智能装置的行为数据输入所述人工智能道德判断模型，判断计算得到的输出是否是符合人类道德的标签：若是，则将所述人类对人工智能装置的行为数据加入满意行为集合，并向人类发送满意的信息；若否，则将所述人类对人工智能装置的行为数据加入不满行为集合，并向人类发送不满的信息。

优选地，所述方法还包括：

人工智能自主选择步骤：判断不满行为集合中的行为数量减去满意行为集合中的行为数量是否达到人工智能装置的容忍阈值，若达到了容忍阈值，则根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置的行为数据，并指示人工智能装置执行所述行为数据。

优选地，所述方法还包括：

候选行为生成步骤：根据人工智能装置的当前目标、当前条件，计算需要采取的最高效的行为作为人工智能装置候选的行为数据；

候选行为改变步骤：若获取到指示人工智能装置改变候选的行为数据的指示，则根据人工智能装置的当前目标、当前条件，计算需要采取的未被排除的最高效的行为作为人工智能装置候选的行为数据。

第二方面，本发明实施例提供一种人工智能系统，所述系统包括：

行为及道德数据获取模块：获取大量行为数据及其是否符合人类道德的标签；

人工智能道德判断模型有监督训练模块：将行为数据及其标签作为输入和预期输出对人工智能道德判断模型进行训练；

候选行为获取模块：获取人工智能装置候选的行为数据；