[发明专利]一种人工智能伦理机制实现方法

权利要求书

1.一种人工智能伦理机制实现方法，其特征在于：包括以下步骤：

S01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P / T ，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；

S02）、接收刚结束时间片的统计数据X(t, q, d, w, b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；

S03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；

S04）、计算输出警戒水平level = Sigmoid(lw + lb – K)，lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果，输出警戒水平一方面用于输出显示，另一方面用于计算报警判断值；

S05）、结合违规事件、警戒水平和报警阈值计算报警判断值，计算公式为：warning =Sigmoid(e + level – K)，其中warning为报警判断值，e为违规事件分值、level为警戒水平，K为报警阈值；

S06）、如果报警判断warning 0.5，则输出报警信号。

2.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于：所有违规次数统计数W、投诉次数统计数B的初始值均设为浮点数1.0，然后根据时间片统计数据X(t, q, d,w, b)进行更新，更新公式为：

W_after= W_before*R + w*(1-R)，

B_after= B_before*R + b*(1-R)，

其中W_after、B_after表示更新后的违规次数统计数、投诉次数统计数，W_before、B_before表示更新前的违规次数统计数、投诉次数统计数。

3.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于：步骤S03中，利用Sigmoid函数对违规次数统计数W、投诉次数统计数B做激活处理，计算公式为：

lw = Sigmoid(W – 0.5)，

lb = Sigmoid(B– 0.5)，

lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果。

4.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于： P=8小时， T=16，Q=100，Q=D，R=0.9，K=0.5。

5.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于：不同违规事件对应的违规事件分值e不同，0≤e≤1。

6.根据权利要求1所述的人工智能伦理机制实现方法，其特征在于：步骤S04中，显示警戒水平的同时显示报警阈值。

7.一种人工智能伦理机制实现装置，其特征在于：包括系统管理接口、区间数据输入接口、违规事件输入接口、违规输出报警接口、区间数据更新单元、区间累计数据存储单元、区间累计数据读取单元、警示逻辑单元、警戒水平显示接口和报警逻辑单元，系统管理接口与区间累计数据存储单元相连，区间数据输入接口一路连接至区间数据更新单元，另一路连接至区间累计数据读取单元，区间数据更新单元又通过区间累计数据存储单元连接至区间累计读取单元，区间累计读取单元的输出端连接至警示逻辑单元，警示逻辑单元的输出端一路连接至警戒水平显示接口，另一路连接至报警逻辑单元，报警逻辑单元的输入端又连接违规事件输入接口，输出端连接违规输出报警接口。

8.根据权利要求7所述的人工智能伦理机制实现方法，其特征在于：区间累计读取单元的输出端又回连至区间数据更新单元。