[发明专利]一种人工智能伦理机制实现方法

说明书

本发明公开公开一种人工智能伦理机制实现方法，本方法利用客服人员连续工作条件下的疲劳程度变化规律和客户在排队等待过程中的焦虑程度变化规律，不一味增加对工作人员的行为约束，实现尽可能降低客户焦虑强度的条件下，减轻客服人员的疲劳程度，同时反馈机制能够逐步提升服务人员的自觉性，提升服务质量。

技术领域

本发明涉及一种人工智能技术领域，具体是一种人工智能伦理机制实现方法和装置。

背景技术

随着人工智能技术的发展，机器视觉、语音识别、自然语言理解等智能化技术逐步被用于监督、规范从业人员的行为。很多场所都应用了智能化设备及装置，实现了24小时监督监控，使从业人员的工作行为全时段处于监控公开的状态。基于人工智能的监督监控设备几乎能够及时发现从业人员的所有违规行为，包括离岗、瞌睡、聊天、看手机、吃零食、打架斗殴等，有效改善了管理松懈的现象。

最近几年，这类技术有被过度应用的趋势。例如服务大厅利用智能化设备监督工作人员工作情况，在工作过程中稍有不规范行为即被警告或惩罚，导致工作人员对这类技术的应用有严重的抗拒心理，认为这类应用对工作人员工作行为约束过分严厉，使从业人员精神压抑、工作体验缺乏人性化，人工智能的这类应用有悖伦理规范。

目前学术界对于人工智能伦理问题的讨论和研究正处于起步阶段，相关法律法规也相对缺失。市场上相关智能化产品也都以充分满足管理者监督的需求为目标，没有充分考虑被监督者个人的心理感受和个人隐私等因素。相关领域发明专利也没有考虑人工智能伦理问题。

发明内容

针对现有技术存在的缺陷，本发明提供一种人工智能伦理机制实现装置和方法，为人工智能应用过程中存在的伦理问题提供一种解决途径。

为了解决所述技术问题，本发明采用的技术方案是：一种人工智能伦理机制实现方法，包括以下步骤：

S01）、设定伦理机制实现相关参数，包括工作周期P、时间片数量T、任务队列最大长度Q、完成任务最大数量D、违规次数统计数W、投诉次数统计数B、统计数据遗忘比例因子R和报警阈值K，工作周期P被分割成T个时间片，每个时间片长度为P / T ，不同的时间片、任务队列长度、完成任务数量对应不同的违规次数统计数W、投诉次数统计数B；

S02）、接收刚结束时间片的统计数据X(t, q, d, w, b)，其中t是时间片编号，q是时间片开始时任务队列长度，d是时间片内完成的任务量，w是时间片内违规次数，b是时间片内投诉次数，其中1≤t≤T，0≤q≤Q，0≤d≤D；

S03）、根据步骤S02接收的t、q、d确定它们对应的违规次数统计数W、投诉次数统计数B，然后对违规次数统计数W、投诉次数统计数B做激活处理，将它们变换至(0，1)区间；

S04）、计算输出警戒水平level = Sigmoid(lw + lb – K)，lw、lb分别为违规次数统计数W、投诉次数统计数B激活处理后的结果，输出警戒水平一方面用于输出显示，另一方面用于计算报警判断值；

S05）、结合违规事件、警戒水平和报警阈值计算报警判断值，计算公式为：warning =Sigmoid(e + level – K)，其中warning为报警判断值，e为违规事件分值、level为警戒水平，K为报警阈值；

S06）、如果报警判断warning 0.5 则输出报警信号。

进一步的，所有违规次数统计数W、投诉次数统计数B的初始值均设为浮点数1.0，然后根据时间片统计数据X(t, q, d, w, b)进行更新，更新公式为：

W_after= W_before*R + w*(1-R)，

B_after = B_before*R + b*(1-R)，