[发明专利]一种防止人工智能行为体失控的装置及系统

说明书

本发明公开了一种防止人工智能行为体失控的装置及系统，该装置包括：串口模块、接收模块、能源控制模块、人工智能行为体交互模块、应急处理模块、反摘除模块、容错模块、数据记录模块、监控模块和单向导入模块。本装置串接在人工智能行为体的决策模块和驱动装置之间。采用本发明技术方案，能提高人工智能行为体的安全系数，从根本上防止人工智能行为体，失控或降低人工智能行为体失控时所带来的危害。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种防止人工智能行为体失控的装置及系统。

背景技术

随着人工智能技术的高速发展，人工智能行为体越来越有可能在不远的将来成为人类生活的重要组成部分。人工智能行为体具有高于人类的计算能力，以及强大的逻辑分析能力，能够帮助人类完成各项工作、提高人类生活品质，但同时人类也需要高度重视人工智能行为体失控的潜在威胁。

人工智能行为体主要由感知系统、人工智能决策系统、驱动装置和能源供应系统组成。其中人工智能决策系统相当于人体的大脑，感知系统相当于人体的感知器官，驱动装置相当于人体的躯干和四肢，而能源供应系统则相当于人体的心脏，为人体的各个部分活动行为提供能源。

目前，相关研究领域专家都已认识到人工智能存在巨大风险，并从人工智能安全设计原则、标准规范、道德伦理方面进行呼吁。但是，针对如何设计一个防止人工智能行为体失控的装置、该装置应具备的核心功能和性能指标、该装置的软硬件形态等，目前尚无研究成果。

发明内容

本发明实施例提出一种防止人工智能行为体失控的装置及系统，能提高人工智能行为的安全系数，降低人工智能行为体失控时所带来的危害。

本发明实施例提供一种防止人工智能行为体失控的装置，包括：串口模块、接收模块、能源控制模块、人工智能行为体交互模块、应急处理模块、反摘除模块、容错模块、监控模块和单向导入模块；

其中，所述串口模块用于与所述人工智能行为体的决策系统和驱动装置连接；

所述接收模块用于接收远程设备发送的远程控制命令；

所述能源控制模块用于根据预设配置或所述远程控制命令，对所述人工智能行为体的能源供应设备进行控制；

所述人工智能行为体交互模块用于与所述决策系统和所述驱动装置进行数据和控制交互；

所述应急处理模块用于风险识别和自动报警，以及在所述人工智能行为体交互模块失效后，控制所述决策系统；

所述反摘除模块用于在发生暴力拆除时，毁灭所述人工智能行为体或使其失效；

所述监控模块用于监控或约束所述人工智能行为体的移动范围、速度、距离、输出功率和力；

所述单向导入模块用于读取所述人工智能行为体输入的数据，拒绝外部数据的写入。

进一步的，所述防止人工智能行为体失控的装置还包括：数据记录模块；

所述数据记录模块用于记录所述装置的工作过程、所述人工智能行为体的数据和外部环境数据。

进一步的，所述远程设备发送的远程控制命令包括：操作控制命令、应急响应控制命令、风险分析控制命令、强制停用控制命令和远程销毁控制命令。

进一步的，所述人工智能行为体交互模块还用于根据所述远程控制命令，控制所述人工智能行为体进行自我销毁、恢复出厂设置、停止所有行动、决策系统指令篡改或者能源供应控制。

进一步的，所述应急处理模块在所述人工智能行为体交互模块失效后，控制所述决策系统，具体为：