[发明专利]一种防止人工智能行为体失控的装置及系统

权利要求书

1.一种防止人工智能行为体失控的装置，其特征在于，包括：串口模块、接收模块、能源控制模块、人工智能行为体交互模块、应急处理模块、反摘除模块、容错模块、监控模块和单向导入模块；

其中，所述串口模块用于与所述人工智能行为体的决策系统和驱动装置连接；

所述接收模块用于接收远程设备发送的远程控制命令；

所述能源控制模块用于根据预设配置或所述远程控制命令，对所述人工智能行为体的能源供应设备进行控制；

所述人工智能行为体交互模块用于与所述决策系统和所述驱动装置进行数据和控制交互；

所述应急处理模块用于风险识别和自动报警，以及在所述人工智能行为体交互模块失效后，控制所述决策系统；

所述反摘除模块用于在发生暴力拆除时，毁灭所述人工智能行为体或使其失效；

所述监控模块用于监控或约束所述人工智能行为体的移动范围、速度、距离、输出功率和力；

所述单向导入模块用于读取所述人工智能行为体输入的数据，拒绝外部数据的写入。

2.根据权利要求1所述的防止人工智能行为体失控的装置，其特征在于，还包括：数据记录模块；

所述数据记录模块用于记录所述装置的工作过程、所述人工智能行为体的数据和外部环境数据。

3.根据权利要求1所述的防止人工智能行为体失控的装置，其特征在于，所述远程设备发送的远程控制命令包括：操作控制命令、应急响应控制命令、风险分析控制命令、强制停用控制命令和远程销毁控制命令。

4.根据权利要求3所述的防止人工智能行为体失控的装置，其特征在于，所述人工智能行为体交互模块还用于根据所述远程控制命令，控制所述人工智能行为体进行自我销毁、恢复出厂设置、停止所有行动、决策系统指令篡改或者能源供应控制。

5.根据权利要求4所述的防止人工智能行为体失控的装置，其特征在于，所述应急处理模块在所述人工智能行为体交互模块失效后，控制所述决策系统，具体为：

所述应急处理模块在所述人工智能行为体交互模块失效后，根据所述远程控制命令，控制所述人工智能行为体进行自我销毁、恢复出厂设置、停止所有行动、决策系统指令篡改或者能源供应控制。

6.根据权利要求1所述的防止人工智能行为体失控的装置，其特征在于，所述容错模块为三模表决系统或多模表决系统；

所述三模表决系统包含三个表决单元，三个表决单元同时执行相同的操作，比较三个输出结果，得出所述三模表决系统的输出结果。

7.一种防止人工智能行为体失控的系统，其特征在于，包括：决策系统、驱动装置和如权利要求1至6任一项所述的装置；

其中，所述装置串接在所述决策系统和所述驱动装置之间。