[发明专利]信息处理系统、信息处理设备和非暂时性计算机可读介质

说明书

信息处理系统、信息处理设备和非暂时性计算机可读介质。根据一个实施方式，一种信息处理系统包括故障检测器、第一故障处置单元和第二故障处置单元。故障检测器检测已发生故障的任何推理处理设备。第一故障处置单元使得已发生故障的推理处理设备以外的另一推理处理设备执行所述已发生故障的推理处理设备的推理过程。第二故障处置单元将已发生故障的推理处理设备的前级的推理过程的结果输入到所述另一推理处理设备并且将所述另一推理处理设备基于输入的推理结果生成的推理结果输出到所述已发生故障的推理处理设备的后级的推理处理设备。

技术领域

本文所描述的实施方式总体上涉及信息处理系统、信息处理设备和非暂时性计算机可读介质。

背景技术

具有预先通过机器学习而生成的学习模型的推理处理设备可以使用学习模型来执行各种推理过程。

关于推理处理，存在流水线处理型设备配置，其中多个推理处理设备并联连接，并且例如后级的推理处理设备使用前级的推理处理设备所执行的推理过程的结果来执行推理过程。

然而，在上述流水线处理型设备配置中，当推理过程的多个级当中的任何级中发生故障时，一系列推理过程中断，因此无法输出作为最终结果的推理结果，缺乏可用性。

发明内容

根据本公开的一个方面，一种信息处理系统包括多个推理处理设备、控制器、故障检测器、第一故障处置单元和第二故障处置单元。控制器使得推理处理设备执行具有不同处理任务的各个推理过程，并且所述控制器控制推理处理设备的输入和输出以使得后级的推理处理设备使用前级的推理处理设备所执行的推理过程的推理结果来执行推理过程。故障检测器检测已发生故障的任何推理处理设备。在故障检测器检测到故障的发生的情况下，第一故障处置单元使得所述已发生故障的推理处理设备以外的另一推理处理设备执行所述已发生故障的推理处理设备所执行的推理过程。第二故障处置单元将通过所述已发生故障的推理处理设备的前级的推理过程导出的推理结果输入到所述另一推理处理设备并且将所述另一推理处理设备基于输入的推理结果生成的推理结果输出到所述已发生故障的推理处理设备的后级的推理处理设备。

根据本公开的另一方面，一种信息处理设备可连接到多个推理处理设备并且包括控制器、故障检测器、第一故障处置单元和第二故障处置单元。控制器使得推理处理设备执行具有不同处理任务的各个推理过程并且所述控制器控制推理处理设备的输入和输出以使得后级的推理处理设备使用前级的推理处理设备所执行的推理过程的推理结果来执行推理过程。故障检测器检测已发生故障的任何推理处理设备。在故障检测器检测到故障的发生的情况下，第一故障处置单元使得已发生故障的推理处理设备以外的另一推理处理设备执行所述已发生故障的推理处理设备所执行的推理过程。第二故障处置单元将通过所述已发生故障的推理处理设备的前级的推理过程导出的推理结果输入到所述另一推理处理设备并且将所述另一推理处理设备基于输入的推理结果生成的推理结果输出到所述已发生故障的推理处理设备的后级的推理处理设备。

根据本公开的另一方面，一种非暂时性计算机可读介质存储已编程的指令，所述指令在由可连接到多个推理处理设备的信息处理设备的计算机执行时使得所述计算机作为控制器、故障检测器、第一故障处置单元和第二故障处置单元执行。控制器使得推理处理设备执行具有不同处理任务的各个推理过程并且所述控制器控制推理处理设备的输入和输出以使得后级的推理处理设备使用前级的推理处理设备所执行的推理过程的推理结果来执行推理过程。故障检测器检测已发生故障的任何推理处理设备。在故障检测器检测到故障的发生的情况下，第一故障处置单元使得已发生故障的推理处理设备以外的另一推理处理设备执行所述已发生故障的推理处理设备所执行的推理过程。第二故障处置单元将通过所述已发生故障的推理处理设备的前级的推理过程导出的推理结果输入到所述另一推理处理设备并且将所述另一推理处理设备基于输入的推理结果生成的推理结果输出到所述已发生故障的推理处理设备的后级的推理处理设备。

附图说明

图1是根据实施方式的信息处理系统的示例性硬件配置的图；