[发明专利]对采用人工智能的系统进行防护

权利要求书

1.一种装置，包括：

电路；以及

耦合到所述电路的存储器，存储器存储指令，所述指令在由所述电路执行时使所述电路：

从输入设备接收输入数据；

部分地基于利用输入数据执行推理模型来生成输出数据，输出数据包括可见类或隐藏类之一的指示；

确定输出数据是否包括隐藏类的指示；以及

基于输出数据不包括隐藏类的指示的确定而将所生成的输出提供给输出消费者。

2.根据权利要求1所述的装置，存储器进一步存储指令，所述指令在由所述电路执行时使所述电路：基于输出数据包括隐藏类的指示的确定而向监测系统发送警报。

3.根据权利要求2所述的装置，存储器进一步存储指令，所述指令在由所述电路执行时使所述电路：

响应于输出数据包括隐藏类的指示的确定而生成混淆的输出，混淆的输出包括可见类的指示；以及

响应于输出数据包括隐藏类的指示的确定而将混淆的输出提供给输出消费者。

4.根据权利要求3所述的装置，存储器进一步存储指令，所述指令在由所述电路执行时使所述电路：

响应于输出数据包括隐藏类的指示的确定而收集取证数据，所述取证数据包括输入数据和输入设备中的至少一个的指示；以及

响应于输出数据包括隐藏类的指示的确定而向监测系统提供所述取证数据。

5.根据权利要求3所述的装置，可见类包括多个可见类，输出数据包括隐藏类或者所述多个可见类之一的指示。

6.根据权利要求1至5中任一项所述的装置，隐藏类包括多个隐藏类，输出数据包括所述多个隐藏类之一或所述多个可见类之一的指示。

7.根据权利要求6所述的装置，其中所述多个隐藏类中的至少一个对应于列入黑名单的输入。

8.根据权利要求6所述的装置，存储器进一步存储指令，所述指令在由所述电路执行时使所述电路：

响应于输出数据包括隐藏类的指示的确定而标识与输出数据所指示的所述多个隐藏类之一相关联的所述多个可见类之一；以及

生成混淆的输出以包括所述多个可见类中的所标识的可见类的指示。

9.根据权利要求1至5中任一项所述的装置，包括可信执行环境（TEE），所述TEE包括所述电路和存储器。

10.一种非暂时性计算机可读存储介质，包括指令，所述指令在由电路执行时使所述电路：

从输入设备接收输入数据；

部分地基于利用输入数据执行推理模型来生成输出数据，输出数据包括可见类或隐藏类之一的指示；

确定输出数据是否包括隐藏类的指示；以及

基于输出数据不包括隐藏类的指示的确定而将所生成的输出提供给输出消费者。

11.根据权利要求10所述的非暂时性计算机可读存储介质，存储器进一步存储指令，所述指令在由所述电路执行时使所述电路：基于输出数据包括隐藏类的指示的确定而向监测系统发送警报。

12.根据权利要求11所述的非暂时性计算机可读存储介质，进一步存储指令，所述指令在由所述电路执行时使所述电路：

响应于输出数据包括隐藏类的指示的确定而生成混淆的输出，混淆的输出包括可见类的指示；以及

响应于输出数据包括隐藏类的指示的确定而将混淆的输出提供给输出消费者。

13.根据权利要求12所述的非暂时性计算机可读存储介质，进一步存储指令，所述指令在由所述电路执行时使所述电路：

响应于输出数据包括隐藏类的指示的确定而收集取证数据，所述取证数据包括输入数据和输入设备中的至少一个的指示；以及

响应于输出数据包括隐藏类的指示的确定而向监测系统提供所述取证数据。