[发明专利]利用神经网络进行训练和推断的方法及装置

权利要求书

1.一种处理器实现的使用神经网络NN的方法，所述方法包括：

接收输入数据；以及

基于与所述NN响应于所述输入数据而被激活的状态有关的状态信息，确定从所述输入数据推断的信息，

其中，通过使用所述NN的至少一部分对所述输入数据进行编码而生成的嵌入向量包括：被用于以第一准确度重构所述输入数据的第一部分区域和以第二准确度重构所述输入数据的第二部分区域的信息，并且

其中，所述第一部分区域是基于经推断的信息和所述嵌入向量中的任一项或两项自适应地确定的。

2.根据权利要求1所述的方法，其中，确定所述经推断的信息包括以下任意一项：

基于所述状态信息，确定所述输入数据中包括的用于每个像素的逐个像素信息；

基于所述状态信息，确定以检测窗口的形式在所述输入数据中检测到的区域；以及

基于所述状态信息，确定根据所述输入数据所分类的类别。

3.根据权利要求1所述的方法，其中，所述输入数据包括图像数据和语音数据中的任一项。

4.根据权利要求1所述的方法，其中，

所述输入数据是图像数据，并且

所述第一部分区域包括：所述图像数据中的与所述经推断的信息相对应的感兴趣区域ROI。

5.根据权利要求1所述的方法，其中，

所述输入数据是语音数据，并且

所述第一部分区域包括：所述语音数据中的与所述经推断的信息相对应的感兴趣时间段。

6.根据权利要求1所述的方法，其中，

所述NN被配置为推断逐个像素信息和检测窗口中的任一项，并且

所述第一部分区域被自适应地确定为与所述经推断的信息相对应的部分区域。

7.根据权利要求1所述的方法，其中，

所述NN被配置为推断类别，并且

所述第一部分区域被自适应地确定为与所述嵌入向量相对应的部分区域。

8.根据权利要求1所述的方法，其中，所述第一准确度大于所述第二准确度。

9.一种存储指令的非暂时性计算机可读存储介质，所述指令在由处理器执行时将所述处理器配置为执行权利要求1所述的方法。

10.一种处理器实现的使用神经网络NN的方法，所述方法包括：

接收训练数据和与所述训练数据相对应的真实标记；

通过对所述训练数据进行编码，提取与所述训练数据相对应的嵌入向量；

通过使用第一解码器对所述嵌入向量进行解码，生成所述NN的推断信息；

通过使用第二解码器对所述嵌入向量进行解码，生成所述训练数据的重构信息；

基于所述推断信息和所述真实标记之间的差确定第一损失；

确定所述训练数据中与所述真实标记和所述嵌入向量中的任一项或两项相对应的第一部分区域；

基于所述训练数据和基于所述第一部分区域的所述重构信息之间的差，确定第二损失；以及

基于所述第一损失和所述第二损失对所述NN进行训练。

11.根据权利要求10所述的方法，其中，对所述NN进行训练包括：基于所述第一损失和所述第二损失对所述NN进行训练，从而以第一准确度重构所述第一部分区域并以第二准确度重构所述训练数据中的第二部分区域。

12.根据权利要求10所述的方法，其中，所述第一准确度大于所述第二准确度。

13.根据权利要求10所述的方法，其中，确定所述第一部分区域包括：将所述训练数据中与所述真实标记相对应的部分区域确定为所述第一部分区域，使得所述NN被训练为推断逐个像素信息和检测窗口中的任一项。