[发明专利]用于视频编解码的分组神经网络的方法以及装置

说明书

公开了一种使用分组神经网络(NN)处理的信号处理的方法以及装置。用于NN处理的当前层的多个输入信号被分组成多个输入组，所述多个输入组包括第一输入组以及第二输入组。用于所述当前层的所述神经网络处理被分成多个NN处理，所述多个NN处理包括第一NN处理以及第二NN处理。分别将所述第一NN处理以及所述第二NN处理应用于所述第一输入组以及所述第二输入组来生成用于NN处理的所述当前层的第一输出组以及第二输出组。在另一方法中，使用不同的代码类型对于NN处理的层有关的参数集进行编码。

相关引用

本发明是申请号为201980009758.2，发明名称为用于视频编解码的分组神经网络的方法以及装置的发明专利申请的分案申请。本发明要求于2018年1月26日递交的美国临时专利申请案号62/622,224以及于2018年1月26日递交的美国临时专利申请案号62/622,226的优先权。美国临时专利申请案在此通过参考纳入其中。

技术领域

本发明一般涉及神经网络(Neural Network)。特别地，本发明涉及通过将到神经网络给定层的多个输入分成多个输入组来降低神经网络(NN)处理的复杂性。

背景技术

神经网络(NN)，也称为“人工(Artificial)”神经网络(ANN)，是一种具有与生物神经网络(biological neural network)相同的某些性能特征的信息处理系统。神经网络系统由许多简单且高度互连的处理组件组成，以通过它们对外部输入的动态响应来处理信息。处理组件可以被认为是人脑中的神经元(neuron)，其中每一感知器(perceptron)接受多个输入并计算输入的加权和。在神经网络领域，感知器被认为是生物神经元(biologicalneuron)的数学模型。此外，这些互连的处理组件通常在层(layer)中进行组织。对于识别应用，外部输入可以对应于呈现给网络的模式(patterns)，网络与一个或多个中间层(middlelayer)通信，该中间层也称为“隐藏层(hidden layer)”，其中经由加权“连接”的系统完成实际处理。

人工神经网络可以使用不同的架构来指定神经网络涉及的变量及其拓扑关系(topological relationship)。例如，神经网络中涉及的变量(variable)可以是神经元之间连接的权重，以及神经元的活动。前馈网络(feed-forward network)是一种神经网络拓扑，其中每一层中的节点被馈送到下一阶段以及在相同层的节点之间存在有连接。大多数ANN包括某种形式的“学习规则”，其根据所呈现的输入模式来修改连接的权重。在某种意义上，ANN和它们的生物对应物一样，都是从算例中学习。反向传播(backward propagation)神经网络是更加高级的神经网络，其允许权重调整的反向误差传播(backward errorpropagation)。因此，反向传播神经网络能够通过使回馈到神经网络的误差最小化来改善性能。

NN可以是深度神经网络(deep neural network，简称DNN)、卷积神经网络(convolutional neural network，简称CNN)、递归神经网络(recurrent neural network，简称RNN)或者其他NN变化。深度多层神经网络或深度神经网络(DNN)对应于具有允许它们紧密地表示高度非线性以及高度变化函数的多级互连节点的神经网络。然而，DNN的计算复杂度随着与大量层相关联的节点的数量而迅速增长。

CNN是一类前馈人工神经网络，最常用于分析视觉图像(visual imagery)。递归神经网络(RNN)是一类人工神经网络，其中节点之间的连接沿着序列形成有向图(directedgraph)。与前馈神经网络不同，RNN可以使用它们的内部状态(记忆)来处理输入序列。RNN可以在它们中具有环路以便允许信息持续。RNN允许对向量序列(例如输入、输出或两者中的序列)进行操作。