[发明专利]使变换过程自适应于基于神经网络的帧内预测模式

权利要求书

1.一种方法，包括对图像块进行解码，其中所述解码包括：

-确定(260)使用至少一个神经网络从包括围绕所述图像块的像素的上下文对所述图像块进行的帧内预测

-获得与要应用于对所述图像块进行解码的变换方法相关的信息(TrInfo)，所述变换方法自适应于基于神经网络的帧内预测模式；

-通过根据与所述变换方法相关的所述信息将至少一个逆变换应用于变换系数块来获得(250)所述图像块的残差块；以及

-基于所述帧内预测和所述残差块对所述图像块进行解码。

2.一种装置，所述装置包括存储器和一个或多个处理器，其中所述一个或多个处理器被配置为：

-确定(260)使用至少一个神经网络从包括围绕所述图像块的像素的上下文对所述图像块进行的帧内预测

-获得与要应用于对所述图像块进行解码的变换方法相关的信息(TrInfo)，所述变换方法自适应于基于神经网络的帧内预测模式；

-通过根据与所述变换方法相关的所述信息将至少一个逆变换应用于变换系数块来获得(250)所述图像块的残差块；以及

-基于所述帧内预测和所述残差块对所述图像块进行解码。

3.根据权利要求1所述的方法或根据权利要求2所述的装置，其中从比特流解码所述与变换方法相关的信息。

4.根据权利要求1所述的方法或根据权利要求2所述的装置，其中所述信息由在从包括围绕所述图像块的像素的上下文对所述图像块进行的帧内预测中使用的所述至少一个神经网络来推断。

5.根据权利要求1、3至4中任一项所述的方法或根据权利要求2至4中任一项所述的装置，其中要应用于所述图像块的变换方法包括从多个变换中选择至少一个变换，所述多个变换包括以下中的任一者：

-可分离变换或不可分离变换；

-水平变换或垂直变换；

-线性变换或非线性变换；

-在所述变换方法中连续应用的主变换、二次变换或三次变换；

-学到的变换。

6.根据权利要求1、3至5中任一项所述的方法或根据权利要求2至5中任一项所述的装置，其中所述信息包括表示基于神经网络的帧内预测模式与多个变换组中的变换组之间的映射的变换组索引(trGrpIdx)。

7.根据权利要求6所述的方法或根据权利要求6所述的装置，其中所述信息还包括表示属于所述变换组的多个变换中要应用的变换的索引。

8.根据权利要求1、3至7中任一项所述的方法或根据权利要求2至7中任一项所述的装置，其中所述信息包括表示基于神经网络的帧内预测模式与多个变换中的变换之间的映射的变换索引(trIdx)。

9.根据权利要求1、3至8中任一项所述的方法或根据权利要求2至8中任一项所述的装置，其中所述信息包括表示基于神经网络的帧内预测模式与分层变换组之间的映射的变换宏组索引(trMacroGrpIdx)。

10.根据权利要求9所述的方法或根据权利要求9所述的装置，其中所述信息还包括表示属于所述分层变换组的多个变换中要应用的变换的索引。

11.根据权利要求4至10中任一项所述的方法或根据权利要求4至10中任一项所述的装置，其中推断所述与要应用的变换方法相关的信息的所述至少一个神经网络还包括以下中的一个或多个输入数据：

-用于对部分地或完全地属于包括围绕所述图像块的像素的所述上下文的块进行解码的量化参数；

-如果在帧内预测在包括围绕所述图像块的像素的所述上下文的右上方的块，则用于预测位于所述上下文的所述右上方的所述块的所述帧内预测模式的索引；

-如果在帧内预测在包括围绕所述图像块的像素的所述上下文的左下方的块，则用于预测位于所述上下文的所述左下方的所述块的所述帧内预测模式的索引。