[发明专利]基于二次变换的视频编码方法及其装置

权利要求书

1.一种由解码设备执行的图像变换方法，所述图像变换方法包括：

接收目标块的量化变换系数和不可分离的二次变换的变换索引；

通过对所述量化变换系数进行解量化来推导变换系数；

基于所述变换索引和映射到所述目标块的帧内模式的变换集，推导与输入到针对所述不可分离的二次变换的矩阵运算的所述变换系数的长度相关的输入变换系数大小、与通过针对所述不可分离的二次变换的所述矩阵运算输出的修改的变换系数的长度相关的输出变换系数大小、和变换核矩阵；以及

基于由所述变换索引指示的所述变换集中的所述变换核矩阵与基于所述输入变换系数大小确定的所述变换系数的矩阵运算来推导所述修改的变换系数。

2.一种由图像编码装置执行的图像变换方法，所述图像变换方法包括：

通过对目标块的残差样本应用一次变换来推导变换系数；

基于映射到所述目标块的帧内模式的变换集，推导与输入到针对不可分离的二次变换的矩阵运算的所述变换系数的长度相关的输入变换系数大小、与通过针对所述不可分离的二次变换的所述矩阵运算输出的修改的变换系数的长度相关的输出变换系数大小、和变换核矩阵；以及

基于所述变换集中的所述变换核矩阵与基于所述输入变换系数大小确定的所述变换系数的所述矩阵运算来推导所述修改的变换系数。

3.一种非暂时性计算机可读存储介质，该非暂时性计算机可读存储介质存储程序代码，所述程序代码当被处理器执行时使得用于生成比特流的图像变换方法被执行，该图像变换方法包括：

通过对目标块的残差样本应用一次变换来推导变换系数；

基于映射到所述目标块的帧内模式的变换集，推导与输入到针对不可分离的二次变换的矩阵运算的所述变换系数的长度相关的输入变换系数大小、与通过针对所述不可分离的二次变换的所述矩阵运算输出的修改的变换系数的长度相关的输出变换系数大小、和变换核矩阵；以及

基于所述变换集中的所述变换核矩阵与基于所述输入变换系数大小确定的所述变换系数的所述矩阵运算来推导所述修改的变换系数。

4. 一种用于图像的数据的传输方法，所述传输方法包括：

获得用于所述图像的比特流，其中，所述比特流是基于以下生成的：通过对目标块的残差样本应用一次变换来推导变换系数；基于映射到所述目标块的帧内模式的变换集，推导与输入到针对不可分离的二次变换的矩阵运算的所述变换系数的长度相关的输入变换系数大小、与通过针对所述不可分离的二次变换的所述矩阵运算输出的修改的变换系数的长度相关的输出变换系数大小、和变换核矩阵；以及基于所述变换集中的所述变换核矩阵与基于所述输入变换系数大小确定的所述变换系数的所述矩阵运算来推导所述修改的变换系数；以及

发送包括所述比特流的所述数据。