[发明专利]变换核选择与熵编译

权利要求书

1.一种用于编码针对视频帧的块所选择的变换核候选的方法，所述方法包括：

选择多个变换核候选中的一个变换核候选用于变换所述视频帧的当前块的残差块，所选择的变换核候选包括与所述残差块的垂直运动相关联的垂直变换类型和与所述残差块的水平运动相关联的水平变换类型；

根据所选择的变换核候选来变换所述残差块以产生包括变换系数的变换块；

量化所述变换系数；

响应于确定经量化的变换系数中的至少一个是非零系数，识别用于编码所选择的变换核候选的概率模型，所述概率模型基于针对所述变换块的上邻近变换块所选择的第一变换核候选和针对所述变换块的左邻近变换块所选择的第二变换核候选来识别；以及

根据所述概率模型来编码所选择的变换核候选。

2.根据权利要求1所述的方法，其中，选择所述多个变换核候选中的一个变换核候选用于变换所述视频帧的所述当前块的所述残差块包括：

通过使用第一运动矢量预测所述当前块中的一部分的垂直运动来识别所述残差块的所述垂直运动的形状；

通过使用第二运动矢量预测所述当前块中的所述部分的水平运动来识别所述残差块的所述水平运动的形状；以及

基于所述残差块的所述垂直运动的形状和所述残差块的所述水平运动的形状来选择所选择的变换核候选。

3.根据权利要求1或权利要求2所述的方法，其中，识别用于编码所选择的变换核候选的概率模型包括：

基于所述第一变换核候选的第一垂直变换类型和所述第二变换核候选的第二垂直变换类型来确定垂直上下文；

基于所述第一变换核候选的第一水平变换类型和所述第二变换核候选的第二水平变换类型来确定水平上下文；以及

使用所述垂直上下文和所述水平上下文来识别所述概率模型。

4.根据权利要求1到3中任一项所述的方法，其中，所述变换块是第一变换块，所述方法进一步包括：

使用运动矢量生成所述残差块，所述残差块包括用于所述当前块的预测残差；以及

将所述残差块分割成包括第一残差子块和第二残差子块的多个子块，其中，所述第一残差子块被变换以产生所述第一变换块并且所述第二残差子块被变换以产生第二变换块。

5.根据权利要求4所述的方法，其中，所选择的变换核候选与被选择用于变换所述第二残差子块的变换核候选不同。

6.根据权利要求4或权利要求5所述的方法，其中，所选择的变换核候选也被选择用于变换所述第二残差子块。

7.根据权利要求1到6中任一项所述的方法，其中，所选择的变换核候选的所述垂直变换类型或所述水平变换类型中的至少一个是DCT、ADST、翻转ADST或恒等变换中的一个。

8.一种用于编码针对视频帧的块所选择的变换核候选的装置，所述装置包括：

处理器，所述处理器被配置成执行存储在非暂时性存储介质中的指令以：

选择多个变换核候选中的一个变换核候选用于变换所述视频帧的当前块的残差块，所选择的变换核候选包括与所述残差块的垂直运动相关联的垂直变换类型和与所述残差块的水平运动相关联的水平变换类型；

根据所选择的变换核候选来变换所述残差块以产生包括变换系数的变换块；

量化所述变换系数；

响应于确定经量化的变换系数中的至少一个是非零系数，识别用于编码所选择的变换核候选的概率模型，所述概率模型基于针对所述变换块的上邻近变换块所选择的第一变换核候选和针对所述变换块的左邻近变换块所选择的第二变换核候选来识别；以及

根据所述概率模型来编码所选择的变换核候选。