[发明专利]用于视频编码的改进的定向帧内预测方法

说明书

交叉引用

本发明主张在2014年10月31日提出的申请号为62/073,209的美国临时专利申请的优先权。因此在全文中合并参考该专利申请案。

技术领域

本发明是有关于视频编码，特别是有关于先进帧内预测，以改善帧内预测的编码效率。

背景技术

高效率视频编码(High-Efficiency Video Coding,HEVC)是由视频编码联合协作小组(JCT-VC)开发的新的国际视频编码标准。HEVC依据基于混合块的运动补偿的类离散余弦变换(discrete cosine transform,DCT)的变换编码架构。称为编码单元(CU)的基本压缩单元是2Nx2N的正方形块。CU可以以最大的编码单元开始，其在HEVC中也被称为编码树单元(CTU)，并且每个CU可以递归地分成四个较小的CU，直到达到预定的最小尺寸。一旦完成了CU分层树的分割，每个CU根据预测类型和预测单元(PU)分区进一步分为一个或多个PU。每个CU或每个CU的残差被分成一个变换单元(TU)树，以应用诸如离散余弦变换(DCT)或离散正弦变换(discrete sine transform,DST)的二维变换。

在高效率视频编码(HEVC)中，帧内预测采样的生成包括三个部分：帧内平滑滤波器(Intra smoothing filter)，帧内预测和帧内梯度滤波(Intra gradient filter)。在计算预测之前，首先将平滑处理应用于参考采样，以作为预处理步骤。该平滑处理应用于对应[1 2 1]>>2相对应的FIR滤波器。平滑处理对应于对当前TU的左侧列和上方行的采样应用低通滤波。每个TU的帧内预测由相邻TU的重建采样产生。图1中用线填充块突出显示涉及帧内平滑的采样。是否使用平滑操作取决于TU尺寸和帧内预测模式。然后从如图1中的线填充块所示的当前块的边界附近的相邻参考采样导出当前块的帧内预测，以用于某些帧内预测模式。根据HEVC的帧内预测模式包括直流(DC)模式，平面模式和33种定向模式。由编码器为当前块选择帧内预测模式，并在比特流中被发送。在产生初始帧内预测采样之后，当帧内预测模式为直流，水平或垂直模式时，帧内梯度滤波器进一步应用于当前TU的左侧列和上方行的初始帧内预测采样。

帧内梯度滤波器的概念是利用沿着帧内预测方向的梯度信息来提高帧内预测的质量。帧内梯度滤波器进一步扩展到其他帧内预测模式，如JCTVC-G279中所示(Guo,等人,CE6 Subset d:Direction based Angular Intra Prediction,Joint Collaborative Team on Video Coding(JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11,7th Meeting:Geneva,CH,21-30Nov.,2011,Document:JCTVC-G279)。对于33个定向的帧内预测模式，图2中显示了各种方向的模式名称(mode designation)，其中模式名称从h-7到h+8以及v-8到v+8。对于从v到(v+8)的帧内预测模式，将帧内梯度滤波器应用于选定的帧内预测采样。在垂直帧内预测模式(即v)的示例中，将帧内梯度滤波器应用于当前块的左侧列中的帧内预测采样。代表与当前块的左侧列相邻的两个重建采样的两个边界采样首先被定位以用于滤波的当前帧内预测采样。基于两个边界采样的差值来计算梯度信息，以改善帧内预测。图3示出了用于垂直模式的帧内梯度滤波器的示例。P_ij表示第i行和第j列的预测子。AL表示当前块的左上角的重建采样。L_i表示与当前块的左侧列相邻的重建采样。一个新的预测子是根据以下公式计算的：

P′ij＝Pij+α·(Li-AL), (1)

其中α对应于加权因子，并且α是根据j确定的从0到1的小数。例如，当j＝0时α＝1/2，当j＝1时α＝1/4。P_ij被用作最终预测子。类似地，帧内梯度滤波器也应用于水平帧内预测模式。对于水平方向模式的帧内梯度滤波器，最终预测子P’_ij根据下式计算：

P′ij＝Pij+α·(Aj-AL)， (2)

其中，如图3所示Aj是上方行中重建的采样。