[发明专利]一种快速HEVC帧内预测模式选择方法

摘要

本发明公开了一种快速HEVC帧内预测模式选择方法，其在帧内预测模式粗选后，充分利用了粗选的帧内预测模式对应的基于哈德玛变换的代价值的统计特性，充分考虑了视频纹理方向与帧内预测模式角度的相关性，对于不同尺寸的预测单元类型，通过阈值的方法来快速筛减粗选后的帧内预测模式或者通过计算粗选的帧内预测模式的连续性来反映预测单元的纹理方向，从而筛选掉相应不必要的粗选的帧内预测模式，这样不会引入过多的额外计算量；其在验证最有可能预测模式的过程中，充分考虑了粗选的帧内预测模式和最有可能预测模式的相关性，及视频图像本身的空间相关性，快速的获得了最终的最优帧内预测模式，在保证视频编码质量的前提下，减少了帧内编码复杂度。

主权项

一种快速HEVC帧内预测模式选择方法，其特征在于包括以下步骤：①将视频序列中当前待编码的视频帧定义为当前编码帧；②将当前编码帧中当前待编码的最大编码单元定义为当前最大编码单元；③将当前最大编码单元中当前待处理的编码单元对应的预测单元定义为当前预测单元；④在当前预测单元下，对35种帧内预测模式进行粗选，得到当前预测单元的N个粗选的帧内预测模式，其中，若当前预测单元的尺寸大小大于8×8，则N＝3，若当前预测单元的尺寸大小为8×8或4×4，则N＝8；然后提取出当前预测单元的每个粗选的帧内预测模式的数字标识及每个粗选的帧内预测模式对应的基于哈德玛变换的代价值；再按当前预测单元的N个粗选的帧内预测模式各自对应的基于哈德玛变换的代价值从小到大的顺序，将当前预测单元的N个粗选的帧内预测模式各自的数字标识排列构成当前数字标识序列，记为NP，并将当前预测单元的N个粗选的帧内预测模式各自对应的基于哈德玛变换的代价值排列构成当前代价值序列，记为CCL；⑤判断当前预测单元的尺寸大小是否大于8×8，如果是，则执行步骤⑥；否则，执行步骤⑦；⑥计算当前代价值序列CCL中的第2个元素的值CCL(2)与第1个元素的值CCL(1)的差值ΔT1，ΔT1＝CCL(2)‑CCL(1)，然后判断ΔT1是否大于设定的第一阈值T1，如果ΔT1大于设定的第一阈值T1，则为当前预测单元保留当前代价值序列CCL中的第1个元素对应的粗选的帧内预测模式，并将保留的粗选的帧内预测模式记为m(1)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；如果ΔT1小于或等于设定的第一阈值T1，则计算当前代价值序列CCL中的第3个元素的值CCL(3)与第2个元素的值CCL(2)的差值ΔT2，ΔT2＝CCL(3)‑CCL(2)，然后判断ΔT2是否大于设定的第二阈值T2，如果是，则为当前预测单元保留当前代价值序列CCL中的前2个元素各自对应的粗选的帧内预测模式并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨，否则，为当前预测单元保留当前代价值序列CCL中的所有元素各自对应的粗选的帧内预测模式，并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；⑦若当前预测单元的所有粗选的帧内预测模式均为角度帧内预测模式，且当前数字标识序列NP中的所有元素的值连续，则为当前预测单元保留当前代价值序列CCL中的第1个元素对应的粗选的帧内预测模式，并将保留的粗选的帧内预测模式记为m(1)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；若当前预测单元的所有粗选的帧内预测模式中有7个为角度帧内预测模式，且当前数字标识序列NP中与这7个角度帧内预测模式对应的所有元素的值连续，而剩余的1个为Planar模式或为DC模式，则为当前预测单元保留当前代价值序列CCL中的前2个元素各自对应的粗选的帧内预测模式，并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；若当前预测单元的所有粗选的帧内预测模式中有6个为角度帧内预测模式，且当前数字标识序列NP中与这6个角度帧内预测模式对应的所有元素的值连续，而剩余的2个为Planar模式和DC模式，则为当前预测单元保留当前代价值序列CCL中的前3个元素各自对应的粗选的帧内预测模式，并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；若当前预测单元的所有粗选的帧内预测模式中为数字标识连续的角度帧内预测模式的个数少于6个，则为当前预测单元保留当前代价值序列CCL中的所有元素各自对应的粗选的帧内预测模式，接着执行步骤⑧；⑧判断当前代价值序列CCL中是否存在4个及4个以上的元素的值相同，如果存在，则为当前预测单元保留当前代价值序列CCL中的前4个元素各自对应的粗选的帧内预测模式，并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨；如果不存在，则为当前预测单元保留当前代价值序列CCL中元素的值小于或等于α×CCL(1)的所有元素各自对应的粗选的帧内预测模式，并将按序保留的第1个粗选的帧内预测模式和第2个粗选的帧内预测模式对应记为m(1)和m(2)，且将保留的粗选的帧内预测模式的个数赋值给num，接着执行步骤⑨，其中，α为比例系数，CCL(1)表示当前代价值序列CCL中的第1个元素的值；⑨获取当前预测单元的3个最有可能预测模式及当前预测单元的预测模式验证个数，将当前预测单元的第1个最有可能预测模式、第2个最有可能预测模式和第3个最有可能预测模式对应记为mpm(1)、mpm(2)和mpm(3)，将当前预测单元的预测模式验证个数记为numCand，其中，mpm(1)、mpm(2)和mpm(3)各自对应的基于哈德玛变换的代价值从小到大，numCand∈[1,3)；⑩判断当前预测单元的尺寸大小是否大于8×8，如果是，则执行步骤否则，执行步骤当numCand＝＝1，且num＝＝1时，判断m(1)与mpm(1)是否相同，如果相同，则将m(1)作为当前预测单元的最优帧内预测模式，然后执行步骤如果不相同，则计算m(1)和mpm(1)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤当numCand＝＝1，且num＝＝2或num＝＝3时，判断m(1)与mpm(1)是否相同，如果相同，则将m(1)作为当前预测单元的最优帧内预测模式，然后执行步骤如果不相同，则当m(2)与mpm(1)相同时，计算m(1)和m(2)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤当m(2)与mpm(1)不相同时，执行步骤当numCand＝＝2时，判断m(1)与mpm(1)是否相同，如果相同，则将m(1)作为当前预测单元的最优帧内预测模式，然后执行步骤如果不相同，则执行步骤当numCand＝＝1，且num＝＝1时，判断m(1)与mpm(1)是否相同，如果相同，则将m(1)作为当前预测单元的最优帧内预测模式，然后执行步骤如果不相同，则计算m(1)和mpm(1)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤当numCand＝＝1，且num等于2至8中的任一个值时，判断m(2)与mpm(1)是否相同，如果相同，则计算m(1)和m(2)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤如果不相同，则执行步骤当numCand＝＝2，且num＝＝1时，判断m(1)与mpm(1)是否相同或m(1)与mpm(2)是否相同，如果m(1)与mpm(1)相同或m(1)与mpm(2)相同，则将m(1)作为当前预测单元的最优帧内预测模式，然后执行步骤如果m(1)与mpm(1)不相同且m(1)与mpm(2)不相同，则计算m(1)、mpm(1)和mpm(2)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤当numCand＝＝2，且num等于2至8中的任一个值时，判断m(1)与mpm(1)是否相同或m(2)与mpm(1)是否相同，如果m(1)与mpm(1)相同或m(2)与mpm(1)相同，则计算m(1)和m(2)各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤如果m(1)与mpm(1)不相同且m(2)与mpm(1)不相同，则执行步骤计算为当前预测单元保留的各个粗选的帧内预测模式和当前预测单元的前numCand个最有可能预测模式各自的率失真代价值，将值最小的率失真代价值对应的预测模式作为当前预测单元的最优帧内预测模式，然后执行步骤将当前最大编码单元中下一个待处理的编码单元对应的预测单元作为当前预测单元，然后返回步骤④继续执行，直至当前最大编码单元中的所有编码单元各自对应的预测单元处理完毕，再执行步骤将当前编码帧中下一个待编码的最大编码单元作为当前最大编码单元，然后返回步骤③继续执行，直至当前编码帧中的所有最大编码单元处理完毕，再执行步骤将视频序列中下一帧待编码的视频帧作为当前编码帧，然后返回步骤②继续执行，直至视频序列中的所有视频帧处理完毕。