[发明专利]基于空域相关性的HEVC预测模式快速选择方法

摘要

本发明公开了一种基于空域相关性的HEVC预测模式快速选择方法，主要解决现有技术速度慢，实时性差的问题。其实现步骤为1.输入视频序列，统计前10个帧间编码帧中编码单元最佳预测模式与其最佳空域参考编码单元最佳预测模式之间的概率关系，构建概率表；2.从第11个帧间编码帧开始，对具有最佳空域参考编码单元的时域同质待编码单元，求出最佳空域参考编码单元最佳预测模式；3.选择使得概率之和大于概率阈值且数量最少的预测模式作为编码单元的候选预测模式；4.根据候选预测模式对编码单元进行编码，得到最佳预测模式，并更新概率表。本发明利用空域相关性，跳过冗余的预测模式，提高了预测模式选择的速度，可用于实时视频应用。

主权项

一种基于空域相关性的HEVC预测模式快速选择方法，包括如下步骤：(1)输入视频序列，统计前10个帧间编码帧中编码单元的最佳预测模式与其最佳空域参考编码单元的最佳预测模式之间的概率关系：1a)判断编码单元是否为时域同质编码单元：若编码单元的时延配置条件为低时延，则根据视频序列的分辨率、编码单元的量化参数和编码深度求得率失真代价函数阈值ThRD；若编码单元的时延配置条件为随机接入，则根据视频序列的分辨率、编码单元的量化参数、时域分层和编码深度求得率失真代价函数阈值ThRD；如果编码单元SKIP模式的率失真代价函数值小于所求出的率失真代价函数阈值ThRD，则该编码单元为时域同质编码单元，执行步骤1b)；否则，遍历高效率视频编码标准中的所有预测模式；1b)判断编码单元是否具有最佳空域参考编码单元：若高效率视频编码标准中，通过运动融合方法得到的具有最佳运动参数的预测单元所在的编码单元为空域相邻编码单元，则该编码单元具有最佳空域参考编码单元，执行步骤1c)；否则，遍历高效率视频编码标准中的所有预测模式；1c)判断编码单元的时延配置条件，并统计概率关系：若时延配置条件为低时延，则在[20,26]、[27,31]、[32,36]、[37,41]这四种不同量化参数范围中，分别对0,1,2,3这四个编码深度，统计其当前编码单元最佳预测模式与最佳空域参考编码单元最佳预测模式之间的概率关系；若时延配置条件为随机接入，在[20,26]、[27,31]、[32,36]、[37,41]这四种不同量化参数范围中，分别对1,2,3,4这四个时域分层，统计其在0,1,2,3这四个编码深度时的当前编码单元最佳预测模式与最佳空域参考编码单元最佳预测模式之间的概率关系；所述统计其当前编码单元最佳预测模式与最佳空域参考编码单元最佳预测模式之间的概率关系，按如下步骤进行：1c1)从最佳空域参考编码单元的8种最佳预测模式中选择SKIP模式，计算编码单元的最佳预测模式分别为10种预测模式的概率，即这10种预测模式所对应的编码单元分别在最佳空域参考编码单元的最佳预测模式为SKIP模式的编码单元中占的比例，其中最佳空域参考编码单元的8种最佳预测模式包括：SKIP,Inter_2N×2N,Inter_N×2N,Inter_2N×N,Inter_2N×nU,Inter_2N×nD,Inter_nL×2N,Inter_nR×2N，编码单元的10种最佳预测模式包括：SKIP,Inter_2N×2N,Inter_N×2N,Inter_2N×N,Inter_2N×nU,Inter_2N×nD,Inter_nL×2N,Inter_nR×2N,Intra_2N×2N,Intra_N×N；1c2)重复步骤1c1)，分别选择最佳空域参考编码单元的最佳预测模式为其他7种预测模式，计算编码单元的最佳预测模式为上述10种预测模式的概率；(2)判断编码单元的时延配置条件，构建概率关系表：若时延配置条件为低时延，则根据量化参数范围和编码深度情况下编码单元最佳预测模式与最佳空域参考编码单元最佳预测模式之间的概率关系，构建概率关系表；若时延配置条件为随机接入，则根据量化参数范围、编码深度和时域分层情况下编码单元最佳预测模式与最佳空域参考编码单元最佳预测模式之间的概率关系，构建概率关系表；(3)从第11个帧间编码帧开始，判断待编码单元是否为时域同质编码单元：若待编码单元为时域同质编码单元，执行步骤(4)，否则，遍历高效率视频编码标准中的所有预测模式，执行步骤(9)；(4)判断待编码单元是否具有最佳空域参考编码单元：若待编码单元具有最佳空域参考编码单元，求出最佳空域参考编码单元的最佳预测模式，执行步骤(5)；否则，遍历高效率视频编码标准中所有的预测模式，执行步骤(9)；(5)统计所有已编码单元中以步骤(4)得到的最佳预测模式为其最佳空域参考编码单元最佳预测模式的编码单元个数，若编码单元个数小于10，则遍历高效率视频编码标准中的所有预测模式，执行步骤(9)；否则，执行步骤(6)；(6)把步骤(2)概率表中预测模式的概率从大到小排序，选择使得概率之和大于相对应时延配置条件、量化参数范围、时域分层和编码深度情况下的概率阈值且模式数量最少的一种或多种预测模式作为编码单元的候选预测模式；(7)根据候选预测模式，按照高效率视频编码标准中的编码流程对编码单元进行编码，得到最佳预测模式；(8)对待编码单元进行编码完后，记录该编码单元最佳预测模式和最佳空域参考编码单元最佳预测模式，更新步骤(2)中的概率关系表；(9)对下一个编码单元重复执行步骤(3)到步骤(8)。