[发明专利]一种提前确定HEVC合并和跳过编码模式的方法

摘要

本发明公开了一种提前确定HEVC合并和跳过编码模式的方法，该方法在测试了编码单元以Skip和Merge模式编码后，如果较优的模式对应的编码块残差绝对值之和小于一个预设的阈值，则忽略HEVC标准后续的Inter和Intra模式，以及预测单元划分过程，提前确定编码块的编码模式为Skip和Merge中的较优者，从而能以较少的性能损失换取HEVC编码器计算复杂度的极大降低。

主权项

1.一种提前确定HEVC合并和跳过编码模式的方法，其特征在于：对于当前编码单元，通过计算确定其在合并模式下的最佳候选运动参数，并记录该最佳候选运动参数对应的率失真代价Jmerge以及预测残差绝对值之和Smerge；同理通过计算确定其在跳过模式下的最佳候选运动参数，并记录该最佳候选运动参数对应的率失真代价Jskip以及预测残差绝对值之和Sskip；判断以下条件：Jskip＜Jmerge且Sskip＜Tskip，Tskip为对应当前QP和N的阈值；若成立，则提前判定当前编码单元的编码模式为跳过模式，并使其跳过后续的预测单元划分以及其它编码模式的率失真代价测试；若不成立，则进一步判断以下条件：Smerge＜Tmerge，Tmerge为对应当前QP和N的阈值；QP为量化参数，N为编码单元的尺寸；若是，则提前判定当前编码单元的编码模式为合并模式，并使其跳过后续的预测单元划分以及其它编码模式的率失真代价测试；若否，则使当前编码单元继续HEVC编码标准规定后续的预测单元划分以及其它编码模式的率失真代价测试；所述阈值Tskip的确定方法如下：首先以设定的量化参数QP，采用HEVC编码器对输入的测试视频进行编码，对于所有N×N大小的编码单元，记录其中以跳过模式编码的编码单元对应的预测残差绝对值之和，组成观测样本集合{K+}；记录其中以非跳过模式编码的编码单元对应的预测残差绝对值之和，组成观测样本集合{K‑}；取满足以下条件前提下预测残差绝对值之和Si的最小值作为阈值Tskip；p(Si|K‑)P(K‑)＞p(Si|K+)P(K+)其中：Si为第i个编码单元对应的预测残差绝对值之和，p(Si|K+)表示Si相对于观测样本集合{K+}的分布密度，p(Si|K‑)表示Si相对于观测样本集合{K‑}的分布密度，P(K+)为以跳过模式编码的编码单元在所有N×N大小的编码单元中所占的比例，P(K‑)为以非跳过模式编码的编码单元在所有N×N大小的编码单元中所占的比例且P(K‑)＝1‑P(K+)，i为自然数且1≤i≤m，m为所有N×N大小的编码单元数量；依据上述，遍历所有可能的量化参数QP以及尺寸N，得到每一组确定的QP和N对应的阈值Tskip；所述阈值Tmerge的确定方法如下：首先以设定的量化参数QP，采用HEVC编码器对输入的测试视频进行编码，对于所有N×N大小的编码单元，记录其中以合并模式编码的编码单元对应的预测残差绝对值之和，组成观测样本集合{M+}；记录其中以非合并模式编码的编码单元对应的预测残差绝对值之和，组成观测样本集合{M‑}；取满足以下条件前提下预测残差绝对值之和Si的最小值作为阈值Tmerge；p(Si|M‑)P(M‑)＞p(Si|M+)P(M+)其中：Si为第i个编码单元对应的预测残差绝对值之和，p(Si|M+)表示Si相对于观测样本集合{M+}的分布密度，p(Si|M‑)表示Si相对于观测样本集合{M‑}的分布密度，P(M+)为以合并模式编码的编码单元在所有N×N大小的编码单元中所占的比例，P(M‑)为以非合并模式编码的编码单元在所有N×N大小的编码单元中所占的比例且P(M‑)＝1‑P(M+)，i为自然数且1≤i≤m，m为所有N×N大小的编码单元数量；依据上述，遍历所有可能的量化参数QP以及尺寸N，得到每一组确定的QP和N对应的阈值Tmerge。