[发明专利]一种快速高效率视频编码帧内模式判决方法

摘要

本发明公开了一种快速高效率视频编码帧内模式判决方法，包括预测方式配置和预测模式选择。预测模式选择利用了当前CU层与其之上各层CU的亮度帧内预测模式的相关性，CBF与TU分割深度之间的相关性，以及相邻CU层之间的色度帧内预测模式的相关性，跳过了冗余的帧内模式的预测，从而降低了编码的计算复杂度。根据代价函数cost与RDcost之间的相关性，以及色度与亮度帧内预测模式之间的相关性，分别在亮度和色度帧内预测过程中添加了RMD中cost代价最小的预测模式和最佳亮度预测模式，从而保障了视频编码效率和视频质量。本发明的方法较之现有技术的HEVC视频编码标准，在比特率和视频质量几乎不变的前提下，较好地降低了编码的计算复杂度。

主权项

一种快速高效率视频编码帧内模式判决方法，包括预测方式配置和预测模式选择，在预测方式配置中，采用全I帧预测方式，CU分割深度不大于4，在预测模式选择中，其特征在于所述预测模式选择包括以下步骤：（1）开始进行亮度帧内预测，对35种模式进行粗略模式判决RMD并加入MPM模式构成亮度帧内候选模式列表；判断当前CU是否为64×64，如果是，则进入（2），否则进入（3）；（2）依次对亮度帧内候选模式列表中的预测模式计算率失真代价，从中选出最佳亮度帧内预测模式；进入（4）；（3）使用上层CU的最佳亮度帧内预测模式和粗略模式判决中代价值最小的亮度帧内预测模式，构成改进亮度帧内候选模式列表；判断当前CU尺寸是否为8×8，如果是则进入（4），否则依次对改进亮度帧内候选模式列表中的预测模式计算率失真代价，从中选出率失真代价最小的模式作为最佳亮度帧内预测模式；进入（5）；（4）依次对改进亮度帧内候选模式列表中的预测模式以及DC模式和平面模式计算率失真代价，从中选出率失真代价最小的模式作为最佳亮度帧内预测模式；进入（5）；（5）判断CBFsingle是否等于0或3，如果是则进入（7），否则进入（6）；（6）对当前CU进行全深度的TU划分，确定TU划分策略，进入（7）；（7）开始进行色度帧内预测，判断当前CU是否为64×64，如果是，则进入（8），否则进入（9）；（8）依次对5种色度帧内候选模式列表中的预测模式计算率失真代价，从中选出率失真代价最小的模式作为最佳色度帧内预测模式；进入（10）；（9）使用上一层CU的最佳色度帧内预测模式和亮度帧内预测过程中选出的最佳预测模式，构成色度帧内候选模式列表；依次对色度帧内候选模式列表中的预测模式计算率失真代价，从中选出率失真代价最小的模式作为最佳色度帧内预测模式；进入（10）；（10）当前CU帧内预测流程结束。