[发明专利]一种视频编码码率控制LCU层比特分配方法及存储介质

说明书

本发明请求保护一种视频编码码率控制LCU层比特分配方法及存储介质，方法包括：采用图像边缘检测算子计算待编码LCU像素的梯度值；根据统计前一编码帧每个LCU的均方误差和实际消耗的编码比特数，计算出待编码LCU的编码代价；以待编码LCU的梯度平均值和编码代价作为编码块纹理复杂度描述信息，经归一化处理，构建一种LCU层目标比特分配的权重因子；根据视频编码器初始量化参数值和阈值，对待编码LCU的目标比特值进行重新分配。本发明使LCU层的比特分配更合理，既能提高码率控制的精度，还能提高视频的编码质量，可用于H.265/HEVC和H.266/VVC等视频编码器中。

技术领域

本发明属于视频编码领域，更具体地说，涉及一种视频编码码率控制LCU层比特分配方法及存储介质。

背景技术

随着用户对视频质量要求的不断升级，使得高清(1920×1080)和超高清(3840×2160)视频的应用越来越广泛。视频分辨率增大，其数据量也随之增加。为了解决高清及超高清视频急剧增长的数据量给通信网络传输和数据存储带来的巨大压力，ITU-T和ISO/IEC于2013年联合制定了新一代视频压缩标准H.265/HEVC(High Efficiency Video Coding)。该标准仍采用了预测加变换的混合编码框架，由于在每个视频编码模块中引入了新的编码技术，如高精度运动补偿、运动估计合并、基于语义的熵编码、自适应环路滤波等新技术，大大提高了HEVC的编码效率。

当前4K和8K高分辨率视频技术的快速发展，需要更高效的视频压缩标准来提升编码效率。2020年7月颁布的新一代视频编码标准H.266/VVC(Versatile Video Coding)在应对高清和超高清视频、高动态视频范围和广色域、沉浸式媒体等多种应用场景类视频具有更优的压缩性能，是以后能广泛应用的视频编码标准。在HEVC和VVC标准中，码率控制算法均采用了R-λ模型，这是因为基于R-λ模型的码率控制算法具有码率控制效果好，比特波动小的优点，但对局部纹理复杂和边缘轮廓显著的视频，LCU层的比特分配并不准确，这会导致视频编码质量有所损失。

编码器的码率控制过程可以分成两个步骤。第一步根据编码缓冲区的占有情况对每一层分配合适数量的比特，这里的层包括图像组(Group Of Pictures，GOP)层、帧层和基本编码单元层；第二步通过调节量化参数QP确定每一层预先分配的比特数。由于双曲率型率失真函数能较好地描述视频编码器的率失真特性，广泛应用于码率控制模型中，其计算公式如式(1)所示：

D＝CR^-K (1)

其中，D代表编码的实际失真，采用均方误差(Mean Square Error，MSE)来表示；R表示编码比特，用每像素比特(bit per pixel，bpp)表示；C和K是与序列内容特性相关的模型参数值。拉格朗日乘子λ可由R-D曲线的斜率表示，其计算公式如式(2)所示，公式中的α和β是与序列内容特性相关的两个参数。

通过大量实验得到了如公式(3)所示的量化参数QP与λ之间的关系表达式，公式中的q＝4.2005，p＝13.7122。

QP＝qlnλ+p (3)

当编码器对一帧或一个LCU完成编码后，码率控制算法将更新模型参数α和β。与HEVC码率控制算法不同的是，VVC除了考虑实际的编码比特R_real和拉格朗日乘子λ_real外，还引入了实际的编码失真D_real，以提升后续比特分配的准确性。公式(4)和(5)是计算C_updated和K_updated的更新公式，而公式(6)和(7)用于更新参数α_new和β_new。