[发明专利]一种基于处理芯片的编码比特长度确定方法及系统

说明书

本发明提供一种基于处理芯片的编码比特长度确定方法及系统，方法包括：确定量化后的残差矩阵；采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；选择最小的率失真优化值RDO对应的模式作为最佳预测模式。本发明利用分段拟合法快速计算残差矩阵对应的编码比特长度，减少计算量，提高确定准确度和速度，另外，本发明基于量化后的残差矩阵对应的编码比特长度快速计算RDO值，快速模式选择。

技术领域

本发明涉及编码比特长度估计技术领域，特别是涉及一种基于处理芯片的编码比特长度确定方法及系统。

背景技术

CAVLC的全称是Context-Adaptive Varialbe-Length Coding，即基于上下文的自适应变长编码。CAVLC的本质是变长编码，它的特性主要体现在自适应能力上，CAVLC可以根据已编码的数据情况动态的选择编码中使用的码表，并且随时更新拖尾系数后缀的长度，从而获得极高的压缩比。H.264标准中使用CAVLC对4×4模块的亮度和色度残差数据进行编码。

率失真优化RDO(Rate Distortion Optimation)是一种提高视频压缩视频质量的方法，是指针对视频编码所需的数据量(速率)优化失真量(视频质量损失)。虽然它主要由视频编码器使用，但速率失真优化可用于提高任何编码情况(图像，视频，音频或其他)的质量，在这种情况下必须同时做出影响文件大小和质量的决策。

在实际工程应用时，当图像尺寸和帧率提高时，处理芯片CPU、FPGA或DSP的计算速度也需要提高，但计算速度受限于器件本身的性能，不可能无限提高，只能采用快速算法才能满足更大尺寸、更高分辨率的图像压缩。在使用RDO算法时，需要完成CAVLC算法，得到当前编码模式下的比特长度，才能进行RDO算法，CAVLC算法是一个基于上下文的自适应算法，需要计算到最后才能得出最终的编码比特长度，无法快速得到编码比特长度，从而无法快速计算RDO，进而无法快速选择编码模式。

发明内容

基于此，本发明的目的是提供一种基于处理芯片的编码比特长度确定方法及系统，以提高编码比特长度确定的准确性和速度。

为实现上述目的，本发明提供了一种基于处理芯片的编码比特长度确定方法，所述方法包括：

步骤S1：确定量化后的残差矩阵；

步骤S2：采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度；

步骤S3：根据所述量化后的残差矩阵对应的编码比特长度计算不同模式对应的率失真优化值；

步骤S4：选择最小的率失真优化值对应的模式作为最佳预测模式。

可选地，所述采用分段拟合法，确定量化后的残差矩阵对应的编码比特长度，具体包括：

步骤S21：对所述量化后的残差矩阵进行zig-zag扫描，获得扫描矩阵；

步骤S22：根据所述扫描矩阵确定非零系数个数、拖尾个数、零系数个数和非零系数前零的个数，同时重新排列除拖尾系数以外的非零系数；

步骤S23：确定非零系数个数对应的编码比特长度；

步骤S24：确定拖尾比特对应的编码比特长度；

步骤S25：确定除拖尾系数以外的非零系数的编码比特长度总和的估计值；

步骤S26：根据零系数个数和非零系数个数进行查表，得到零系数个数对应的编码比特长度；

步骤S27：根据所述非零系数个数对应的编码比特长度、所述拖尾比特对应的编码比特长度、所述非零系数的编码比特长度总和的估计值和所述零系数个数对应的编码比特长度确定量化后的残差矩阵对应的编码比特长度。