[发明专利]一种视频监控系统中的变换量化优化方法

说明书

技术领域

本发明属于信号处理中的视频编解码技术领域，具体涉及一种变换量化方法。

背景技术

随着信息技术的飞速发展，图像和视频的传输越来越受到广泛关注。由于视频图像数据量极大，对传输数据带宽和数据存储容量有着很高的要求，通常的带宽和存储介质难以满足需求。因此，对数据进行压缩是必要的。目前主流视频压缩标准主要包括活动图像专家组(Moving Picture Expert Group)制定的MPEG系列标准，国际电信联盟(International Telecommunication Union)制定的H.26x系列标准，以及我国具有自主知识产权的先进音视频编码标准(Advanced Audio/Video Standard，AVS)。上述标准能够达到几十至数百倍的压缩比，为网络传输提供了可能性。

然而，MPEG、H.26x、AVS等标准在带来高压缩率的同时，自身也具有极高的时间和空间复杂度。对于某些特定的场合，尤其是视频监控系统，未经优化的程序往往难以直接运行。通常的视频监控系统多基于嵌入式平台，CPU的运算能力和系统的存储容量都存在限制，而监控系统本身对实时性要求极高，因此，必须对程序进行优化。

统计数据表明，变换量化模块的运算量占整个视频编码框架的20％-30％，成为视频编码中的瓶颈。虽然目前主流标准中采用了蝶形算法，使用移位和加法运算代替原有的矩阵乘法，但仍然需要大量连续存储空间和极高的运算复杂度。因此，有必要对变换量化模块进行进一步的优化，提高运算速度，减少存储空间的占用，从而实现实时编码。

发明内容

本发明的主要目的是提供一种适用于视频监控系统的占用资源较少的快速变换量化方法，其步骤包括：

1.计算残差与水平变换。

1.1通过打包读取指令将一行的原始值和预测值分别读入对应寄存器中。

1.2数据扩充。使用指令将读入的单字节无符号数扩充为双字节有符号数。

1.3使用指令对32位寄存器的高地位分别对应相减，在一个周期内同时执行两次减法运算。

1.4调整寄存器中高16位和低16位的存储顺序，便于进行蝶形运算。

1.5使用点积指令计算结果。

2.垂直变换。

垂直变换中如果使用打包指令会导致数据溢出，因此不进行任何优化。

3.量化。

3.1使用打包指令将2个16位有符号数存储在同一个32位寄存器的高16位和低16位。

3.2系数合并相乘。使用指令将3.1中得到数据对应相乘，同时执行2次乘法运算。

3.3使用移位代替除法运算。

3.4计算非零系数的个数。

4.全零块检测。

如果3.4中统计的非零系数个数为0，则无须进行步骤5和步骤6，直接跳转到步骤7。否则跳转到步骤5。

5.反量化与水平反变换。

5.1对每一行数据进行乘加运算。

5.2对每一行数据进行水平反变化，方法同步骤1.3-1.5。

6.垂直反变换。

6.1将每一列的系数打包存入32位寄存器中。

6.2使用点积指令计算结果。

6.3使用带饱和的打包指令对6.2中的结果进行钳位操作。

7.重构。

根据相对应的预测值和残差计算重构值。

具体实施方式

以下针对C64x+的指令集，以AVS标准为例，具体说明本发明的较佳实施方式。步骤如下：

1.计算残差与水平变换。

1.1首先将8x8块的原始值的一行，即8个8位无符号整数读入到2个32位通用寄存器中，对应的预测值读取方法同上。

1.2将1.1中得到的每个寄存器中的4个8位无符号整数扩充为16位有符号整数，存在2个32位通用寄存器中。

1.3使用SUB2指令对1.2中得到的寄存器的高低位分别执行减法运算，在1个周期内得到2个运算结果，从而减少一半的运行时间。

1.4根据AVS参考代码，第一次蝶形变换需要执行如下计算：

b[0]＝curr_blk[yy][0]+curr_blk[yy][7]；

b[1]＝curr_blk[yy][1]+curr_blk[yy][6]；