[发明专利]一种视频编码的整数DST变换基选择方法

说明书

技术领域

本发明属于视频编码领域，特别涉及一种视频编码标准中的整数DST变换基的优选方法及优选得到的变换基。

背景技术

2013年4月，国际电联(ITU)正式发布了HEVC/H.265标准，标准全称为高效视频编码(High Efficiency Video Coding)。相较于之前的H.264标准，H.265有了相当大的改善，仅需原先一半的码率即可播放相同质量的视频。H.265标准采用了多项新技术加以平衡码流结构、编码质量、延时和算法复杂度之间的关系。其中在变换方面，H.265首次将离散正弦变换（DST）引入到标准中。在此之前，视频编码标准化技术中占统治地位的变换方法一直是离散余弦变换（DCT）。

DST变换有效改善了帧内预测块的变换编码效率。帧内预测往往相对图像块左边或上方的已编码的邻居像素来展开，因此，离邻居越近的像素比远离邻居的像素能获得更高的预测精度或者说更小预测残差。大量研究表明，相对于DCT变换，DST变换更适合描述帧内预测块的这种统计特性。因此，H.265在保留现有DCT变换的同时，正式将DST变换纳入到标准中，专门用于帧内预测亮度块的4x4变换编码。而且，为了降低变换误差，提高运算速度，吸收了H.264中整数变换的思想，采用了近似DST的无乘法整数变换的实现方案。

不同于普通的DST变换，整数DST变换基不唯一。寻找相关能力强、运算简单的整数变换基是视频编码标准化过程中的一项重要的工作。H.265中的整数变换基已经得到了专利保护，我国正在加紧制定与H.265性能相当的本土标准AVS2，因此，必须提出新的有别于H.265中已经采用的整数变换基。

发明内容

为了从根本上解决了变换基的发现问题，本发明基于整数DST变换的原理，提出了一种变换基的通用生成算法，该发明对于制定我国自主知识产权的视频压缩标准具有积极作用。

本发明所采用的技术方案是：一种视频编码的整数DST变换基选择方法，其特征在于，包括以下步骤：

步骤1：依据DST变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为c_k，I的系数标记为i_k，k=0,1,...，N；其中，N表示DST变换系数矩阵中数值不同的系数的个数；

步骤2：将i_k归一化，求得标定系数j_k，k=0,1,。..，N；

步骤3：采用搜索方法搜索求解i_k以构成变换基，其中，按照以下4个约束条件进行搜索求解i_k，

约束条件一：II^T矩阵中对角线以外的元素均满足取值为0，所述的II^T矩阵由整数变换矩阵I乘以其转置矩阵取得；

约束条件二：限制搜索求解i_k时的搜索步长为1/2；

约束条件三：标定系数j_k需满足Σk=0N|jk-ck|<Tf,k=0,1,...,N,]]>T_f表示门限，门限数值取决于期望搜索得到的变换基数目；

约束条件四：所取整数变换矩阵I中系数i_k的最大幅度为15；

步骤4：将搜索得到的变换基尺度化到整数，得到DST变换系数矩阵C对应的整数变换基。