[发明专利]用于视频帧内编码的KLT矩阵训练方法

摘要

本发明提供一种用于视频帧内编码的KLT矩阵训练方法，属于信号处理中的视频编码领域。本发明首先提取每种帧内预测模式下的残差信号的频谱，然后，将残差样本进行分组并采用传统的方法训练得到候选KLT矩阵，对每个候选KLT矩阵采用低频子带优先的置换策略进行优化并计算优化后的变换性能，选择具有最佳变换性能的优化KLT矩阵作为该预测模式下残差信号的变换矩阵。本发明避免了在编码时实时训练KLT矩阵的巨大计算量，减少了用于表示训练矩阵的额外比特开销，训练得到的矩阵具有良好的变换性能。

主权项

1. 基于视频帧内编码的KLT矩阵训练方法，其特征在于，分别在各种帧内预测模式下，按照如下方法进行矩阵训练：(1)提取帧内预测模式P的残差样本频谱；(2)对残差样本集进行分组，对分组得到的每一个样本组采用传统KLT矩阵训练方法得到一个M×M维的候选KLT矩阵；(3)按照如下方法优化各候选KLT矩阵：(3. 1)将所述残差样本频谱均分为M个子频带，分别计算残差样本在各子频带内的能量，并按照能量从大到小对子频带排序；(3. 2)将候选KLT矩阵A的全部列向量构成列向量集，令j＝1；(3. 3)分别计算列向量集中各列向量在第j个子频带内的能量与残差样本在第j个子频带内的能量乘积，搜索乘积最大者对应的列向量V，将其作为优化后的KLT矩阵的第j个列向量；(3. 4)将列向量V从列向量集中排除，j＝j+1；(3. 5)若j>M，则结束，否则转入步骤(3.3)；(4)计算优化后的候选KLT矩阵的变换性能，并选择具有最佳变换性能的KLT矩阵作为结果输出；变换性能计算方法具体为：，其中g(Y)为优化后的候选KLT矩阵Y的变换性能，wi为第i个子频带的加权系数，gY(i)是变换系数分布在第i个子频带上的能量占全部子带能量之和的比例，变换系数分布在第i个子频带上的能量等于第i个列向量在第i个子频带内的能量与残差样本在第i个子频带内的能量乘积。