[发明专利]用于视频帧内编码的KLT矩阵训练方法

权利要求书

1.基于视频帧内编码的KLT矩阵训练方法，其特征在于，分别在各种帧内预测模式下，按照如下方法进行矩阵训练：

(1)提取帧内预测模式的残差样本频谱；

(2)对残差样本集进行分组，对分组得到的每一个样本组采用传统的KLT矩阵训练方法得到一个M×M维的候选KLT矩阵；

(3)按照如下方法优化各候选KLT矩阵：

(3.1)将所述残差样本频谱均分为M个子带，分别计算残差样本在各子带内的能量，并按照能量从大到小对子带排序；

(3.2)将候选KLT矩阵A的全部列向量构成列向量集，令j＝1；

(3.3)分别计算列向量集中各列向量在第j个子带内的能量与残差样本在第j个子带内的能量乘积，搜索乘积最大者对应的列向量V，将其作为优化后的KLT矩阵的第j个列向量；

(3.4)将列向量V从列向量集中排除，j＝j+1；

(3.5)若j＞M，则结束，否则转入步骤(3.3)；

(4)计算优化后的候选KLT矩阵的变换性能，并选择具有最佳变换性能的KLT矩阵作为结果输出；

变换性能计算方法具体为：g(Y)=Σi=1Mwi×gY(i),]]>其中g(Y)为优化后的候选KLT矩阵Y的变换性能，w_i为第i个子带的加权系数，g_Y(i)是变换系数分布在第i个子带上的能量占全部子带上能量之和的比例。变换系数分布在第i个子带上的能量等于第i个列向量在第i个子带内的能量与残差样本在第i个子带内的能量乘积，加权系数w_i满足：

Σi=1Mwi=1,0<w1<w2···<wM.]]>

2.根据权利要求1所述的基于视频帧内编码的KLT矩阵训练方法，其特征在于，所述步骤(1)具体为：建立预测模式的残差样本集，从残差样本集中任意选择1000个以上的残差样本，对每个残差样本进行光栅扫描得到长度为M的残差向量，将这些残差向量进行首尾串联得到一个线向量，对该线向量进行傅立叶变换得到预测模式的残差样本频谱。