[发明专利]一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法

摘要

本发明公布了一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，该方法利用支持向量机分类器决策P帧中是否选择Intra预测模式，在所述决策过程中，利用了帧间预测过程中产生的辅助特征，降低了P帧中Intra预测模式判定的误判率。本发明所提出的基于支持向量机的P帧中Intra预测模式快速判定方法能够在保证编码质量的前提下，显著提高编码速度。

主权项

1.一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，其特征在于包括：A)对HEVC视频标准测试序列进行编码，收集P帧中Intra预测模式判定数据，并生成正负样本的数据集，而后，对正负样本数据集使用K‑folder交叉验证法进行验证；B)按照编码单元CU的率失真性能的重要程度，给正负样本的数据集中的样本点赋予不同的权重，用加权支持向量机来对支持向量分类器进行训练，加入权重系数以后，训练样本记为：其中，x_i是第i个输入数据，c_i是第i个输入数据的所属类别，W_i为第i个输入数据的权重系数，分类器目标函数Φ(ω)则调整为：其中ω为法向量，C为惩罚因子，即噪声点的权重，ξ_i为松弛变量；C)计算支持向量机SVM的输入特征，包括：当前预测单元与相邻预测单元运动矢量MV模长的平均差、当前编码单元的编码深度、帧间预测INTER_2Nx2N模式的率失真代价与Merge/SKIP模式MSM率失真代价的归一化差值、帧间预测率失真归一化代价；其中，所述率失真代价的归一化差值的计算方式如下：其中RD(2N×2N)为帧间预测INTER_2Nx2N模式的率失真代价，RD(MSM)为Merge/SKIP模式MSM率失真代价；帧间预测率失真归一化代价的计算方式如下：APRD_Cost＝RD_Cost/(PU_Width×PU_Height)，其中，RD_Cost为当前预测单元PU的率失真代价，PU_Width为当前预测单元PU的宽度，PU_Height为当前预测单元PU的高度；D)在支持向量机SVM分类器对P帧Intra预测模式进行判定过程中，首先将加权SVM离线训练出来的SVM模型加载到HM 16.0编码器中，而后将帧间预测过程中计算得到的特征输入到所述分类器中进行Intra预测模式判定。