[发明专利]一种使用纹理平滑信息的3D视频残差编码模式选择方法

权利要求书

1.一种使用纹理平滑信息的3D视频残差编码模式选择方法，其特征在于，使用纹理图像信息对预测单元即PU分类，不同类别PU的残差编码模式的选择方式不同，包括如下步骤：

步骤1：在残差编码部分引入分类器对PU进行分类，收集统计数据，计算分类器阈值T；

步骤2：判断当前PU水平方向像素梯度和是否小于分类器阈值T，如果小于阈值T直接跳到步骤4，否则继续步骤3；

步骤3：计算模式列表里所有模式采用non-SDC残差编码时的率失真代价；

步骤4：计算模式列表里所有模式采用SDC残差编码时的率失真代价；

步骤5：比较步骤3和步骤4计算出来的率失真代价，选出最优的残差编码方式对当前PU块编码；如果在步骤2中跳过步骤3，则不作比较直接采用SDC残差编码对当前PU编码；

步骤1所述在残差编码部分引入分类器对PU进行分类，其中分类器为特征分类器，所选用特征为PU的水平像素梯度和Grad，定义为p(x，y)表示当前块在位置(x，y)处的纹理像素值，S为当前PU块单行或单列包含的像素数；

步骤1所述分类器阈值T通过贝叶斯决策得到：

残差模式的选择看成一个二分类问题Ψ_R：W＝{ω_sdc，ω_non-sdc}，Ψ_R是分类器，W是包含两个元素的集合，ω_sdc表示SDC是最优的残差模式，non-SDC残差验证需要跳过；ω_non-sdc表示按照HTM-13.0的顺序检验SDC和non-SDC；

根据贝叶斯决策，ω的后验概率p(ω_i|x₀)定义为前验概率p(x₀|ω_i)与似然函数p(ω_i)乘积再与概率密度函数p(x₀)的商：ω_i为样本类别的第i类，i为样本类别序号，x₀为指定条件；

所以，分类器Ψ_R表示为：

实验表明，p(x₀|ω_i)服从高斯分布，用高斯分布描述p(x₀|ω_i)：

其中，参数μ和σ用最大似然估计得到，μ、σ的最大似然估计为：

其中，n是视频序列前8帧图像即第一个GOP的样本总数，k为视频序列前8帧图像的样本编号，这些图像使用HTM-13.0编码方式编码；x′_k是样本的水平像素梯度和Grad；所以，分类器阈值T定义为：