[发明专利]基于层的3D-HEVC深度图帧内预测编码方法

权利要求书

1.基于层的3D-HEVC深度图帧内预测编码方法，是在已有的3D-HEVC软件测试平台HTM13.0的基础上修改实现，其步骤包括如下

(1)初始化：

创建六个空的txt文件；

创建18个门限，即帧内模式门限T_Ei、深度模式门限T_Di、跳过深度模式门限T_Si、细选门限T_Ri、01模式门限T_01i、其他模式门限T_Li；i＝1、2、3，其中i＝1表示大小为32x32的预测单元、i＝2表示大小为16x16的预测单元、i＝3表示大小为8x8的预测单元；

(2)统计测试序列的一个编码周期中第一帧视频的数据结果，该数据结果包括每个预测单元经过粗选得到的最佳模式候选列表中代价值最小的模式M_I及其相应代价值J_SATD，每个预测单元在楔形划分模式DMM1下的代价值J_SSE，每个预测单元经过细选得到的最佳预测模式M_R及其相应代价值J_RD；

(3)把统计得到的数据根据当前预测单元划分结果及当前预测单元的大小，分类存放在已创建的6个txt文件中；

(4)根据第一帧视频中同一大小预测单元的最佳模式候选列表中最小代价值J_SATD，计算第一帧视频的粗选帧内命中率H_N，当H_N＝75％时分别得到帧内模式门限T_Ei，当H_N＝90％时分别得到跳过深度模式门限T_Si；

(5)根据第一帧视频中同一大小预测单元的楔形划分模式DMM1下的代价值J_SSE，计算第一帧视频的粗选深度模式命中率H_D，当H_D＝85％时分别得到深度模式门限T_Di；

(6)根据第一帧视频中同一大小预测单元的细选最小代价J_RD值，计算出第一帧视频的细选命中率H_R；当H_R＝80％时得到细选门限T_R1，当H_R＝90％时得到细选门限T_R2，当H_R＝99％时得到细选门限T_R3；

(7)根据细选的最佳预测模式M_R的类型，设置01模式门限T_01i和其他模式门限T_Li：

若细选的最佳预测模式M_R为模式0或模式1时，则设01模式门限T_01i为细选门限T_Ri，即T_01i＝T_Ri；

若细选的最佳预测模式M_R为模式2到模式38时，则根据这些模式下的同一大小预测单元细选的最小代价J_RD计算出其他模式命中率H_L；H_L＝80％时得到其他模式门限T_L1，H_L＝90％时得到其他模式门限T_L2，H_L＝99％时得到其他模式门限T_L3；

(8)对预测单元进行粗选：

(8a)计算当前预测单元35种普通帧内预测模式的代价值，找到普通帧内预测模式的最小代价值J_SATD，执行步骤(8b)；

(8b)当预测单元普通帧内预测模式的最小代价J_SATD大于相同大小预测单元的跳过深度模式门限T_Si时，跳出当前预测单元，进入其子预测单元，返回步骤(8a)；否则将35种普通帧内预测模式中代价值最小的3或8种模式加入最佳模式候选列表中，计算当前预测单元的深度模式的代价值，并记录深度模式中楔形划分模式DMM1的代价值J_SSE，执行步骤(8c)；

(8c)当楔形划分模式DMM1的代价值J_SSE大于相同大小预测单元的深度模式门限T_Di或深度预测模式不计算时，且预测单元普通帧内预测模式的最小代价J_SATD大于相同大小预测单元的帧内模式门限T_Ei时，跳出当前预测单元，进入其子预测单元，返回步骤(8a)；否则，将两个深度模式加入最佳模式候选列表中，执行步骤(9)；

(9)对预测单元进行细选：

(9a)当最佳模式候选列表中代价值最小的模式M_I为模式0，且没有计算当前预测单元的深度预测模式，则细选时只计算模式0作为最佳预测模式M_R，并把其代价值作为细选最小代价J_RD；否则计算最佳模式候选列表中的全部模式的代价，选出细选最小代价J_RD，其对应模式为最佳预测模式M_R，执行步骤(9b)；

(9b)当细选最佳预测模式M_R是模式0或模式1且细选最小代价J_RD小于相同大小预测单元01模式门限时，或M_R>＝2且J_RD小于相同大小预测单元其他模式门限时，跳过其所有子预测单元的计算过程，执行步骤(9c)；否则进入当前预测单元的子预测单元，返回步骤(8)；

(9c)判断当前最大预测单元是否完成所有预测处理，若有，则进入下一个预测单元，返回步骤(8)，若无，则进入步骤(9d)；

(9d)判断当前编码帧中是否还有未编码的预测单元，若有，则设N＝32并返回步骤(8a)，若无，则进入步骤(10)；

(10)更新编码周期

(10a)判断编码帧周期中是否存在待编码帧，若本编码帧周期中还有待编码帧，则返回步骤8，对下一帧进行预测编码，否则执行步骤(10b)；

(10b)判断所有编码帧是否全部预测编码结束，若仍有待编码帧，则返回步骤(2)，进入下一个编码周期；否则结束编码；

步骤(4)中粗选帧内命中率H_N，按如下公式计算：

N₁是指当粗选最小代价J_SATD大于阈值时，一帧视频中同一大小预测单元划分的个数；N₂是指当粗选最小代价J_SATD大于阈值时，一帧视频中同一大小预测单元不划分的个数；

步骤(5)中粗选深度模式命中率H_D，按如下公式计算：

N₃是指当楔形划分模式代价J_SSE大于阈值时，一帧视频中同一大小预测单元划分的个数；N₄是指当楔形划分模式代价J_SSE大于阈值时，一帧视频中同一大小预测单元不划分的个数；

步骤(6)中细选命中率H_R，按如下公式计算：

N₅是指当细选最小代价J_RD小于阈值时，一帧视频中同一大小预测单元划分的个数；N₆是指当细选最小代价J_RD小于阈值时，一帧视频中同一大小预测单元不划分的个数；

步骤(7)中其他模式命中率H_L，按如下公式计算：

N₇是指预测单元细选最佳模式为2到38模式时且细选最小代价J_RD小于阈值时，一帧视频中同一大小预测单元划分的个数；N₈是指预测单元细选最佳模式为2到38模式时且细选最小代价J_RD小于阈值时，一帧视频中同一大小预测单元不划分的个数。