[发明专利]基于层的3D-HEVC深度图帧内预测编码方法

摘要

本发明公开了一种基于层的3D‑HEVC深度图帧内预测编码的方法，主要解决现有的技术对深度图帧内预测编码处理复杂度较高的问题。其技术方案为：1)初始化文件和门限；2)记录测试码流每个编码周期的第一帧数据；3)通过计算编码周期第一帧的命中率得到门限；4)根据门限，选择性跳过当前预测单元的粗选阶段深度模式、细选阶段或全部粗选细选阶段，完成一帧视频视频编码；5)重复步骤2)到4)遍历每帧视频，直到编码结束。本发明具有编码复杂度低、方法多样性的优点，可用于视频编码。

主权项

1.基于层的3D‑HEVC深度图帧内预测编码方法，是在已有的3D‑HEVC软件测试平台HTM13.0的基础上修改实现，其步骤包括如下(1)初始化：创建六个空的txt文件；创建18个门限，即帧内模式门限TEi、深度模式门限TDi、跳过深度模式门限TSi、细选门限TRi、01模式门限T01i、其他模式门限TLi；i＝1、2、3，其中i＝1表示大小为32x32的预测单元、i＝2表示大小为16x16的预测单元、i＝3表示大小为8x8的预测单元；(2)统计测试序列的一个编码周期中第一帧视频的数据结果，该数据结果包括每个预测单元经过粗选得到的最佳模式候选列表中代价值最小的模式MI及其相应代价值JSATD，每个预测单元在楔形划分模式DMM1下的代价值JSSE，每个预测单元经过细选得到的最佳预测模式MR及其相应代价值JRD；(3)把统计得到的数据根据当前预测单元划分结果及当前预测单元的大小，分类存放在已创建的6个txt文件中；(4)根据第一帧视频中同一大小预测单元的最佳模式候选列表中最小代价值JSATD，计算第一帧视频的粗选帧内命中率HN，当HN＝75％时分别得到帧内模式门限TEi，当HN＝90％时分别得到跳过深度模式门限TSi；(5)根据第一帧视频中同一大小预测单元的楔形划分模式DMM1下的代价值JSSE，计算第一帧视频的粗选深度模式命中率HD，当HD＝85％时分别得到深度模式门限TDi；(6)根据第一帧视频中同一大小预测单元的细选最小代价JRD值，计算出第一帧视频的细选命中率HR；当HR＝80％时得到细选门限TR1，当HR＝90％时得到细选门限TR2，当HR＝99％时得到细选门限TR3；(7)根据细选的最佳预测模式MR的类型，设置01模式门限T01i和其他模式门限TLi：若细选的最佳预测模式MR为模式0或模式1时，则设01模式门限T01i为细选门限TRi，即T01i＝TRi；若细选的最佳预测模式MR为模式2到模式38时，则根据这些模式下的同一大小预测单元细选的最小代价JRD计算出其他模式命中率HL；HL＝80％时得到其他模式门限TL1，HL＝90％时得到其他模式门限TL2，HL＝99％时得到其他模式门限TL3；(8)对预测单元进行粗选：(8a)计算当前预测单元35种普通帧内预测模式的代价值，找到普通帧内预测模式的最小代价值JSATD，执行步骤(8b)；(8b)当预测单元普通帧内预测模式的最小代价JSATD大于相同大小预测单元的跳过深度模式门限TSi时，跳出当前预测单元，进入其子预测单元，返回步骤(8a)；否则将35种普通帧内预测模式中代价值最小的3或8种模式加入最佳模式候选列表中，计算当前预测单元的深度模式的代价值，并记录深度模式中楔形划分模式DMM1的代价值JSSE，执行步骤(8c)；(8c)当楔形划分模式DMM1的代价值JSSE大于相同大小预测单元的深度模式门限TDi或深度预测模式不计算时，且预测单元普通帧内预测模式的最小代价JSATD大于相同大小预测单元的帧内模式门限TEi时，跳出当前预测单元，进入其子预测单元，返回步骤(8a)；否则，将两个深度模式加入最佳模式候选列表中，执行步骤(9)；(9)对预测单元进行细选：(9a)当最佳模式候选列表中代价值最小的模式MI为模式0，且没有计算当前预测单元的深度预测模式，则细选时只计算模式0作为最佳预测模式MR，并把其代价值作为细选最小代价JRD；否则计算最佳模式候选列表中的全部模式的代价，选出细选最小代价JRD，其对应模式为最佳预测模式MR，执行步骤(9b)；(9b)当细选最佳预测模式MR是模式0或模式1且细选最小代价JRD小于相同大小预测单元01模式门限时，或MR>＝2且JRD小于相同大小预测单元其他模式门限时，跳过其所有子预测单元的计算过程，执行步骤(9c)；否则进入当前预测单元的子预测单元，返回步骤(8)；(9c)判断当前最大预测单元是否完成所有预测处理，若有，则进入下一个预测单元，返回步骤(8)，若无，则进入步骤(9d)；(9d)判断当前编码帧中是否还有未编码的预测单元，若有，则设N＝32并返回步骤(8a)，若无，则进入步骤(10)；(10)更新编码周期(10a)判断编码帧周期中是否存在待编码帧，若本编码帧周期中还有待编码帧，则返回步骤8，对下一帧进行预测编码，否则执行步骤(10b)；(10b)判断所有编码帧是否全部预测编码结束，若仍有待编码帧，则返回步骤(2)，进入下一个编码周期；否则结束编码；步骤(4)中粗选帧内命中率HN，按如下公式计算：N1是指当粗选最小代价JSATD大于阈值时，一帧视频中同一大小预测单元划分的个数；N2是指当粗选最小代价JSATD大于阈值时，一帧视频中同一大小预测单元不划分的个数；步骤(5)中粗选深度模式命中率HD，按如下公式计算：N3是指当楔形划分模式代价JSSE大于阈值时，一帧视频中同一大小预测单元划分的个数；N4是指当楔形划分模式代价JSSE大于阈值时，一帧视频中同一大小预测单元不划分的个数；步骤(6)中细选命中率HR，按如下公式计算：N5是指当细选最小代价JRD小于阈值时，一帧视频中同一大小预测单元划分的个数；N6是指当细选最小代价JRD小于阈值时，一帧视频中同一大小预测单元不划分的个数；步骤(7)中其他模式命中率HL，按如下公式计算：N7是指预测单元细选最佳模式为2到38模式时且细选最小代价JRD小于阈值时，一帧视频中同一大小预测单元划分的个数；N8是指预测单元细选最佳模式为2到38模式时且细选最小代价JRD小于阈值时，一帧视频中同一大小预测单元不划分的个数。