[发明专利]基于视频图片纹理特征的HEVC帧内快速算法选择方法

权利要求书

1.基于视频图片纹理特征的HEVC帧内快速算法选择方法，其特征在于，步骤包括：

（1）计算编码单元CU的纹理特征值W；

（2）根据步骤（1）的计算结果，若W0.45，用第一算法对当前CU进行编码；若W0.12，用第二算法对当前CU进行编码；

（3）判断CU是否处于最大编码深度，若是，结束编码；若否，重复步骤（1）和步骤（2）；

所述纹理特征值W=，其中N是CU所覆盖区域内像素点的个数，p（i）是每个像素点所对应的像素值，是N个像素值的平均值；

所述第一算法步骤包括：

（1s）快速模式决策：

（1s.a）按HEVC标准对{0，1，2，6，10，14，18，22，26，30，34}11个模式做粗模式搜索，根据绝对变换差值，从中选出六个最佳帧内模式候选，结合当前PU左边和上边PU的最佳帧内模式组成集合A；

（1s.b）对集合A中的所有元素的2距邻居模式进行测验，从中选出两个帧内模式候选，将这两个帧内模式的1距邻居模式连同PU的最可能模式（MPM）组成集合B；

（1s.c）对集合B中所有模式做粗模式搜索；

（1s.d）从所有做过粗模式搜索的模式中找出SATD代价最小的M个模式，进行后续操作，M的个数由CU的大小决定：当CU大小为{64×64，32×32，16×16，8×8，4×4}时，M的值分别为{3，3，3，8，8}；

（2s）基于率失真优化量化的模式筛选：

（2s.a）从快速模式决策中得到的M个模式中选出SATD代价最小两个{ m1，m2}组成集合W；

（2s.b）将M个模式中剩余的模式依次进行以下操作：

如果所述剩余的模式与所述集合W中的所有元素的距离都大于1，则将该剩余的模式加入到W集合中；

如果集合中的元素包括了这些模式{ m₁，m₂，Intra_Planar，Intra_DC，MPM }，则跳出步骤（2s.b）；

（2s.c）对所述集合W中的所有元素做精模式搜索；

（3s）基于率失真代价的终止划分：

若当前子CU的率失真代价之和大于其中某一阈值时，则跳过后续子CU的编码过程，减小计算复杂度，具体判断标准为：

其中：K的取值范围为{1，2，3，4}，对应K={1，2，3，4}时的取值为{1.5，1.2，1.1，1}，表示4个子CU的哈达马代价之和，4个子CU还没完全编码完的情况下，其值用当前CU的率失真代价代替，为前K个子CU的哈达马代价之和，表示第i个子CU的率失真代价，为当前CU的率失真代价；

所述第二算法步骤包括：

（1s）CU深度预测：

若J_kⁿpJ_k^n-1，则当前编码单元CU的深度范围设置为与前一帧相同位置编码单元CU的深度范围相同，若J_kⁿ≥pJ_k^n-1，当前编码单元CU的深度范围设置为，其中dⁿ_min,k为前一帧相同位置编码单元CU的最小编码深度，dⁿ_max,k为前一帧相同位置编码单元CU的最大编码深度，p为常数1.02；

（2s）基于率失真代价的终止划分：

如果当前编码单元CU深度为d的CU的率失真代价J满足：

其中J_k^n-1表示上一帧当前位置编码单元CU总的率失真代价，d表示编码深度，a_k^n-1为系数，值为上一帧当前位置编码单元CU处于最大深度的CU数与编码单元CU总CU数之比；

（3s）快速候选模式筛选：

对粗搜索后得到的候选集合，其中元素按率失真代价从小到大排列，记为P={p(0)，p(1)，…，p(M-1)}，在进行精搜索之前，对候选集中的元素进行以下操作：

（3s.a）假设m为MPM中三个元素在P中最靠后的索引值，则集合P的大小可以缩小为P={p(0)，p(1)，…，p(m)}，其中M – 1 m；

（3s.b）对于新的集合P中的所有元素，如果满足，则将元素p(i)从集合P中移除，其中J(p(i))_SATD，J(p(0))_SATD，分别代表P中第i+1个、第0个元素的率失真代价。