[发明专利]一种低复杂度配置下的HEVC快速模式选择方法

权利要求书

1.一种低复杂度配置下的HEVC快速模式选择方法，其特征在于，包括以下步骤：

步骤一：获取当前编码单元的时空相邻编码单元，1≤i≤8；

其中，CU₁、CU₂、CU₃、CU₄分别代表当前编码单元左方、左上方、上方、右上方的编码单元，CU₅、CU₆分别代表当前编码单元前向参考帧和后向参考帧的同位编码单元，CU₇代表当前编码单元的父CU，CU₈代表当前编码单元的父CU的父CU；CU表示编码单元；

步骤二：获取当前编码单元的各时空相邻编码单元的MERGE模式标志位并对所述标志位进行赋值；

步骤三：计算当前编码单元的纹理复杂度Avg和时空相邻块中选择SKIP模式为最优模式的比例MC；

其中，W、H代表当前编码单元的宽和长，m_grad[i][j]代表当前编码单元中坐标为i,j点像素的梯度值，如果CU_i存在，则k_i为1，否则为0；如果CU_i最优模式为SKIP模式，则w_i为1，否则为0；α_i则代表CU宽度因子，根据相邻CU与当前CU的关系分配，相邻CU与当前CU的关联越强，权值越大；

当Index(i)of CU[i]的取值依次为1-8时，α_i的取值依次为0.2,0.1,0.2,0.1,0.05,0.05,0.2,0.1；

m_grad[i][j]＝abs(gx(i，j))+abs(gy(i，j))

gx(i，j)＝(f(i-1，j+1)-f(i+1，j+1))+2*(f(i-1，j)-f(i+1，j))+(f(i-1，j-1)-f(i+1，j-1))

gy(i，j)＝(f(i-1，j-1)-f(i-1，j+1))+2*(f(i，j-1)-f(i，j+1))+(f(i+1，j—1)-f(i+1，j+1))

步骤四：依次以多个历史视频序列中的每个编码单元的纹理复杂度、各时空相邻编码单元的MERGE模式标志位和时空相邻编码单元中选择SKIP模式为最优模式的比例MC作为输入数据，编码单元的最优模式作为输出数据，输入WEKA决策树进行训练，获得决策树；

步骤五：初始化标志位，b2N_First、bSkip_2N、issimple均赋值为false；

b2N_First为编码顺序标志位、bSkip_2N为跳过2Nx2N模式标志位、issimple为当前编码单元CU是否为简单块标志位；

步骤六：对待编码的视频序列中的当前编码单元按照步骤一至步骤三，获取对应的CU_i、MC和Avg，并将其输入至步骤四获得的决策树，得到待编码的当前编码单元的初始最优模式；

步骤七：若决策树Decision Tree输出的结果为2Nx2N模式，则赋值b2N_First＝true，帧间预测模式依次按照2Nx2N模式、MERGE模式、帧内模式进行遍历；否则赋值b2N_First＝false，帧间预测模式依次按照MERGE模式、2Nx2N模式、帧内模式进行遍历，实现当前编码单元的HEVC快速模式选择；

依据当前编码单元的激烈程度，为当前编码单元选择执行模式，具体过程如下：

步骤A：计算当前编码单元的运动剧烈程度Avg_mv：

其中，N代表当前编码单元CU的时空相邻块的个数为8，cu[i].mvx和cu[i].mvy分别代表CU_i的运动矢量的水平分量和垂直分量，mv_num代表{CU_i}中存在运动矢量的CU个数；

步骤B：判断Avg_mvTH_mv是否成立，若成立，则issimple＝true，否则，issimple＝false；

其中，TH_mv表示激烈程度阈值，取值范围为10-50；

步骤C：确定当前编码单元CU的各时空相邻块的SKIP模式标志位

步骤D：基于时空相关性原理，对编码顺序标志位和跳过2Nx2N模式标志位进行赋值；

MCTH_mc (5)

issimple＝false (6)

若式子(6)成立，且式子(1)、(2)、(3)、(4)及(5)中任一个成立，则b2N_First＝false，bSkip_2N＝true，否则，bSkip_2N＝false；

步骤E：判断公式b2N_First＝true是否成立，若是，则进入步骤F，否则转到步骤J；

步骤F：进行当前编码单元的2Nx2N模式，并计算当前编码单元在2Nx2N模式下的SATD，即SATD_2N×2N，继续下一步骤；

其中，SATD为一种视频残差信号大小的衡量标准；

步骤G：计算当前编码单元在使用MERGE候选列表中最佳匹配项时的SATD，即SATD_merge，继续下一步骤；

步骤H：判断是否成立，若成立，则转到步骤N，否则转到步骤I；

其中，代表已编码过的CU中最优模式选择MERGE模式的SATD_2N×2N/SATD_merge的均值，则代表已编码过的CU中最优模式选择2Nx2N模式的SATD_2N×2N/SATD_merge的均值；

代表已编码过的CU中最优模式选择MERGE模式的SATD_2N×2N/SATD_merge的总和，代表已编码过的CU中最优模式选择2Nx2N模式的SATD_2N×2N/SATD_merge的总和，和分别代表已编码过的CU中最优模式选择MERGE模式的CU个数和选择2Nx2N模式的CU个数；若和任一一个为0，则将TH_satd设置为初始值1；

步骤I：进行当前编码单元的MERGE模式，然后转到步骤N；

步骤J：进行当前编码单元的MERGE模式，然后继续下一步骤；

步骤K：判断公式bSkip_2N＝true是否成立，若是则转到步骤N，否则转到步骤L；

步骤L：获取当前编码单元CU的最佳模式，若最佳模式为SKIP模式、MERGE模式候选列表不为空，且issimple＝true，则转到步骤N，否则转到步骤M；

步骤M：进行当前编码单元的2Nx2N模式，然后继续下一步骤；

步骤N：进行当前编码单元的Intra模式，实现当前编码单元的HEVC快速模式选择。