[发明专利]一种针对AVS2的快速分像素预测方法

权利要求书

1.一种针对AVS2的快速分像素预测方法，包括下列步骤，

步骤一、利用整像素运动估计得到的最优整像素预测点E点及其相邻的8个整像素点，建立一个模拟匹配残差计算的6参数二次曲面模型；

S₆(x，y)＝ax²+bxy+cy²+dx+ey+f (2)

6参数二次曲面函数拟合SAD，并利用整像素运动估计得到的最优整像素预测点E点及其相邻的8个整像素点A,B,C,D,F,G,H,I的匹配残差来确定函数的系数，并根据求解得到的极值点分布情况不同，采用不同的小范围搜索；

步骤二、用二次函数极值，对求得的6参数二次曲面模型进行分类讨论，将极值点的情况分为四种情况，即极大值点、极小值点、鞍点和无法确定点；

带入整像素点的SAD求得二次曲面系数，求得公式(2)中的六个系数，需要将A,B,C,D,E,F,G,H,I这9个整像素点带入公式(2)进行计算：得到系数a,b,c,d,e,f，

步骤三、在求得6参数二次曲面函数的系数a,b,c,d,e,f后，对二次曲面函数求导，获得极值点，

对得到的极值点(x_min，y_min)匹配到最接近的1/4精度像素位置，设结果为(x_quan，y_quan)；

步骤四、四种不同情况下的极值点划分：

(1)当H＞0且A＜0时，S(x,y)在(x_quan，y_quan)处取得极大值；

(2)当H＞0且A＞0时，S(x,y)在(x_quan，y_quan)处取得极小值；

(3)当H＜0时，(x_quan，y_quan)为鞍点，S(x,y)不存在极值；

(4)当H＝0时，(x_quan，y_quan)不存在，我们令(x_quan，y_quan)＝(0,0)；

步骤五、针对上面对极值点的不同分类我们采用不同的搜索策略：

(1)极大值点：以(0,0)点为中心，搜索与极大值点同象限和反象限的各三点；

(2)极小值点：搜索以该点为中心的水平垂直4个点；

(3)鞍点：以该点与(0,0)对称的点为中心，搜索靠近(0,0)方向的三点；

(4)H＝0无法确定时：搜索以(0,0)点为中心的水平垂直最近邻的4个半像素点。