[发明专利]基于改进列文伯格麦夸特优化的弹性运动估计方法

摘要

本发明公开一种基于改进列文伯格麦夸特优化的弹性运动估计方法，属于视频编码压缩领域，是针对传统高斯—牛顿算法求解弹性运动模型过程中需反复计算参考帧的黑塞矩阵(Hessian Matrix)及其逆矩阵的不足，借鉴列文伯格麦夸特(Levenberg‑Marquardt)算法的思想，采用当前帧的黑塞矩阵取代参考帧的黑塞矩阵，并用高斯—牛顿黑塞矩阵取代传统列文伯格麦夸特优化算法的混合黑塞矩阵，使得每次运动估计仅需计算一次黑塞矩阵及其逆矩阵，同时引入提前中止策略，从而达到了降低弹性运动估计计算复杂度的目的。

主权项

1.一种基于改进列文伯格麦夸特优化的弹性运动估计方法，其特征在于按如下步骤进行：步骤1. 若当前GOP的所有宏块都已处理完毕，则算法结束；否则，选取当前GOP中未处理过的一个宏块作为当前宏块，设其大小为像素，、表示当前宏块中某个像素的横、纵坐标，表示像素值， ，；步骤1.1 初始化当前宏块的弹性运动模型：  其中，表示像素的弹性运动向量，为运动向量的分量个数，表示的第个分量，为基函数，定义由公式给出：  其中，，，；步骤1.2 将弹性运动向量的所有分量置0， ；步骤1.3 利用基于模糊量化和2 bit深度像素的运动估计方法计算当前宏块的平移运动分量和，搜索步长设置为4个像素；步骤1.4 将迭代计数器初始化为1；步骤2. 预处理当前GOP的当前宏块与参考宏块；步骤2.1 初始化δ=0.01；步骤2.2 根据弹性运动向量和公式、，为当前宏块中的每个像素计算其在参考帧中的匹配像素，并利用双线性插值计算该匹配像素的值，表示参考帧中位于坐标“”处的像素值；步骤2.3 计算运动补偿误差；步骤2.4 计算当前宏块的像素值梯度；步骤2.5 计算雅克比矩阵；步骤2.6 计算最速下降方向；步骤2.7 计算高斯—牛顿海塞矩阵；步骤3. 计算；步骤4. 根据公式、计算改进的列文伯格麦夸特矩阵和运动向量增量：                                  步骤5. 更新弹性运动参数，并将其代入公式和公式，建立当前宏块中每个像素与参考帧中匹配像素的坐标映射，进而利用双线性插值计算匹配像素的值得到运动补偿误差；步骤6. 如果本次迭代的补偿误差大于前一次迭代的补偿误差，则对步骤5进行逆操作，当前宏块处理完毕，转入步骤1；否则，令，如果此时，所述为预设的迭代次数阈值，转入步骤5；若，表明当前宏块处理完毕，转入步骤1。