[发明专利]一种视频编码中绝对变换误差和的计算方法及装置

摘要

本发明实施例公开了一种视频编码中绝对变换误差和的计算方法及装置，解决了现有SATD计算涉及大量加法运算以及需要较大存储空间的寄存器来保存中间计算结果的缺陷，本发明的视频编码中绝对变换误差和的快速计算方法包括：获取残差数据矩阵；对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算；对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算；将所述第二绝对变换误差和运算的计算结果乘以2，然后再与所述第一绝对变换误差和运算的计算结果进行求和，得到基于所述残差数据矩阵的绝对变换误差和。

主权项

1.一种视频编码中绝对变换误差和的计算方法，其特征在于，包括：获取残差数据矩阵；对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算；对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算；将所述第二绝对变换误差和运算的计算结果乘以2，然后再与所述第一绝对变换误差和运算的计算结果进行求和，得到基于所述残差数据矩阵的绝对变换误差和；其中，所述残差数据矩阵为8×8的矩阵X，由4个4×4的分块矩阵X₀₀、X₀₁、X₁₀、X₁₁构成，即所述对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算具体为：对位于8阶hadamard变换系数矩阵H₈上半部分的4×8子矩阵D₁、8×8的残差数据矩阵X以及所述H₈的转置矩阵进行第一绝对变换误差和运算其中，D₁＝(H₄ H₄)；其中，所述8阶hadamard变换系数矩阵H₈可以表示为如下分块矩阵的形式：H₄为4阶hadamard变换系数矩阵；所述对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算具体为：对位于所述8阶hadamard变换系数矩阵H₈下半部分的4×8子矩阵D₂、所述8×8的残差数据矩阵X进行第二绝对变换误差和运算SATD2＝SA(D₂X)，其中，D₂＝(H₄ ‑H₄)。