[发明专利]基于AVS的并行变换和反变换方法

摘要

本发明公开了基于AVS的并行变换和反变换方法，变换方法包括以下步骤将八个当前像素值减去八个预测像素值得到八个残差值并保存于一个寄存器中；重复7次得到八行共64个残差值，八行残差值分别保存于八个寄存器中；对残差矩阵进行转置得到转置残差矩阵；对转置残差矩阵进行水平变换部分的蝶形运算得到水平变换运算矩阵；对水平变换运算矩阵进行转置得到转置水平变换运算矩阵；对转置水平变换运算矩阵进行垂直变换部分的蝶形算法的运算得到垂直变换运算矩阵；对垂直变换运算矩阵进行如下运算rij＝(hij+24)>>5，得到变换结果矩阵。本发明使用SIMD指令，分别将变换和反变换中的参数并行放进寄存器中进行处理，实现高效率地得到变换结果和反变换结果。

主权项

基于AVS的并行变换方法，其特征在于，包括以下步骤：步骤A：利用两个寄存器分别并行读入八个当前像素值和八个预测像素值，利用低位交叉指令使当前像素值与预测像素值进行交叉得到第一交叉结果，以及使预测像素值与自身进行交叉得到第二交叉结果，将第一交叉结果减去第二交叉结果得到八个残差值并送进一个寄存器中，其中，当前像素值与预测像素值为8位数据，残差值为16位数据；步骤B：重复执行七次步骤A，得到64个残差值，组成8*8的残差矩阵，其中，每执行一次步骤A所得到的八个残差值为残差矩阵中的其中一行数据，八行数据分别保存于八个寄存器中；步骤C：结合低位交叉指令和高位交叉指令对残差矩阵进行转置得到转置残差矩阵，所述八个寄存器中的数据分别替换为转置残差矩阵中的八行数据；步骤D：针对转置残差矩阵中的数据进行水平变换部分的蝶形算法的运算，得到水平变换运算矩阵，所述八个寄存器中的数据分别替换为水平变换运算矩阵中的八行数据；步骤E：结合低位交叉指令和高位交叉指令对水平变换运算矩阵进行转置得到转置水平变换运算矩阵，所述八个寄存器中的数据分别替换为转置水平变换运算矩阵中的八行数据；步骤F：针对转置水平变换运算矩阵中的数据进行垂直变换部分的蝶形算法的运算，得到垂直变换运算矩阵，所述八个寄存器中的数据分别替换为垂直变换运算矩阵中的八行数据；步骤G：针对垂直变换运算矩阵进行如下运算：rij＝(hij+24)>>5，得到变换结果矩阵，其中，hij为垂直变换运算矩阵中的数据，rij为变换结果矩阵中的数据，i和j的取值范围为0‑7；在步骤F中包括如下子步骤：步骤F0：将转置水平变换运算矩阵中的数据由16位转为32位，将转置水平变换运算矩阵中的每一行数据的前四个数据分别送入对应的寄存器中，转置水平变换运算矩阵中的每一行数据的后四个数据暂存于内存中；步骤F1：针对已经保存至八个寄存器中的数据进行垂直变换部分的蝶形算法的运算，得到垂直变换运算矩阵中的左半部分数据，然后将垂直变换运算矩阵中的左半部分数据暂存于内存中；步骤F2：将转置水平变换运算矩阵中的暂存于内存中的数据分别从内存中送进所述八个寄存器中；步骤F3：针对已经保存至八个寄存器中的数据进行垂直变换部分的蝶形算法的运算，得到垂直变换运算矩阵中的右半部分数据，将垂直变换运算矩阵中的左半部分数据和右半部分数据组合得到垂直变换运算矩阵。