[发明专利]提高数字信号变换性能的方法及数字信号变换方法和装置

权利要求书

1.一种提高数字信号变换性能的方法，其特征在于，在视频和图像编解码处理中，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)＜TH；

其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如式(1)；Factor是一个大于1的因子，[]表示四舍五入取整；

DCT(i,j)=1N,i=02N×cos((2×j+1)×i×π2N),i≠0---(1)]]>

式(b)中的TH是一个预设的阈值，变换率失真代价函数J(A)由式(2)定义；

J(A)=α×dist(A)+β×norm(A)+γ×orth(A)α+β+γ---(2)]]>

式(2)中的α,β,γ是三个参数，满足β<α,γ<α，DCT失真度dist(A)，归一度normal(A)和正交度orth(A)的定义如式(3)所示；

dist(A)=Σi=1NΣj=1,i≠jN|P(i,j)||P(i,i)|normal(A)=Σi=1N|Q(i,i)-1|orth(A)=Σi=1NΣj=1,j≠iN|Q(i,j)|P=A×DCTTQ=AT×AFactor2---(3)]]>

其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵；

利用所述变换核矩阵A，对待变换的数据块进行数字信号变换。