[发明专利]提高数字信号变换性能的方法及数字信号变换方法和装置

摘要

本发明提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，J(A)=α×dist(A)+β×norm(A)+γ×orth(A)α+β+γ]]>本发明能够保证数字信号处理具有更高的变换性能。

主权项

一种提高数字信号变换性能的方法，其特征在于，在视频和图像编解码处理中，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如式(1)；Factor是一个大于1的因子，[]表示四舍五入取整；DCT(i,j)=1N,i=02N×cos((2×j+1)×i×π2N),i≠0---(1)]]>式(b)中的TH是一个预设的阈值，变换率失真代价函数J(A)由式(2)定义；J(A)=α×dist(A)+β×norm(A)+γ×orth(A)α+β+γ---(2)]]>式(2)中的α,β,γ是三个参数，满足β<α,γ<α，DCT失真度dist(A)，归一度normal(A)和正交度orth(A)的定义如式(3)所示；dist(A)=Σi=1NΣj=1,i≠jN|P(i,j)||P(i,i)|normal(A)=Σi=1N|Q(i,i)-1|orth(A)=Σi=1NΣj=1,j≠iN|Q(i,j)|P=A×DCTTQ=AT×AFactor2---(3)]]>其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵；利用所述变换核矩阵A，对待变换的数据块进行数字信号变换。