[发明专利]一种视频编码的整数DST变换基选择方法

摘要

本发明公开了一种视频编码的整数DST变换基选择方法，包括以下步骤：步骤1，依据DST变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为ck，I的系数标记为ik，k=0～N；步骤2，将ik归一化，求得标定系数jk，k=0～N；步骤3，采用搜索方法搜索求解ik以组成变换基，搜索时依循以下4个约束条件，IIT矩阵中对角线以外的元素均满足取值为0；限制搜索求解ik时的搜索步长为1/2；标定系数jk需满足门限要求，门限数值取决于期望搜索得到的变换基数目；所取整数变换矩阵I中系数ik的最大幅度为15；步骤4，将搜索得到的变换基尺度化到整数，得到矩阵C对应的整数变换基。采用本发明可以全面快速地得到高质量的整数DST变换基。

主权项

一种视频编码的整数DST变换基选择方法，其特征在于，包括以下步骤：步骤1：依据DST变换系数矩阵C，求解其对应整数变换矩阵I的表达式，其中C的系数标记为ck，I的系数标记为ik，k=0,1,...，N；其中，N表示DST变换系数矩阵中数值不同的系数的个数；步骤2：将ik归一化，求得标定系数jk，k=0,1,...,N；步骤3：采用搜索方法搜索求解ik以构成变换基，其中，按照以下4个约束条件进行搜索求解ik，约束条件一：IIT矩阵中对角线以外的元素均满足取值为0，所述的IIT矩阵由整数变换矩阵I乘以其转置矩阵取得；约束条件二：限制搜索求解ik时的搜索步长为1/2；约束条件三：标定系数jk需满足 Σ k = 0 N | j k - c k | < T f , k = 0,1 , . . . , N , Tf表示门限，门限数值取决于期望搜索得到的变换基数目；约束条件四：所取整数变换矩阵I中系数ik的最大幅度为15；步骤4：将搜索得到的变换基尺度化到整数，得到DST变换系数矩阵C对应的整数变换基。