[发明专利]基于边界自适应变换的优化视频数据编码方法

摘要

本发明提供了一种基于边界自适应变换的优化视频数据编码方法。该方法主要包括：根据视频编码的现有DCT变换矩阵生成新型变换矩阵，将新型变换矩阵和现有DST/DCT变换矩阵组成新型变换矩阵集合；根据预测模式、变换单元大小以及变换单元的边界信息与预测单元的边界信息关系，从新型变换矩阵集合中选择一组变换矩阵；利用所述一组新型变换矩阵对输入的视频数据进行变换，生成编码码流。本发明充分利用了帧间预测后残差矩阵的分布特性，基于预测单元和变换单元的边界信息，对不同的边界特性采用不同的变换矩阵对其进行变换。该优化方法可以根据帧间预测后残差的特性，针对性地选择更为有效的变换矩阵进行变换，从而提高编码效率。

主权项

1.一种基于边界自适应变换的优化视频数据编码方法，其特征在于，包括：根据视频编码现有的DCT变换矩阵生成新型变换矩阵，将所述新型变换矩阵和现有DST变换矩阵和DCT变换矩阵组成新型变换矩阵集合；根据输入的视频数据选择预测模式、预测单元和变换单元，根据所述预测模式、变换单元大小，以及变换单元边界信息与预测单元边界信息的关系，从所述新型变换矩阵集合中选择一组变换矩阵；利用所述一组新型变换矩阵对所述视频数据进行编码，生成编码码流；所述的根据视频编码的现有DCT变换矩阵生成新型变换矩阵，将所述新型变换矩阵和现有DST变换矩阵和DCT变换矩阵组成新型变换矩阵组合，包括：对现有的视频编码的残差矩阵先进行翻转，再利用DST‑VII变换矩阵进行变换的变换过程，定义为使用新型F‑DST‑VII变换矩阵进行变换，所述新型F‑DST‑VII变换矩阵包括：新型F‑DST‑VII水平变换矩阵和新型F‑DST‑VII垂直变换矩阵，所述新型F‑DST‑VII变换矩阵适用于帧间预测模式下方形的4×4变换单元以及非方形的4×16、16×4变换单元；根据现有的视频编码的DCT‑II变换矩阵导出新型变换矩阵DCT‑IV，所述新型DCT‑IV变换矩阵包括：新型DCT‑IV水平变换矩阵和新型DCT‑IV垂直变换矩阵，所述新型DCT‑IV变换矩阵适用于帧间预测模式下方形的8×8和16×16变换单元以及非方形的4×16、16×4、8×32、32×8变换单元；对现有的视频编码的残差矩阵先进行翻转，再利用DCT‑IV变换矩阵进行变换的变换过程，定义为使用新型F‑DCT‑IV变换矩阵进行变换，所述新型F‑DCT‑IV变换矩阵包括：新型F‑DCT‑IV水平变换矩阵和新型F‑DCT‑IV垂直变换矩阵，所述新型F‑DCT‑IV变换矩阵适用于帧间预测模式下方形的8×8和16×16变换单元以及非方形的4×16、16×4、8×32、32×8变换单元；将所述新型DCT‑IV水平变换矩阵、新型DCT‑IV垂直变换矩阵、新型F‑DST‑VII水平变换矩阵、新型F‑DST‑VII垂直变换矩阵、新型F‑DCT‑IV水平变换矩阵和新型F‑DCT‑IV垂直变换矩阵，以及现有DST变换矩阵和DCT变换矩阵组成新型变换矩阵集合；所述的根据所述预测模式、变换单元大小，以及变换单元边界信息与预测单元边界信息的关系，从所述新型变换矩阵集合中选择一组变换矩阵，包括：所述一组变换矩阵包括一个水平变换矩阵和一个垂直变换矩阵，所述水平变换矩阵用于行变换，所述垂直变换矩阵用于列变换；根据变换单元上、下边界是否为预测单元的边界，来确定所述垂直变换矩阵的选择方案；根据变换单元左、右边界是否为预测单元的边界，来确定所述水平变换矩阵的选择方案。