[发明专利]一种视频编码的帧内预测模式的快速确定方法及装置

摘要

本发明公开了一种视频编码的帧内预测模式的快速确定方法及装置，用以解决现有技术中预测模式的选择计算过程复杂，运行效率较低，硬件成本高的问题，该方法通过基于当前LCU相邻的PU的数据以及计算得到的结果，依次计算每个PU的目标预测模式，在计算未位于相应BU的起始位置的PU，则根据该PU的相邻PU的目标预测模式得到该PU的候选预测模式，在计算位于相应BU起始位置的各层次PU，则根据低层次PU的目标预测模式得到该PU的候选预测模式。这样，可以快速得到当前LCU的最优分割方式和预测模式，保留了所有的预测模式以及保证了编码性能的同时，增加了编码效率，节省了运行时间，同时降低了硬件成本，极大的节省了资源开销。

主权项

一种视频编码的帧内预测模式的快速确定方法，其特征在于，包括：存储与当前最大编码单元LCU相邻的图像数据，以及当前LCU的图像数据；根据当前LCU的像素大小，将当前LCU分割为4n个设定像素单位的基本运算单元BU，其中，n为大于或等于1的正整数；依次根据预设的各个层次的像素单位将所述LCU中的每一个BU分割为对应层次的像素单位的PU；基于与当前LCU相邻的PU的数据，分别在每一个BU中按照从低层次到高层次的顺序，依次计算每一个PU的目标预测模式，其中，在计算任意一个PU的目标预测模式时，判断所述任意一个PU是否位于相应BU中的起始位置，确定未处于起始位置时，根据所述任意一个PU的上邻PU和左邻PU的目标预测模式，确定所述任意一个PU的候选预测模式，并根据每一种候选预测模式的绝对误差转换和SATD或者率失真代价RD cost，在候选预测模式中筛选出所述任意一个PU的目标预测模式。