[发明专利]对视频帧数据进行处理的方法和装置

摘要

本公开是关于一种对视频帧数据进行处理的方法和装置，属于视频编解码技术领域。所述方法包括：将预先训练的神经网络中的权重参数的数据类型转换为定点型，得到转换后的权重参数；将待进行目标处理的视频帧数据的数据类型转换为定点型，得到转换后的视频帧数据；将转换后的视频帧数据输入加载了转换后的权重参数的神经网络，得到目标处理后的视频帧数据。这样，将浮点型的数据转换为定点型的数据，定点型的数据的小数点位置固定，无需对运算过程中的结果进行约束，不会出现对相同数据进行相同运算却出现不同结果的情况。进而编解码运算结果一致，解码端可以正常解码。