[发明专利]一种数据处理方法及装置、计算机可读存储介质

权利要求书

1.一种数据处理方法，其特征在于，包括：

获取待处理多媒体数据；

使用目标量化模型对所述待处理多媒体数据进行处理，得到目标处理结果；所述目标量化模型为对初始量化模型使用预设真实目标值与原始模型示范值共同训练得到的；所述原始模型示范值包括原始模型处理结果与原始模型权重分布中的至少一项；

其中，所述初始量化模型通过对原始模型进行量化压缩得到；所述原始模型为对所述待处理多媒体数据进行处理的第一精度类型的网络模型；所述初始量化模型为第二精度类型的网络模型，所述第一精度类型的精度高于所述第二精度类型；所述原始模型处理结果通过所述原始模型对预设训练样本集合进行处理得到；所述原始模型权重分布表征原始模型的网络层的权重分布。

2.根据权利要求1所述的方法，其特征在于，所述使用目标量化模型对所述待处理多媒体数据进行处理，得到目标处理结果之前，所述方法还包括：

对所述原始模型进行量化压缩，得到所述初始量化模型；

基于预设损失函数，对所述初始量化模型进行迭代训练，得到所述目标量化模型；所述预设损失函数为对训练过程中的至少两种损失与对应的至少两种权重因子进行加权求和的函数；其中，所述至少两种损失基于将所述初始量化模型的每次训练结果，与所述预设真实目标值和所述原始模型示范值分别进行差异评估得到，所述至少两种权重因子表征所述至少两种损失在所述预设损失函数中的占比。

3.根据权利要求2所述的方法，其特征在于，所述基于预设损失函数，对所述初始量化模型进行迭代训练，得到所述目标量化模型，包括：

基于所述初始量化模型，对所述预设训练样本集合进行处理，得到所述初始量化模型输出的当前次训练结果；

在当前次训练中，基于所述当前次训练结果，确定所述至少两种损失；

根据所述至少两种损失，确定所述当前次训练中与所述至少两种损失对应的所述至少两种权重因子；

根据所述至少两种损失与所述至少两种权重因子，使用所述预设损失函数计算得到所述当前次训练的当前次综合损失；所述当前次综合损失表征当前次训练结果，与所述预设真实目标值以及所述原始模型示范值的综合差异；

当所述当前次综合损失不满足预设综合损失阈值时，对所述初始量化模型的网络参数进行调整后，继续下一次训练直至第N次综合损失满足所述预设综合损失阈值时，得到所述目标量化模型，第N次为当前次之后的最后一次训练。

4.根据权利要求3所述的方法，其特征在于，所述在当前次训练中，基于所述当前次训练结果，确定所述至少两种损失，包括：

将所述当前次训练结果与所述预设真实目标值之间的差异，作为第一损失；

当所述原始模型示范值包括所述原始模型处理结果时，将所述原始模型处理结果与所述当前次训练结果之间的差异，作为第二损失；

当所述原始模型示范值包括所述原始模型权重分布时，将所述原始模型的权重分布与所述初始量化模型的权重分布之间的差异，作为第三损失；

将所述第二损失与所述第三损失中的至少一项，以及所述第一损失作为所述至少两种损失。

5.根据权利要求4所述的方法，其特征在于，所述原始模型包含至少一层原始网络层，所述初始量化模型包含至少一层量化网络层，所述至少一层原始网络层的网络架构与所述至少一层量化网络层的网络架构一一对应；所述当所述原始模型示范值包括所述原始模型权重分布时，将所述原始模型的权重分布与所述初始量化模型的权重分布之间的差异，作为第三损失，包括：

当所述原始模型示范值包括所述原始模型权重分布时，对于所述至少一层原始网络层中的每层原始网络层，获取所述每层原始网络层的第一权重分布数据；

在所述至少一层量化网络层中，对于所述每层原始网络层对应的每层量化网络层，获取所述每层量化网络层的第二权重分布数据；

计算每个第一权重分布数据与其对应的第二权重分布数据之间的差异，从而得到至少一个权重差异；

将所述至少一个权重分布差异的总和作为所述第三损失。