[发明专利]公式识别模型的训练方法、装置和用于模型训练的装置

说明书

本发明实施例提供了一种公式识别模型的训练方法、装置和用于模型训练的装置。所述方法包括：获取公式识别样本以及所述公式识别样本对应的目标识别结果；基于所述公式识别样本对公式识别模型进行迭代训练，所述公式识别模型包括编码器和解码器；在每轮训练中，根据所述解码器输出的公式识别结果和所述目标识别结果，计算所述公式识别模型的损失值，并根据所述损失值调整所述公式识别模型的模型参数；其中，所述解码器基于所述公式识别样本的当前编码特征和上一个编码特征的解码结果输出公式识别结果；当所述联合损失值满足收敛条件时，得到训练完成的公式识别模型。本发明实施例可以提升公式识别模型的识别准确度。

技术领域

本发明涉及智能控制技术领域，尤其涉及一种公式识别模型的训练方法、装置和用于模型训练的装置。

背景技术

公式识别技术在自动阅卷、拍照搜题、试题数字化等教育领域具有广泛的应用需求。由于公式自身可能具有复杂的二维结构、繁多的符号、符号的相似性以及含义的多样性，导致公式识别的准确度不高。

近年来，随着计算机计算能力的显著提升和大数据时代的到来，基于神经网络的公式识别算法被广泛应用于各类公式识别场景中。目前，比较通用的公式识别算法有两种：一种是基于“切分-识别-再处理”等处理流程的分阶段式识别算法，另一种是端到端的公式识别算法。

然而，分阶段式识别算法中，每个阶段都会引起误差，且各个阶段的误差会进行累积，导致最终准确率很差。对于端到端的公式识别算法中，解码阶段主要采用attention机制，容易引起识别误差偏移，导致识别时间片越长，准确率越差。

发明内容

本发明实施例提供一种公式识别模型的训练方法、装置和用于模型训练的装置，可以提升公式识别模型的识别准确度。

为了解决上述问题，本发明实施例公开了一种公式识别模型的训练方法，所述方法包括：

获取公式识别样本以及所述公式识别样本对应的目标识别结果；

基于所述公式识别样本对公式识别模型进行迭代训练，所述公式识别模型包括编码器和解码器；

在每轮训练中，根据所述解码器输出的公式识别结果和所述目标识别结果，计算所述公式识别模型的损失值，并根据所述损失值调整所述公式识别模型的模型参数；其中，所述解码器基于所述公式识别样本的当前编码特征和上一个编码特征的解码结果输出公式识别结果；

当所述联合损失值满足收敛条件时，得到训练完成的公式识别模型。

可选地，所述编码特征包括特征图，所述根据所述解码器输出的公式识别结果和所述目标识别结果，计算所述公式识别模型的损失值，包括：

将所述公式识别样本输入至所述公式识别模型的编码器中进行编码处理，得到所述公式识别样本的第一特征图；

对所述第一特征图进行拆分处理，得到M个第二特征图；

按照预设规则对所述M个第二特征图进行排序；

将第N-1个第二特征图对应的解码结果和第N个第二特征图输入至所述公式识别模型的解码器中进行解码处理，直至第M个第二特征图输入至所述解码器，得到所述公式识别样本对应的公式识别结果；其中，M和N为正整数，且N小于或等于M；

根据所述公式识别结果和所述目标识别结果计算所述公式识别模型的损失值。

可选地，所述对所述第一特征图进行拆分处理，得到M个第二特征图，包括：

确定所述第一特征图对应的相对位置编码；

将所述相对位置编码添加至所述第一特征图中，得到第三特征图；

对所述第三特征图进行拆分处理，得到M个第二特征图。