[发明专利]公式识别模型的训练方法、装置和用于模型训练的装置在审
申请号: | 202111156277.X | 申请日: | 2021-09-29 |
公开(公告)号: | CN113919294A | 公开(公告)日: | 2022-01-11 |
发明(设计)人: | 秦波;辛晓哲 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06F40/126 | 分类号: | G06F40/126;G06V30/10;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 苏培华 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 公式 识别 模型 训练 方法 装置 用于 | ||
1.一种公式识别模型的训练方法,其特征在于,所述方法包括:
获取公式识别样本以及所述公式识别样本对应的目标识别结果;
基于所述公式识别样本对公式识别模型进行迭代训练,所述公式识别模型包括编码器和解码器;
在每轮训练中,根据所述解码器输出的公式识别结果和所述目标识别结果,计算所述公式识别模型的损失值,并根据所述损失值调整所述公式识别模型的模型参数;其中,所述解码器基于所述公式识别样本的当前编码特征和上一个编码特征的解码结果输出公式识别结果;
当所述联合损失值满足收敛条件时,得到训练完成的公式识别模型。
2.根据权利要求1所述的方法,其特征在于,所述编码特征包括特征图,所述根据所述解码器输出的公式识别结果和所述目标识别结果,计算所述公式识别模型的损失值,包括:
将所述公式识别样本输入至所述公式识别模型的编码器中进行编码处理,得到所述公式识别样本的第一特征图;
对所述第一特征图进行拆分处理,得到M个第二特征图;
按照预设规则对所述M个第二特征图进行排序;
将第N-1个第二特征图对应的解码结果和第N个第二特征图输入至所述公式识别模型的解码器中进行解码处理,直至第M个第二特征图输入至所述解码器,得到所述公式识别样本对应的公式识别结果;其中,M和N为正整数,且N小于或等于M;
根据所述公式识别结果和所述目标识别结果计算所述公式识别模型的损失值。
3.根据权利要求2所述的方法,其特征在于,所述对所述第一特征图进行拆分处理,得到M个第二特征图,包括:
确定所述第一特征图对应的相对位置编码;
将所述相对位置编码添加至所述第一特征图中,得到第三特征图;
对所述第三特征图进行拆分处理,得到M个第二特征图。
4.根据权利要求2所述的方法,其特征在于,所述对所述第一特征图进行拆分处理,得到M个第二特征图,包括:
确定所述第一特征图的宽度值;
根据所述第一特征图的宽度值对所述第一特征图进行拆分处理,得到M个第二特征图。
5.根据权利要求2所述的方法,其特征在于,若N的取值为1,所述第N-1个第二特征图对应的解码结果为预设值。
6.根据权利要求1至5任一所述的方法,其特征在于,所述方法还包括:
获取目标图像,所述目标图像中包含待识别的公式;
将所述目标图像输入训练完成的公式识别模型进行公式识别处理,得到所述目标图像对应的公式识别结果。
7.一种公式识别模型的训练装置,其特征在于,所述装置包括:
训练数据获取模块,用于获取公式识别样本以及所述公式识别样本对应的目标识别结果;
迭代训练模块,用于基于所述公式识别样本对公式识别模型进行迭代训练,所述公式识别模型包括编码器和解码器;
损失值计算模块,用于在每轮训练中,根据所述解码器输出的公式识别结果和所述目标识别结果,计算所述公式识别模型的损失值,并根据所述损失值调整所述公式识别模型的模型参数;其中,所述解码器基于所述公式识别样本的当前编码特征和上一个编码特征的解码结果输出公式识别结果;
训练完成条件确定模块,用于当所述联合损失值满足收敛条件时,得到训练完成的公式识别模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111156277.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种甲氧氯普胺双氯新杂质和用途
- 下一篇:一种取词方法、装置和用于取词的装置