[发明专利]文本处理方法、装置、介质及设备在审
申请号: | 202211679873.0 | 申请日: | 2022-12-26 |
公开(公告)号: | CN115984868A | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 张家鑫;黄明鑫;黄灿;刘禹良 | 申请(专利权)人: | 抖音视界有限公司 |
主分类号: | G06V30/18 | 分类号: | G06V30/18;G06V30/19 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 王修雨 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 装置 介质 设备 | ||
1.一种文本处理方法,其特征在于,所述方法包括:
接收待处理的文本图像;
将所述文本图像输入文本处理模型,获得所述文本图像对应的检测结果和识别结果;
其中,所述文本处理模型包括特征提取层、编码层、解码层和预测层,通过所述特征提取层对所述文本图像进行特征提取,获得所述文本图像对应的图像特征;通过所述编码层对所述图像特征进行编码,以获得所述文本图像对应的检测特征和识别特征,并对检测特征和识别特征进行拼接,以获得图像拼接特征;通过所述解码层对所述图像拼接特征进行解码处理,获得所述文本图像对应的处理特征;通过所述预测层基于所述处理特征进行预测,获得所述文本图像对应的检测结果和识别结果。
2.根据权利要求1所述的方法,其特征在于,所述通过所述解码层对所述图像拼接特征进行解码处理,获得所述文本图像对应的处理特征,包括:
根据所述图像拼接特征进行多模态注意力处理,获得第一注意力特征;
对所述第一注意力特征进行因子化注意力处理,获得第二注意力特征;
对所述第二注意力特征进行交叉注意力处理,获得所述处理特征。
3.根据权利要求2所述的方法,其特征在于,所述根据所述图像拼接特征进行多模态注意力处理,获得第一注意力特征,包括:
对所述识别特征进行文本分类处理,将所述文本分类处理过程中最后一个特征层的特征作为所述识别特征的文本特征;
将所述检测特征和所述文本特征进行拼接,获得文本拼接特征;
根据所述图像拼接特征确定查询向量,并根据所述文本拼接特征生成键向量和值向量,并基于所述查询向量、所述键向量和所述值向量进行所述多模态注意力处理,获得所述第一注意力特征。
4.根据权利要求1所述的方法,其特征在于,所述通过所述特征提取层对所述文本图像进行特征提取,获得所述文本图像对应的图像特征,包括:
基于所述特征提取层中的多尺度特征提取模块对所述文本图像进行特征提取,获得多尺度特征;
在所述多尺度特征中增加位置编码和层级编码,并将增加所述位置编码和所述层级编码后的特征转换至一维特征表示,以获得所述图像特征。
5.根据权利要求1所述的方法,其特征在于,所述通过所述编码层对所述图像特征进行编码,以获得所述文本图像对应的检测特征和识别特征,包括:
根据所述图像特征,基于transformer编码层进行特征编码,获得所述文本图像对应的编码特征;
基于编码全连接层对所述编码特征中的每一特征进行预测,获得所述编码特征中的每一特征对应的预测位置信息,并从所述预测位置信息中确定目标位置信息;
针对每一所述目标位置信息,根据所述目标位置信息指示的位置,确定所述目标位置信息对应的识别特征,并将所述编码特征中用于预测所述目标位置信息的特征确定为所述检测特征。
6.根据权利要求1所述的方法,其特征在于,所述通过所述预测层基于所述处理特征进行预测,获得所述文本图像对应的检测结果和识别结果,包括:
基于所述预测层中的第一全连接层对所述处理特征进行分类,确定所述处理特征对应的目标分类;
基于所述预测层中的第二全连接层对所述处理特征进行位置回归,确定所述处理特征对应的位置信息;
基于所述预测层中的第三全连接层对所述处理特征进行文本识别,确定所述处理特征对应的文本信息;
根据所述处理特征对应的目标分类、所述位置信息和所述文本信息,确定所述检测结果和识别结果。
7.根据权利要求6所述的方法,其特征在于,所述根据所述处理特征对应的目标分类、所述位置信息和所述文本信息,确定所述检测结果和识别结果,包括:
针对每一所述处理特征,若所述处理特征对应的目标分类为前景分类,则将所述处理特征对应的位置信息作为所述检测结果,并将所述处理特征对应的文本信息确定为所述识别结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于抖音视界有限公司,未经抖音视界有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211679873.0/1.html,转载请声明来源钻瓜专利网。