[发明专利]文档处理及文档模型的训练方法、装置、设备和存储介质在审
申请号: | 202111431086.X | 申请日: | 2021-11-29 |
公开(公告)号: | CN114218889A | 公开(公告)日: | 2022-03-22 |
发明(设计)人: | 彭启明;罗斌;曹宇慧;冯仕堃;陈永锋 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/10 | 分类号: | G06F40/10;G06F40/30;G06F40/205;G06K9/62;G06V10/25;G06V30/19;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 田宏宾 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文档 处理 模型 训练 方法 装置 设备 存储 介质 | ||
本公开提供了一种文档处理及文档模型的训练方法、装置、设备和存储介质,涉及计算机技术领域,具体涉及自然语言处理、计算机视觉、深度学习等人工智能领域。文档处理方法包括:获取待处理文档的至少一个模态的信息,所述至少一个模态的信息中各个模态的信息包括至少一个处理单元,所述至少一个模态的信息包括文本序列,所述处理单元包括文本单元,且,同一布局下的所述文本单元在所述文本序列内按照预设顺序排列;获取所述至少一个处理单元中各个处理单元的表示向量;基于所述各个处理单元的表示向量,获得所述待处理文档的处理结果。本公开可以提高文档处理效果。
技术领域
本公开涉及计算机技术领域,具体涉及自然语言处理、计算机视觉、深度学习等人工智能领域,尤其涉及一种文档处理及文档模型的训练方法、设备和存储介质。
背景技术
随着数字化时代的来临,文档从传统的纸质文档逐渐转变为电子文档。为了理解电子文档,可以采用文档模型对电子文档进行处理。
随着电子文档包含的信息种类越来越多,如何提高文档处理效果是亟需解决的问题。
发明内容
本公开提供了一种文档处理及文档模型的训练方法、设备和存储介质。
根据本公开的一方面,提供了一种文档处理方法,包括:获取待处理文档的至少一个模态的信息,所述至少一个模态的信息中各个模态的信息包括至少一个处理单元,所述至少一个模态的信息包括文本序列,所述处理单元包括文本单元,且,同一布局下的所述文本单元在所述文本序列内按照预设顺序排列;获取所述至少一个处理单元中各个处理单元的表示向量;基于所述各个处理单元的表示向量,获得所述待处理文档的处理结果。
根据本公开的另一方面,提供了一种文档模型的训练方法,包括:获取文档样本的至少一个模态的信息,所述至少一个模态的信息中各个模态的信息包括至少一个处理单元,所述至少一个模态的信息包括文本序列,所述至少一个处理单元包括文本单元,且,同一布局下的所述文本单元在所述文本序列内按照预设顺序排列;获取所述至少一个处理单元中各个处理单元的表示向量;基于所述各个处理单元的表示向量,获得所述文档样本的预测结果;基于所述预测结果,构建损失函数;基于所述损失函数,训练文档模型。
根据本公开的另一方面,提供了一种文档处理装置,包括:第一获取模块,用于获取待处理文档的至少一个模态的信息,所述至少一个模态的信息中各个模态的信息包括至少一个处理单元,所述至少一个模态的信息包括文本序列,所述处理单元包括文本单元,且,同一布局下的所述文本单元在所述文本序列内按照预设顺序排列;第二获取模块,用于获取所述至少一个处理单元中各个处理单元的表示向量;第三获取模块,用于基于所述各个处理单元的表示向量,获得所述待处理文档的处理结果。
根据本公开的另一方面,提供了一种文档模型的训练装置,包括:第一获取模块,用于获取文档样本的至少一个模态的信息,所述至少一个模态的信息中各个模态的信息包括至少一个处理单元,所述至少一个模态的信息包括文本序列,所述至少一个处理单元包括文本单元,且,同一布局下的所述文本单元在所述文本序列内按照预设顺序排列;第二获取模块,用于获取所述至少一个处理单元中各个处理单元的表示向量;第三获取模块,用于基于所述各个处理单元的表示向量,获得所述文档样本的预测结果;构建模块,用于基于所述预测结果,构建损失函数;训练模块,用于基于所述损失函数,训练文档模型。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111431086.X/2.html,转载请声明来源钻瓜专利网。