[发明专利]用于生成文本摘要的方法和装置在审
申请号: | 202010246967.3 | 申请日: | 2020-03-31 |
公开(公告)号: | CN111460135A | 公开(公告)日: | 2020-07-28 |
发明(设计)人: | 黄佳艳 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/34 | 分类号: | G06F16/34;G06F40/258;G06F40/289;G06F40/216;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 生成 文本 摘要 方法 装置 | ||
本申请实施例公开了用于生成文本摘要的方法和装置,涉及知识图谱技术领域。具体实现方案为:对目标文本进行预处理,得到预先训练的编码解码模型的第一输入序列与预先训练的抽取式文本摘要模型的第二输入序列;将第一输入序列输入编码解码模型得到编码解码模型中解码部分输出的待解码向量;将第二输入序列输入抽取式文本摘要模型得到抽取式文本摘要模型的输出向量;基于待解码向量与输出向量进行解码操作,生成目标文本的摘要。该实施方式提高了生成文本摘要的效率。
技术领域
本申请实施例涉及计算机技术领域,尤其涉及自然语言识别技术领域。
背景技术
自动摘要文本在许多NLP(Natural Language Processing,自然语言处理)领域中有着非常重要的应用。如新闻标题生成、会议纪要、社交短文本的话题生成、智能客服任务等等。如何生成可读性强的摘要文本变成了炙手可热的研究课题。
目前生成文本摘要的方法一般分为抽取式和生成式。抽取式摘要的一般实现方法为从原文中选取关键词、关键句组成摘要。生成式摘要允许摘要中包含新的词语或短语,具有更高的灵活性高,其实现方法一般为利用序列到序列(Seq2Seq)模型。
发明内容
本申请实施例提出了用于生成文本摘要的方法、装置、设备以及存储介质。
第一方面,本申请的一些实施例提供了一种用于生成文本摘要的方法,该方法包括:对目标文本进行预处理,得到预先训练的编码解码模型的第一输入序列与预先训练的抽取式文本摘要模型的第二输入序列;将第一输入序列输入编码解码模型得到编码解码模型中解码部分输出的待解码向量;将第二输入序列输入抽取式文本摘要模型得到抽取式文本摘要模型的输出向量;基于待解码向量与输出向量进行解码操作,生成目标文本的摘要。
第二方面,本申请的一些实施例提供了一种用于生成文本摘要的装置,该装置包括:预处理单元,被配置成对目标文本进行预处理,得到预先训练的编码解码模型的第一输入序列与预先训练的抽取式文本摘要模型的第二输入序列;第一输入单元,被配置成将第一输入序列输入编码解码模型得到编码解码模型中解码部分输出的待解码向量;第二输入单元,被配置成将第二输入序列输入抽取式文本摘要模型得到抽取式文本摘要模型的输出向量;生成单元,被配置成基于待解码向量与输出向量进行解码操作,生成目标文本的摘要。
第三方面,本申请的一些实施例提供了一种设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第一方面上述的方法。
第四方面,本申请的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面上述的方法。
根据本申请的技术,通过抽取式文本摘要模型的输出向量缩小了解码空间,提高了生成文本摘要的效率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是本申请的一些可以应用于其中的示例性系统架构图;
图2是根据本申请第一实施例的示意图;
图3是根据本申请第二实施例的示意图;
图4是是根据本申请第三实施例的示意图;
图5是根据本申请实施例的一个可选实施方式中前馈神经网络的示意图;
图6是根据本申请第四实施例的示意图;
图7是根据本申请实施例的一个可选实施方式中模型设计的示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010246967.3/2.html,转载请声明来源钻瓜专利网。