[发明专利]一种多文档摘要生成的方法、装置和终端有效
申请号: | 201710369694.X | 申请日: | 2017-05-23 |
公开(公告)号: | CN108959312B | 公开(公告)日: | 2021-01-29 |
发明(设计)人: | 李丕绩;吕正东;李航 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F16/34 | 分类号: | G06F16/34;G06F40/258;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 北京中博世达专利商标代理有限公司 11274 | 代理人: | 申健 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文档 摘要 生成 方法 装置 终端 | ||
1.一种多文档摘要生成的方法,其特征在于,包括:
获取候选句子集合,所述候选句子集合包括关于同一个事件的多篇候选文档中每篇候选文档包括的候选句子;
利用预设网络模型中的级联注意力机制和无监督学习模型对所述候选句子集合中每个候选句子进行训练,获得所述每个候选句子的重要性,一个候选句子的重要性与级联注意力机制矩阵中的一个行向量的模对应,所述级联注意力机制矩阵为所述预设网络模型利用无监督学习模型优化重建误差函数过程中输出的;所述候选句子的重要性用于表示所述候选句子所表达的含义在所述多篇候选文档中的重要程度;所述无监督学习模型包括神经网络模型;
在解码阶段的隐层引入所述级联注意力机制,注意力计算公式为其中,score(.)函数用来计算目标向量和源向量的注意关系,其中,表示输入阶段的第s个候选句子;
根据级联注意力机制矩阵,更新解码阶段的隐层向量:
在解码阶段的输出层引入所述级联注意力机制,并且融合所述解码阶段的隐层的注意力信息:
其中λa为注意力信息的权重,模型自动学习;
根据所述每个候选句子的重要性,从所述候选句子集合中选择符合预设条件的短语作为摘要短语集合;
根据所述摘要短语集合获得所述多篇候选文档的摘要。
2.根据权利要求1所述的方法,其特征在于,所述利用预设网络模型中的级联注意力机制和无监督学习模型对所述候选句子集合中每个候选句子训练,获取所述候选句子集合中每个候选句子的重要性,包括:
根据所述预设网络模型获取用于描述所述事件的m个向量;
根据所述每个候选句子、所述用于描述所述事件的m个向量以及候选矩阵,在进行无监督学习模型过程中优化重建误差函数,在所述重建误差函数取值最小的情况下,将所述预设网络模型输出的级联注意力机制矩阵中每一行的行向量的模作为一个候选句子的重要性,获得所述每个候选句子的重要性,所述重建误差函数包括:所述每个候选句子与所述用于描述所述事件的m个向量之间的关系、所述候选矩阵以及所述候选矩阵对应的权重,所述候选矩阵为m行×n列的矩阵,其中,m和n为正整数,n为所述多篇候选文档包括的词语的数量。
3.根据权利要求1所述的方法,其特征在于,所述根据所述每个候选句子的重要性,从所述候选句子集合中选择符合预设条件的短语作为摘要短语集合,包括:
过滤掉所述每个候选句子中不符合预设规则的词语,获取过滤后的每个候选句子;
从所述过滤后的每个候选句子的语法树中提取至少一个第一词性短语和至少一个第二词性短语组成短语集合;
根据所述每个候选句子各自的重要性,计算从所述每个候选句子中提取的至少一个第一词性短语和至少一个第二词性短语重要性;
根据所述每个候选句子对应的至少一个第一词性短语和至少一个第二词性短语重要性,从所述短语集合选取满足预设条件的第一词性短语和第二词性短语作为摘要短语集合。
4.根据权利要求3所述的方法,其特征在于,所述过滤掉所述每个候选句子中不符合预设规则的词语,获取过滤后的每个候选句子,包括:
过滤掉所述每个候选句子中的噪音,得到所述每个候选句子对应的候选词语集合,所述每个候选句子中包括多个词语,所述多个词语中每个词语对应一个重要性;
根据所述每个词语的重要性,过滤掉所述每个候选句子对应的候选词语集合中重要性低于预设阈值的词语,获取所述过滤后的每个候选句子。
5.根据权利要求4所述的方法,其特征在于,所述根据所述每个词语的重要性,过滤掉所述每个候选句子对应的候选词语集合中重要性低于预设阈值的词语之前,所述方法还包括:
利用预设网络模型中的级联注意力机制和无监督学习模型对所述候选句子集合中每个候选句子训练,获取所述多篇候选文档中包括的多个不同词语中每个词语的重要性。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710369694.X/1.html,转载请声明来源钻瓜专利网。