[发明专利]基于seq2seq模型的结构化论点生成方法及系统在审
申请号: | 201711204816.6 | 申请日: | 2017-11-27 |
公开(公告)号: | CN107832310A | 公开(公告)日: | 2018-03-23 |
发明(设计)人: | 宋巍;刘彤;刘丽珍 | 申请(专利权)人: | 首都师范大学 |
主分类号: | G06F17/28 | 分类号: | G06F17/28 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙)11201 | 代理人: | 张润 |
地址: | 100037 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 seq2seq 模型 结构 论点 生成 方法 系统 | ||
1.一种基于seq2seq模型的结构化论点生成方法,其特征在于,包括以下步骤:
对数据进行预处理,以对seq2seq模型的输入建立句对;
接收输入主题,并通过向量转换将词转换得到词向量;
将所述词向量输入所述seq2seq模型的编码器中进行运算和编码,以得到语境向量,并且对所述语境向量采用注意力机制;
通过所述seq2seq模型的解码器对经过注意力机制处理的语境向量进行解码,生成与所述输入主题相关的主分论点,并根据所述主分论点得到所述主分论点下面的多个次分论点。
2.根据权利要求1所述的基于seq2seq模型的结构化论点生成方法,其特征在于,所述编码器为第一循环神经网络RNN结构,所述RNN结构为神经网络在时间上的展开。
3.根据权利要求1所述的基于seq2seq模型的结构化论点生成方法,其特征在于,所述对所述语境向量采用注意力机制,进一步包括:
对所述语境向量乘以权重向量,其中,所述权重向量根据时间得到。
4.根据权利要求1所述的基于seq2seq模型的结构化论点生成方法,其特征在于,所述解码器为第二RNN结构,其中,在结构的最后一层通过softmax函数生成在时间节点上的词的概率分布,并根据概率的大小选择所述时间节点上生成的词,从而根据生成的句子与源所对应的目标句子进行交叉熵的计算,并利用神经网络的反向传播机制,以调节网络的参数,完成网络的学习过程。
5.根据权利要求1-4任一项所述的基于seq2seq模型的结构化论点生成方法,其特征在于,还包括:
对所述多个次分论点的每个次分论点进行评价,得到评价分;
根据所述评价分计算每个句子的平均分和总平均分,以确定效果是否达到预期。
6.一种基于seq2seq模型的结构化论点生成系统,其特征在于,包括:
预处理模块,用于对数据进行预处理,以对seq2seq模型的输入建立句对;
转换模块,用于接收输入主题,并通过向量转换将词转换得到词向量;
编码模块,用于将所述词向量输入所述seq2seq模型的编码器中进行运算和编码,以得到语境向量,并且对所述语境向量采用注意力机制;
解码模块,用于通过所述seq2seq模型的解码器对经过注意力机制处理的语境向量进行解码,生成与所述输入主题相关的主分论点,并根据所述主分论点得到所述主分论点下面的多个次分论点。
7.根据权利要求6所述的基于seq2seq模型的结构化论点生成系统,其特征在于,所述编码器为第一循环神经网络RNN结构,所述RNN结构为神经网络在时间上的展开。
8.根据权利要求6所述的基于seq2seq模型的结构化论点生成系统,其特征在于,所述编码模块还用于对所述语境向量乘以权重向量,其中,所述权重向量根据时间得到。
9.根据权利要求6所述的基于seq2seq模型的结构化论点生成系统,其特征在于,所述解码器为第二RNN结构,其中,在结构的最后一层通过softmax函数生成在时间节点上的词的概率分布,并根据概率的大小选择所述时间节点上生成的词,从而根据生成的句子与源所对应的目标句子进行交叉熵的计算,并利用神经网络的反向传播机制,以调节网络的参数,完成网络的学习过程。
10.根据权利要求6-9任一项所述的基于seq2seq模型的结构化论点生成系统,其特征在于,还包括:
评价模块,用于对所述多个次分论点的每个次分论点进行评价,得到评价分;
计算模块,用于根据所述评价分计算每个句子的平均分和总平均分,以确定效果是否达到预期。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于首都师范大学,未经首都师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711204816.6/1.html,转载请声明来源钻瓜专利网。