[发明专利]一种基于策略梯度算法的自动生成提交需求摘要的方法有效
申请号: | 202010075692.1 | 申请日: | 2020-01-22 |
公开(公告)号: | CN111291175B | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 李辉;王思文 | 申请(专利权)人: | 大连海事大学 |
主分类号: | G06F16/34 | 分类号: | G06F16/34;G06N3/04;G06N3/08 |
代理公司: | 大连东方专利代理有限责任公司 21212 | 代理人: | 姜玉蓉;李洪福 |
地址: | 116026 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 策略 梯度 算法 自动 生成 提交 需求 摘要 方法 | ||
1.一种基于策略梯度算法的自动生成提交需求摘要的方法,其特征在于包括:
提取提交需求关系中的提交信息和源代码注释、以及文本信息相对应的文本语义树结构,将上述提取信息作为序列到序列模型的输入;
通过双向循环神经网络编码器将输入信息编码到隐藏状态中,映射成固定长度的向量序列,通过注意力分布机制对其分配不同的权重形成上下文向量,将上下文向量输入到解码器中,利用解码器的隐藏状态解码出词汇分布;
使用指针生成器通过单词的生成概率对从词汇表中选择的单词和从源序列中复制的单词之间进行软控制、得到最终词汇分布;
利用强化学习中的策略梯度算法结合N次蒙特卡洛搜索、将带有指针生成器和注意力机制的编码器-解码器模型作为强化学习中的智能体;
将生成的最终词汇分布看作是遵循的策略,已经生成的单词看作是状态,下一个要生成的单词看作是动作,通过N次蒙特卡洛搜索计算包含一个动作的序列的平均奖励,找到平均奖励最大的动作序列,将该动作为要选择的动作,依此进行得到完整序列;
利用蒙特卡洛搜索出的序列和基线序列的差值来更新策略梯度,具体采用如下方式:
使用rollout策略的蒙特卡洛搜索方法估计中间时间步骤t上的动作值,假设要生成的序列长度为T,使用rollout策略的蒙特卡洛搜索方法对剩下的T-t个未知的单词进行采样,进行N次蒙特卡洛搜索输出N条样例,将N条样例的奖励取平均值作为包含该动作的期望奖励,选择期望奖励最大的动作为要选择的动作,依次类推得到完整的序列即提交需求的摘要。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于大连海事大学,未经大连海事大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010075692.1/1.html,转载请声明来源钻瓜专利网。