[发明专利]一种主题指导的文本预测方法有效
申请号: | 201910557270.5 | 申请日: | 2019-06-25 |
公开(公告)号: | CN110457674B | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 陈渤;鲁瑞颖;郭丹丹 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/30;G06F16/36;G06N3/08 |
代理公司: | 西安嘉思特知识产权代理事务所(普通合伙) 61230 | 代理人: | 张捷 |
地址: | 710071*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于主题指导的文本预测方法,包括:获得每篇文章对应的词袋向量;根据文章的词袋向量,利用主题模型生成文章的主题特征向量;将文章中每个句子中每个词和相应的主题向量输入语言模型中,得到相应的每个词的时序特征向量;根据每个词的时序特征向量,通过归一化指数函数预测下一个词;利用随机梯度下降法对语言模型以及主题模型中的编码器的参数进行更新,同时利用自适应随机梯度马尔可夫链蒙特卡洛采样方法对主题模型中解码器的参数进行采样更新。该方法将多层主题模型与多层语言模型相结合,提取文本主题中层次化的语义特征以及层次化的时序信息,低层特征语义范围较小,高层特征语义范围更为广泛。 | ||
搜索关键词: | 一种 主题 指导 文本 预测 方法 | ||
【主权项】:
1.一种基于主题指导的文本预测方法,其特征在于,包括:/nS1:获得每篇文章对应的词袋向量;/nS2:根据所述文章的词袋向量,利用主题模型生成所述文章的主题特征向量;/nS3:将所述文章中每个句子中每个词和相应的主题向量输入语言模型中,得到相应的每个词的时序特征向量;/nS4:根据每个词的时序特征向量,通过归一化指数函数预测下一个词;/nS5:利用随机梯度下降法对所述语言模型以及主题模型中的编码器的参数进行更新,同时利用自适应随机梯度马尔可夫链蒙特卡洛采样方法对所述主题模型中解码器的参数进行采样更新。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910557270.5/,转载请声明来源钻瓜专利网。