[发明专利]基于在HDP模型中引入自适应窗口的文档主题提取方法有效
申请号: | 202010104259.6 | 申请日: | 2020-02-20 |
公开(公告)号: | CN111339296B | 公开(公告)日: | 2023-03-28 |
发明(设计)人: | 罗瑜;常锦鹏;彭湾湾;曾叶;吴晓华 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/34 |
代理公司: | 北京正华智诚专利代理事务所(普通合伙) 11870 | 代理人: | 韦海英 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 hdp 模型 引入 自适应 窗口 文档 主题 提取 方法 | ||
1.基于在HDP模型中引入自适应窗口的文档主题提取方法,其特征在于,包括以下步骤:
S1、基于待提取信息的文档生成初始HDP模型;
S2、在生成的初始HDP模型中引入自适应窗口机制,构建AWIHDP模型;
S3、将当前待提取信息的文本输入到当前AWIHDP模型中,并对其进行更新;
S4、判断是否有新的待提取信息文本到达;
若是,则返回步骤S3;
若否,则进入步骤S5;
S5、将当前AWIHDP模型提取到所有文本的主题词分布作为文档主题提取结果;
所述步骤S1具体为:
A1、从基分布H和第一聚集参数γ构成的狄利克雷过程中,抽样出基分布G0;
A2、从基分布G0和第二聚集参数α0构成的狄利克雷过程中,为每篇文档抽取主题词分布Gj,生成HDP模型;
所述步骤S2中的引入自适应窗口机制的WAIHDP模型包括HDPm子模型和HDPd子模型;
所述HDPm子模型用于文档建模;
所述HDPd子模型用于根据滑动窗口算法对当前窗口进行漂移检测;
所述步骤S3具体为:
S31、将当前待提取信息的文档划分为长度为n的文档块,并将其中的第一个文档块添加到窗口W0中;
S32、将当前窗口滑动至下一文档块,通过HDPm子模型计算当前窗口Wi中文档数据分布变化,并通过HDPd子模型判断当前窗口是否发生主题漂移;
其中,下标i=1,2,…;
若是,则进入步骤S33;
若否,则进入步骤S37;
S33、将当前窗口平均分割为Wi1和Wi2,并使用HDPm子模型分别计算窗口Wi1和窗口Wi2中的文档数据分布变化,然后通过HDPd子模型判断窗口Wi1和窗口Wi2发生主题漂移的情况;
若仅窗口Wi1发生主题漂移,则进入步骤S34;
若仅窗口Wi2发生主题漂移,则进入步骤S35;
若窗口Wi1和窗口Wi2皆发生主题漂移,则进入步骤S36;
S34、根据窗口Wi1中的文档,基于HDP算法重新生成HDP模型,并进入步骤S38;
S35、将窗口Wi1和窗口Wi-1合并,根据新窗口中的文档,基于HDP算法更新HDPm子模型,然后根据窗口Wi2中的文档,基于HDP算法重新生成HDP模型,并进入步骤S38;
S36、根据窗口Wi中的文档,基于HDP算法重新生成HDP模型,并进入步骤S38;
S37、将窗口Wi和窗口Wi-1合并,根据新窗口中的文档,基于HDP算法更新HDPm子模型,并进入步骤S38;
S38、通过更新得到的HDPm子模型或重新生成的HDP模型,实现对AWIHDP模型的更新;
S39、重复步骤S32~S38,当待检测文档全部训练完成后,迭代结束,完成对当前AWIHDP模型的更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010104259.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种密码校验方法及装置
- 下一篇:一种采集车辆轨迹数据的仿真方法、系统及设备