[发明专利]一种基于概念信息和词权重的主题生成方法有效
申请号: | 202010150731.X | 申请日: | 2020-03-06 |
公开(公告)号: | CN111460079B | 公开(公告)日: | 2023-03-28 |
发明(设计)人: | 蔡毅;张华奎 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F40/295;G06F40/216 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 裴磊磊 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 概念 信息 权重 主题 生成 方法 | ||
1.一种基于概念信息和词权重的主题生成方法,其特征在于,包括步骤:
对于一个文本语料库D,识别出文本语料库中每一篇文档m中的实体;
对于识别出的所有实体,在知识库中检索每个实体的概念信息;
对语料库D中的每一篇文档m进行预处理;
使用DCEP词权重方案对语料库D中的每一篇文档m进行处理,并构建成为新的语料库D′;
所述使用DCEP词权重方案对每一篇文档m的处理的步骤中,包括步骤:
设置超参数nc,检查文档m中每个概念下的所有实体,将每一篇文档中每个概念下的实体数量与nc进行比较:
如果一个概念下的实体数量低于nc,则无需将该概念添加到概念集Hm中;
如果一个概念hm,i下的实体数量nm,i存在nm,i≥nc,则将该概念添加到概念集Hm中,并将该概念下的实体构成实体集T′m,i,该篇文档中的其他实体组成实体集T″m,i;
将文档m复制|Hm|次,构造新的文档副本列表来替换原始文档m,|Hm|表示概念集的大小值;
在每个文档副本m′i∈m′中,改变每个单词的频率;
如果|Hm|=0,表示文档m中没有概念下的实体的数量nm,i≥nc,则不会复制该文档,改变每个单词的频率;
将DCEP词权重方案处理后得到的文档组成新的语料库D′;
所述在每个文档副本m′i∈m′中,改变每个单词的频率的步骤中,单词频率具体改变方法为:
其中,表示经过DCEP方案处理后文档副本m′i中词语w的词频,Nm,i,w表示原始的文档副本m′i中词语w的词频,/表示原始的文档副本m′i中词语的最大词频,Tm,i是文档副本m′i中普通单词的集合;
将新的语料库D′输入到标准的LDA主题模型中,生成主题。
2.根据权利要求1所述的方法,其特征在于,所述预处理包括分词、词形还原、去除停用词以及去除出现文档数过少的词语。
3.根据权利要求1所述的方法,其特征在于,所述|Hm|=0时,则不会复制该文档,改变每个单词的频率的步骤中,单词频率改变方法具体为:将文档中每种实体的词频加上文档的最大词频,计算公式如下:
其中,和Nm,w分别是经过DCEP方案和未经过DCEP方案处理的文档m中词语w的词频,T′m代表文档m中的实体集,Tm代表文档m中的普通单词集合。/
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010150731.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种组件化仿真建模方法及系统
- 下一篇:一种仿布植绒面料制作方法
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置