[发明专利]结合GPU-DMM与文本特征的短文本关键词提取方法有效
申请号: | 201911016268.3 | 申请日: | 2019-10-24 |
公开(公告)号: | CN110807326B | 公开(公告)日: | 2023-04-28 |
发明(设计)人: | 高望;朱珣;邓宏涛;王煜伟;曾凡琮 | 申请(专利权)人: | 江汉大学 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/284 |
代理公司: | 武汉宇晨专利事务所(普通合伙) 42001 | 代理人: | 黄瑞棠 |
地址: | 430056 湖北*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 结合 gpu dmm 文本 特征 关键词 提取 方法 | ||
1.一种结合GPU-DMM与文本特征的短文本关键词提取方法,其特征在于:
①对获取的短文本语料数据集进行预处理;
②抽取预处理短文本的词性序列搭配并判断是否满足词性序列条件,首先判断短文本中是否存在多个名词连接构成的词性序列搭配,根据语料人工标注结果认定当一个短文本是由多个名词连接构成时,当关键词权重与所处位置成反比关系时,输出关键词序列,否则,实施步骤③;
③基于TF-IDF算法和词语长度计算关键词的TF-IDF权重;
其中,WtTFIDF表示词t的TF-IDF权重值,LEN(t)表示词t的长度,nt表示词t在语料数据集中出现的次数,V表示语料数据集中词语的总数,表示语料数据集中所有词语的出现次数之和,D表示语料数据集中所有短文本的总数;
④使用GPU-DMM模型对短文本语料数据集主题建模,并抽取出主题—词矩阵,根据主题—词矩阵计算关键词的主题权重;
⑤根据TF-IDF权重和主题权重加权叠加得到加权关键词权重,并按照权重排序结果输出关键词序列。
2.按权利要求1所述的方法,其特征在于所述的步骤①:
所述的预处理包括分词、词性标注、过滤掉非中文字符和停用词。
3.按权利要求1所述的方法,其特征在于所述的步骤④:
在使用GPU-DMM模型抽取短文本语料数据集主题时,对于每篇短文本,每次循环迭代的过程中都需要采样出一个主题,其条件概率受到其他短文本的主题标签影响,如公式(2)所示:
其中,zd表示短文本d的主题,-d表示相关变量去除掉短文本d及其所包含的所有词语,mk表示主题为k的短文本数量,α和β表示预先指定的狄利克雷分布的先验参数,K表示主题总数,表示词t在短文本d中出现的次数,表示在词语t在主题k罐子中出现的次数;
如公式(3)所示,主题—词矩阵通过点估计进行近似计算:
其中,表示词t分配至主题k的概率,设短文本d的主题为k,则其中词t的主题权重值WtTOPIC为
4.按权利要求1所述的方法,其特征在于所述的步骤⑤:
如公式(4)所示,在计算得出词t的TF-IDF权重和主题权重之后,词t的加权关键词权重Wt由TF-IDF权重和主题权重加权叠加计算:
Wt=λ×WtTFIDF+(1-λ)×WtTOPIC (4)
其中λ是权重平衡参数;
最后,根据短文本中所有词的加权关键词权重从高到低依次输出关键词序列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江汉大学,未经江汉大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911016268.3/1.html,转载请声明来源钻瓜专利网。