[发明专利]一种网络热点话题发现方法及系统有效
申请号: | 201810136641.8 | 申请日: | 2018-02-09 |
公开(公告)号: | CN108509490B | 公开(公告)日: | 2020-10-02 |
发明(设计)人: | 段青玲;李道亮;张璐;刘怡然;曹新凯;王凯 | 申请(专利权)人: | 中国农业大学 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F40/289;G06F40/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100193 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网络 热点话题 发现 方法 系统 | ||
1.一种网络热点话题发现方法,其特征在于,包括:
S1,基于词语的信息熵从预设时间段的文本语料中提取热词候选词;
S2,根据所述热词候选词的单日词频和历史波动性计算所述热词候选词的热度,按照热度降序将所述热词候选词进行排序,并将前N个热词候选词作为热词,其中N=1;
S3,计算每两个所述热词的相关性,当两个所述热词的相关性大于第一预设阈值时,将两个所述热词合并到同一集合中,并将其他每个热词单独存放在一个集合中,获得所有热词集合;
S4,计算每两个所述热词集合之间的共现度,当两个所述热词集合之间的共现度大于第二预设阈值时,将两个所述热词集合进行合并,获得合并后的所有热词集合;
S5,计算每个所述合并后的热词集合中每两个热词之间的共现度,并统计每个热词的共现度,按照共现度降序将所有热词进行排序,将前M个热词作为每个所述合并后的热词集合对应的热点话题的名称,其中M=1;
步骤S2中所述根据所述热词候选词的单日词频和历史波动性计算所述热词候选词的热度,进一步包括:
根据所述热词候选词的单日词频计算所述热词候选词的基础权值,根据所述热词候选词的历史波动性计算所述热词候选词的波动权值;
根据所述基础权值和所述波动权值计算所述热词候选词的热度,计算公式为:
H=B*0.5+F*0.5
其中,B为所述热词候选词的基础权值;F为所述热词候选词的波动权值;H为所述热词候选词的热度;
基础权值B的计算公式如下:
B=log(1+log(1+log(tf+1)))
其中,tf表示热词候选词的日统计词频;
基础权值的整体波动性V、长期变化L、短期变化S和波动权值F分别表示如下:
F=V*0.4+L*0.4+S*0.2
其中,n表示实验数据周期,Bi表示基础词频;
步骤S3中所述计算每两个所述热词的相关性,进一步包括:
计算每两个所述热词的编辑距离相似度和知网相似度;
根据所述编辑距离相似度和所述知网相似度计算每两个所述热词的相关性,计算公式为:
sim(X,Y)=α*sime(X,Y)+β*simc(X,Y),α+β=1
其中,sim(X,Y)表示词语X和词语Y的相关性;sime(X,Y)表示词语X和词语Y的编辑距离相似度;simc(X,Y)示词语X和词语Y的知网相似度,α和β分别表示编辑距离相似度和知网相似度的权重;设词语X由n个字符构成X=x1x2,…,xn,词语Y由m个字符构成Y=y1y2,…,ym,C={cs,ci,cd}分别表示字符变化时替换、插入和删除一个字符的代价,则X和Y的编辑距离递归地定义如下:
其中,Head(X)=x1x2…xn-1,Head(Y)=y1y2…ym-1,Ci(ε,ym)=ci,Cd(xn,ε)=cd,
因此,热词则X和Y的编辑距离相似度计算公式如下:
其中,|X|,|Y|分别表示热词X和热词Y的长度;
设词语X由n个义项组成,用Cx1,Cx2,…,Cxn表示,Y由m个义项组成,用Cy1,Cy2,…,Cyn表示,则X和Y的知网相似度simc(X,Y)的计算公式如下:
其中,Sim(Cxi,Cyj)指两个义项Cxi和Cyj的相似度;
义项Cxi和Cyj的相似度计算公式如下:
其中,Simpj(P1,P2)指两个义原P1和P2的相似度,βi(1≤i≤4)是可调节的参数,且满足β1+β2+β3+β4=1,β1≤β2≤β3≤β4;
义原P1和P2的相似度计算公式如下:
Simp(P1,P2)=σ/(d+σ)
其中,d指P1和P2在义原层次体系中的路径长度,σ是一个可调节的参数;
步骤S4中所述计算每两个所述热词集合之间的共现度进一步包括:
计算每两个所述热词集合中的每两个词语之间的共现度;比较每两个所述词语之间的共现度,将每两个所述词语之间的共现度的最大值作为每两个所述热词集合之间的共现度;
具体地,设热词集合A包含n个语义相关的热词,即A={X1,X2,…Xn},其中n≥1,热词集合B包含m个语义相关的热词,即B={Y1,Y2,…Ym},其中m≥1,则定义集合A和集合B的共现度C(A,B)的计算公式如下:
C(A,B)=max{C(Xi,Yj)}i=1,2…,n;j=1,2,…,m.
其中,C(Xi,Yj)表示集合A中的热词Xi和集合B中的热词Yj的共现度;
热词Xi和热词Yj的共现度C(Xi,Yj)的计算公式如下:
其中,R(Xi|Yj)表示热词Xi相对于热词Yj的相对共现度,R(Yj|Xi)表示热词Yj相对于热词Xi的相对共现度,R(Xi|Yj)一般不等于R(Yj|Xi),但C(Xi,Yj)=C(Yj,Xi);
热词Xi相对于热词Yj的相对共现度R(Xi|Yj)的计算公式如下:
其中,f(Xi,Yj)表示热词Xi和词语Yj在同一文本中共同出现的次数,f(Yj)表示热词Yj出现的次数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国农业大学,未经中国农业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810136641.8/1.html,转载请声明来源钻瓜专利网。