[发明专利]文献资源主题聚类共现潜在语义向量空间模型语义核方法有效
申请号: | 201611095873.0 | 申请日: | 2016-12-02 |
公开(公告)号: | CN106708969B | 公开(公告)日: | 2020-01-10 |
发明(设计)人: | 牛奉高;张亚宇 | 申请(专利权)人: | 山西大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 14105 山西五维专利事务所(有限公司) | 代理人: | 郭海燕 |
地址: | 030006 山*** | 国省代码: | 山西;14 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语义 向量空间模型 潜在语义 构建 聚类 语义向量空间 语义信息提取 文献资源 复杂度 预处理 词频统计 矩阵使用 聚类算法 文献数据 核函数 权重 维度 应用 | ||
1.文献资源主题聚类共现潜在语义向量空间模型语义核方法,其特征在于包括以下步骤:
第一步:文献数据的预处理:数据清洗,标记文献,提取每篇文献的关键词,并保留关键词与相应文献的对应关系;
第二步:所提取的关键词进行词频统计,关键词按词频降序排列,以备后续建立共现矩阵使用;
第三步:以关键词在文献中是否出现为权重,构建文献表示的向量空间模型如下:
dl=(al1,al2,...,alm)T∈Rm,l=1,2,…,n.
其中:dl是n篇文献中第l篇文献在欧式空间Rm中的表示向量,alj(j=1,2,…,m)为第j个关键词在第l篇文献中的权重,当第j个关键词是文献dl的关键词时,alj等于1,否则为0;l为文献序号,n为文献总篇数,m为关键词集中总关键词的个数,Rm为欧式空间,T表示转置运算,文献集的“篇-词”矩阵A=(alj)n×m;
第四步:共现潜在语义向量空间模型的构建:
(1)计算共现强度矩阵
关键词之间的共现矩阵C=ATA=(cij)m×m,其中,当i≠j时,cij为第i个关键词与第j个关键词的共现频次,当i=j时,cii为第i个关键词的总频次;
然后计算共现强度矩阵B,
其中,c11,c22,…,cmm分别为第1个,第2个,……,第m个关键词的频数;当i≠j时,bij为第i个关键词与第j个关键词的共现强度,当i=j时,bii=1,即矩阵B的对角线元素全为1;
(2)共现信息的提取
记alj=1的j的指标集为Il1,即:Il1={j|alj=1},称第l篇文献与第j个关键词的潜在语义相似度,表示集合{bjt}中满足条件t∈Il1的最大值,记为当alj=1时,qlj=1;当alj=0时,0≤qlj<1;
(3)共现潜在语义向量空间模型(CLSVSM)
其中:
基于CLSVSM的新的“篇-词”矩阵为:
第五步:语义核函数的构建
(1)对新的“篇-词”矩阵的转置进行奇异值分解
根据奇异值分解理论,经matlab软件运算,得到QT的分解式:
其中QT是维数为m×n的新的“词-篇”矩阵;U、V称为奇异矩阵,是维数分别为m和n的方阵,且都是正交矩阵,即UUT=I,VVT=I;是维数为m×n的矩阵,假设“词-篇”矩阵QT的秩为r,Δ=diag(δ1 δ2 δ3 … δr),δi(i=1,2,…,r)是非零奇异值,且按从大到小的顺序进行排列为δ1≥δ2≥…≥δr,关键词与关键词之间的相关性矩阵QTQ=UΣVTVΣTUT=UΣΣTUT=UΛUT,奇异矩阵U同时又等于QTQ的正交单位特征向量组成的矩阵,矩阵是m×m维的方阵,对角线上的元素为QTQ所对应的特征值,为非零特征值组成的对角阵;
(2)特征提取、降维
选取前k个最大的特征值,k的大小取决于特征值的累计贡献率要求,当可取特征值累计贡献率不小于90%,则k为
同时选取相应的奇异矩阵U和V的前k列,对奇异矩阵实现降维处理,分别记为Uk和Vk,然后得到一个QT矩阵的k阶近似,即XkT=UkΣkVkT;
(3)基于CLSVSM的语义核
k(dl,ds)=(UkTφ(dl))T(UkTφ(ds))=φT(dl)UkUkTφ(ds),l,s=1,L,n
该语义核函数得到相一致的核矩阵为:
基于CLSVSM的语义核简记为CLSVSM_K;
第六步:文献聚类
对文献进行语义核函数表示,核矩阵作为文献之间的相似性矩阵,选取聚类算法进行文献主题聚类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山西大学,未经山西大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611095873.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:软件异常检测方法及装置
- 下一篇:一种煤矿高压电网短路电流并行计算方法