[发明专利]一种文本聚类方法及装置有效
申请号: | 201611035287.7 | 申请日: | 2016-11-21 |
公开(公告)号: | CN106599072B | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 王伟 | 申请(专利权)人: | 东软集团股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 刘晓菲;王宝筠 |
地址: | 110179 辽*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 方法 装置 | ||
1.一种文本聚类方法,其特征在于,所述方法包括:
获取待聚类文本,所述待聚类文本中包括各个特征词;
对所述待聚类文本的各个特征词进行聚类,得到每一个词聚类类别分别对应的特征词集;
构建与每个待聚类文本对应的文本向量,所述文本向量中的每一维表示一个词聚类类别的特征词集相对于一个待聚类文本的重要程度;
利用所述每个待聚类文本对应的文本向量对所述待聚类文本进行聚类;
所述构建与每个待聚类文本对应的文本向量包括:
计算所述待聚类文本中每个特征词的词权重,所述词权重表示所述特征词相对于所在的待聚类文本的重要程度;
利用所述词聚类类别中每个特征词的词权重,分别得到每个待聚类文本中每个词聚类类别的类权重,所述类权重表示一个词聚类类别的特征词集相对于一个待聚类文本的重要程度;
利用所述每个待聚类文本中每个词聚类类别的类权重分别构建所述与每个待聚类文本对应的文本向量,所述文本向量的每一维为对应待聚类文本中一个词聚类类别的类权重。
2.根据权利要求1所述的方法,其特征在于,在计算所述待聚类文本中每个特征词的词权重步骤之后,所述方法还包括:
分别选取每个待聚类文本中词权重由大到小排列的前N个特征词,所述N为大于0的整数;
所述利用所述词聚类类别中每个特征词的词权重,分别得到每个待聚类文本中每个词聚类类别的类权重包括:
利用所述词聚类类别中选取得到的每个特征词的词权重,分别得到每个待聚类文本中每个词聚类类别的类权重。
3.根据权利要求1或2所述的方法,其特征在于,所述每个待聚类文本中每个词聚类类别的类权重具体为:
每个待聚类文本中每个词聚类类别归一化后的类权重;
所述归一化后的类权重具体通过如下公式计算:
其中,Ck为第k类词聚类类别,wjk表示待聚类文本dj的词聚类类别Ck的类权重,tfidfij表示待聚类文本dj中属于词聚类类别Ck的特征词wordi的tf-idf值,w'jk表示待聚类文本dj在词聚类类别Ck上归一化后的类权值,N表示词聚类类别的总数。
4.一种文本聚类装置,其特征在于,所述装置包括:文本获取单元、特征词聚类单元、向量构建单元和文本聚类单元;
其中,所述文本获取单元,用于获取待聚类文本,所述待聚类文本中包括各个特征词;
所述特征词聚类单元,用于对所述待聚类文本的各个特征词进行聚类,得到每一个词聚类类别分别对应的特征词集;
所述向量构建单元,用于构建与每个待聚类文本对应的文本向量,所述文本向量中的每一维表示一个词聚类类别的特征词集相对于一个待聚类文本的重要程度;
所述文本聚类单元,用于利用所述每个待聚类文本对应的文本向量对所述待聚类文本进行聚类;
所述向量构建单元包括:
词权重计算单元、类权重计算单元和文本向量构建单元;
其中,所述词权重计算单元,用于计算所述待聚类文本中每个特征词的词权重,所述词权重表示所述特征词相对于所在的待聚类文本的重要程度;
所述类权重计算单元,用于利用所述词聚类类别中每个特征词的词权重,分别得到每个待聚类文本中每个词聚类类别的类权重,所述类权重表示一个词聚类类别的特征词集相对于一个待聚类文本的重要程度;
所述文本向量构建单元,用于利用所述每个待聚类文本中每个词聚类类别的类权重分别构建所述与每个待聚类文本对应的文本向量,所述文本向量的每一维为对应待聚类文本中一个词聚类类别的类权重。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东软集团股份有限公司,未经东软集团股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611035287.7/1.html,转载请声明来源钻瓜专利网。