[发明专利]一种基于语义分析的文本聚类系统及方法在审
申请号: | 201410348406.9 | 申请日: | 2014-07-21 |
公开(公告)号: | CN104182388A | 公开(公告)日: | 2014-12-03 |
发明(设计)人: | 贾岩 | 申请(专利权)人: | 安徽华贞信息科技有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F17/30 |
代理公司: | 合肥市长远专利代理事务所(普通合伙) 34119 | 代理人: | 程笃庆;黄乐瑜 |
地址: | 230000 安徽省合肥市高*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 语义 分析 文本 系统 方法 | ||
1.一种基于语义分析的文本聚类系统,其特征在于,包括依次连接的预处理模块、语义分析模块、向量生成模块和聚类模块;其中,
预处理模块,用于对文本进行中文分词和停用词过滤;
语义分析模块,用于进行语义相似度分析以及特征项权重计算,提取关键词特征项,对文本进行归一化,语义分析模块内置本体和实体词典,本体用于对文本进行语义分析,实体词典用于对文本进行实体提取,本体的基本组成单元为概念,概念构成概念树,概念树组成本体;
向量生成模块,内置向量空间模型,用于对文本进行向量化,生成文本向量;
聚类模块,根据文本向量对文本进行聚类。
2.如权利要求1所述的基于语义分析的文本聚类系统,其特征在于,语义相似度计算公式为:
Dis(W1,W2)为词语W1、W2对应的概念在概念树上的距离,概念树为本体的组成单元,a为可调节的计算常数。
3.如权利要求1所述的基于语义分析的文本聚类系统,其特征在于,特征项权重计算公式为:
其中,w为特征项t在文档d中的权重值,tf表示t在d内出现的频率,idf表示t的反比文本频率,n表示训练集的文档总数,m表示训练集中包含t的文档数。
4.一种基于语义分析的文本聚类方法,其特征在于,根据本体对文本进行语义分析,并对文本内容进行归一化,生成文本向量,具体包括以下步骤:
S1、输入文本,并进行预处理,对文本进行中文分词和停用词过滤;
S2、根据本体,对文本进行语义分析,并根据实体词典对文本进行实体分析,提取实体文本;
S3、根据本体,进行语义相似度分析以及特征项权重计算,提取关键词特征项,对文本进行归一化;
S4、根据向量空间模型,对归一化文本进行向量化,生成文本向量;
S5、根据文本向量对文本进行聚类;
步骤S1中,需要判别文本是否为中文,当文本为中文时,对其进行中文分词和停用词过滤;当文本非中文时,对其进行词形变换后直接进行停用词过滤;
步骤S3中设置门限值n,关键词特征项为权重值大于门限值n的特征项。
5.如权利要求4所述的基于语义分析的文本聚类方法,其特征在于,0.1<n<1。
6.如权利要求4所述的基于语义分析的文本聚类方法,其特征在于,n=0.7。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于安徽华贞信息科技有限公司;,未经安徽华贞信息科技有限公司;许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410348406.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电子名片的创建方法、检索方法及相关系统
- 下一篇:词对关系相似度的计算方法