[发明专利]基于TF-IDF的文本特征提取方法和装置在审
| 申请号： | 201910683955.4 | 申请日： | 2019-07-26 |
| 公开（公告）号： | CN110472240A | 公开（公告）日： | 2019-11-19 |
| 发明（设计）人： | 吉长江 | 申请（专利权）人： | 北京影谱科技股份有限公司 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27;G06F16/35 |
| 代理公司： | 11694 北京万思博知识产权代理有限公司 | 代理人： | 柴国伟<国际申请>=<国际公布>=<进入 |
| 地址： | 100000 北京市*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了一种基于TF‑IDF的文本特征提取方法和装置，属于文本特征提取技术领域。该方法包括：构建文本数据集，进行分词和去停用词处理；对任一词汇，根据位置设置位置权重，根据词性设置词性权重，计算的信息增益IG，将位置权重、词性权重和IG结合到TF‑IDF算法中，计算出TF‑IDF‑IG值，按照预设阈值提取特征词汇，构建文本特征向量；采用PCA算法进行聚类分析，以及指定的模型进行训练。该装置包括：构建模块、预处理模块、计算模块、提取模块、分析模块和训练模块。本申请给出了一种新型的基于改进的TF‑IDF算法实现文本特征提取的方法，提高特征向量的代表性和准确性，提高了后续模型的计算效率。 | ||
| 搜索关键词： | 文本特征提取 词性 权重 构建 算法 文本特征向量 方法和装置 预处理模块 分析模块 构建模块 计算模块 计算效率 聚类分析 算法实现 特征词汇 特征向量 提取模块 文本数据 信息增益 训练模块 阈值提取 权重和 停用词 分词 预设 申请 词汇 改进 | ||
【主权项】：
1.一种基于TF-IDF的文本特征提取方法，包括：/n构建文本数据集；/n对所述文本数据集中的文本进行分词和去停用词处理；/n在所述处理后的文本中，对于任一词汇wi，根据其在文本中的位置为其设置位置权重α，根据其词性为其设置词性权重β，计算所述词汇wi的信息增益IG，将所述位置权重α、词性权重β和信息增益IG结合到TF-IDF算法中，计算出所述词汇wi的TF-IDF-IG值；/n根据计算出的TF-IDF-IG值，按照预设的阈值提取出特征词汇，构建文本特征向量；/n采用PCA算法对所述文本特征向量进行聚类分析；/n采取指定的模型对所述聚类分析后的文本特征向量进行训练。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京影谱科技股份有限公司，未经北京影谱科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910683955.4/，转载请声明来源钻瓜专利网。
