[发明专利]一种计算机中文文本分类方法有效
申请号: | 201210489136.4 | 申请日: | 2012-11-26 |
公开(公告)号: | CN103020167A | 公开(公告)日: | 2013-04-03 |
发明(设计)人: | 戴新宇;付强;陈家骏;黄书剑;张建兵 | 申请(专利权)人: | 南京大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27 |
代理公司: | 江苏圣典律师事务所 32237 | 代理人: | 胡建华 |
地址: | 210093 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 计算机 中文 文本 分类 方法 | ||
1.一种计算机中文文本分类方法,其特征在于,包括以下步骤:
步骤一,使用N-gram方法处理中文文本:使用N-gram的方法把中文文本的表示为一个由一组特征组成的特征向量;
步骤二,使用词频逆向文件频率法为特征向量中每一个特征赋予一个权重;
步骤三,利用L1-正则化逻辑回归分类器模型为中文文本分类。
2.根据权利要求1中所述的方法,其特征在于,步骤一包括以下步骤:
对于中文文本d=c1,c2,…cj…,ck,其中cj为中文文本d中的第j个字,j=1,2,…k,k表示中文文本d的总字数,用N-gram的方法把中文文本d的表示为一个由一组特征组成的特征向量,表示为:
(c1,c2,…,ck,
c1c2,c2c3,…,ck-1ck,…,
c1c2…cn,c2c3…cn+1,…,ck-n+1ck-n+2…ck),
其中,特征向量中的每一维表示一个特征s,参数n取值范围为1~k。
3.根据权利要求2所述的方法,其特征在于,步骤二包括以下步骤:
根据词频逆向文件频率的计算公式计算特征向量中特征的权重:
其中ni,j是第i个特征si在第j个中文文本dj中出现的次数,|D|表示中文文本的总个数,wij是第i个特征在第j个中文文本中的权重;
根据每一个中文文本的所有特征的权重,把一个中文文本dj表示成如下向量形式:
xj=(w1,j,w2,j,…,wm,j),
m表示训练数据集中所有中文文本的特征总数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210489136.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:处理数据库操作请求的系统
- 下一篇:一种用于生成可视化视图的方法和设备