[发明专利]一种新闻分类方法及装置有效
申请号: | 201710845465.0 | 申请日: | 2017-09-19 |
公开(公告)号: | CN107577794B | 公开(公告)日: | 2019-07-05 |
发明(设计)人: | 房平会;徐龙 | 申请(专利权)人: | 北京神州泰岳软件股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 北京弘权知识产权代理事务所(普通合伙) 11363 | 代理人: | 逯长明;许伟群 |
地址: | 100089 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 新闻 分类 方法 装置 | ||
1.一种新闻分类方法,其特征在于,包括:
获取样本数据,所述样本数据包括若干条企业新闻和非企业新闻;
提取所述样本数据中的特征词,计算所述特征词在所述样本数据中的权重值;
根据所述权重值、所述特征词、所述样本数据和待分类新闻,计算所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;
根据所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率,判断所述待分类新闻的类型,所述类型包括企业新闻和非企业新闻;
所述根据所述权重值、所述特征词、所述样本数据和待分类新闻,计算所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率包括:
获取所述特征词在所述待分类新闻中的出现类型、所述特征词在所述样本数据中的出现次数,以及,计算所述样本数据中各类型新闻所占的概率;
根据所述出现类型、所述出现次数、所述权重值和所述样本数据中各类型新闻所占的概率,计算所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;
所述出现类型包括出现和不出现,如果出现,则计算包含特征词的待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;如果不出现,则计算不包含该特征词的待分类新闻的属于企业新闻的概率和属于非企业新闻的概率。
2.根据权利要求1所述的方法,其特征在于,所述提取所述样本数据中的特征词,计算所述特征词在所述样本数据中的权重值包括:
对所述样本数据分词,得到若干个单词;
计算所述单词与所述企业新闻的开方值;
按照所述开方值降序的顺序,提取预设数量的所述单词,得到特征词;
根据所述特征词和所述样本数据,计算所述特征词在所述样本数据中的词频和包含所述特征词的新闻在所述样本数据中的逆向文件频率;
根据所述词频和所述逆向文件频率,计算所述特征词在所述样本数据中的权重值。
3.根据权利要求2所述的方法,其特征在于,所述根据所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率,判断所述待分类新闻的类型包括:
比较所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;
如果所述属于企业新闻的概率大于所述属于非企业新闻的概率,则所述待分类新闻是企业新闻;
如果所述属于非企业新闻的概率大于所述属于企业新闻的概率,则所述待分类新闻是非企业新闻。
4.根据权利要求3所述的方法,其特征在于,按照如下公式计算所述单词与所述企业新闻的开方值:
其中,χ2代表所述单词与所述企业新闻的开方值,A代表包含所述单词的所述企业新闻的数量,C代表不包含所述单词的所述企业新闻的数量,B代表包含所述单词的所述非企业新闻的数量,D代表不包含所述单词的所述非企业新闻的数量。
5.一种新闻分类装置,其特征在于,包括:
获取模块,用于获取样本数据,所述样本数据包括若干条企业新闻和非企业新闻;
提取模块,用于提取所述样本数据中的特征词,计算所述特征词在所述样本数据中的权重值;
计算模块,用于根据所述权重值、所述特征词、所述样本数据和待分类新闻,计算所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;
分类模块,用于根据所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率,判断所述待分类新闻的类型,所述类型包括企业新闻和非企业新闻;
所述计算模块包括:
数据获取模块,用于获取所述特征词在所述待分类新闻中的出现类型、所述特征词在所述样本数据中的出现次数,以及,计算所述样本数据中各类型新闻所占的概率;所述出现类型包括出现和不出现,如果出现,则计算包含特征词的待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;如果不出现,则计算不包含该特征词的待分类新闻的属于企业新闻的概率和属于非企业新闻的概率;
概率计算模块,用于根据所述出现类型、所述出现次数、所述权重值和所述样本数据中各类型新闻所占的概率,计算所述待分类新闻的属于企业新闻的概率和属于非企业新闻的概率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京神州泰岳软件股份有限公司,未经北京神州泰岳软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710845465.0/1.html,转载请声明来源钻瓜专利网。