[发明专利]基于SparkMLlib文档分类的类库构建方法及系统在审
申请号: | 201710639999.8 | 申请日: | 2017-07-31 |
公开(公告)号: | CN107577708A | 公开(公告)日: | 2018-01-12 |
发明(设计)人: | 刁志刚;耿星;薛岭 | 申请(专利权)人: | 北京北信源软件股份有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京集佳知识产权代理有限公司11227 | 代理人: | 古利兰,王宝筠 |
地址: | 100081 北京市海淀区中关村*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种基于SparkMLlib文档分类的类库构建方法,包括获取SparkMLlib的运行参数,其中,运行参数包括平滑参数和模型类型;去除已分类目标文档的类内高重复项;对目标文档的已知的分类类库中的分类项进行聚类,去除类内相似项;基于夹角余弦定理去除类内过离散项,生成新的文档分类的类库。本发明基于SparkMLlib的机器学习技术,以统计理论为基础,利用算法让机器具有类似人类般的自动学习能力,对已知的训练数据做统计分析从而获得规律形成类库,节约了大量人力成本,且减少了人工随机性大大提高了运算的准确程度。本发明还公开了一种基于SparkMLlib文档分类的类库构建系统。 | ||
搜索关键词: | 基于 sparkmllib 文档 分类 构建 方法 系统 | ||
【主权项】:
一种基于SparkMLlib文档分类的类库构建方法,其特征在于,包括:获取所述SparkMLlib的运行参数,其中,所述运行参数包括平滑参数和模型类型;去除已分类目标文档的类内高重复项;对所述目标文档的已知的分类类库中的分类项进行聚类,去除类内相似项;基于夹角余弦定理去除类内过离散项,生成新的文档分类的类库。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京北信源软件股份有限公司,未经北京北信源软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710639999.8/,转载请声明来源钻瓜专利网。
- 上一篇:一种垃圾冷藏柜
- 下一篇:一种信息系统资源模型的图形化管理方法