[发明专利]一种基于Spark的朴素贝叶斯中文文本并行分类方法在审
申请号: | 201910700886.3 | 申请日: | 2019-07-31 |
公开(公告)号: | CN112307203A | 公开(公告)日: | 2021-02-02 |
发明(设计)人: | 王志强 | 申请(专利权)人: | 上海狼道信息科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35 |
代理公司: | 上海宏京知识产权代理事务所(普通合伙) 31297 | 代理人: | 李敏 |
地址: | 201306 上海市浦*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于Spark的朴素贝叶斯中文文本并行分类方法,包括以下步骤:步骤一,对待处理中文文本进行预处理操作;步骤二,对预处理后的中文文本用向量表示,对其进行根据贝叶斯定理分类,并存储于分布式文件系统;步骤三,读取分布式文件系统的中文文本向量,创建弹性分布式数据块对中文文本向量进行映射操作并叠加;步骤四,对映射后的中文文本向量进行先验概率计算和条件概率计算。本发明的一种基于Spark的朴素贝叶斯中文文本并行分类方法,实现了基于Spark面向大规模中文文本分类的并行朴素贝叶斯算法,具有良好的加速比和扩展比。处理时间大幅度缩减,处理效率得到有效提升,同时准确性能得到保证,更适合大规模文本数据挖掘的需求。 | ||
搜索关键词: | 一种 基于 spark 朴素 贝叶斯 中文 文本 并行 分类 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海狼道信息科技有限公司,未经上海狼道信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910700886.3/,转载请声明来源钻瓜专利网。