[发明专利]文章主题挖掘方法和装置及计算机可读存储介质在审
申请号: | 201711363739.9 | 申请日: | 2017-12-18 |
公开(公告)号: | CN110019805A | 公开(公告)日: | 2019-07-16 |
发明(设计)人: | 王颖帅;李晓霞;苗诗雨 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27;G06N20/00 |
代理公司: | 中国国际贸易促进委员会专利商标事务所 11038 | 代理人: | 许蓓 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文章主题 计算机可读存储介质 挖掘 机器学习模型 方法和装置 概率分布 最大概率 聚类 向量 复合 计算机领域 人为因素 文章表示 概率 检测 预设 | ||
1.一种文章主题挖掘方法,包括:
将检测集中待检测的文章表示为文章向量;
将文章向量输入聚类机器学习模型得到所述文章的主题概率分布;
根据所述文章的主题概率分布,在最大概率与第二大概率之间的差距小于预设阈值的情况下,根据最大概率的主题和第二大概率的主题形成所述文章的复合主题。
2.如权利要求1所述的方法,其中,
根据所述文章的主题概率分布,在最大概率与第二大概率之间的差距不小于预设阈值的情况下,将最大概率的主题确定为所述文章的主题。
3.如权利要求1所述的方法,其中,所述检测集中包括多篇待检测的文章,所述检测集被划分为多个弹性分布式检测集,所述聚类机器学习模型被设置为广播变量;
在每个弹性分布式检测集中调用所述广播变量中的聚类机器学习模型,并行确定各个文章的主题概率分布和主题。
4.如权利要求1所述的方法,
将训练集中的文章表示为文章向量,输入聚类机器学习模型对聚类机器学习模型进行训练;
其中,所述训练集中包括多篇文章,所述训练集被划分为多个弹性分布式训练集,所述聚类机器学习模型被设置为广播变量;
在每个弹性分布式训练集中调用所述广播变量中的聚类机器学习模型,并行对聚类机器学习模型进行训练。
5.如权利要求1-4任一项所述的方法,其中,文章向量表示为文章的标签词矩阵,文章的标签词根据分词词库对文章进行分词产生,所述分词词库中包括根据应用场景构建的自定义词语。
6.如权利要求1-4任一项所述的方法,其中,文章向量表示为文章的标签词矩阵,矩阵的元素为标签词的词频与逆向文件频率的乘积。
7.如权利要求1所述的方法,其中,所述聚类机器学习模型包括:隐含狄利克雷分布LDA模型、K-means聚类模型。
8.一种文章主题挖掘装置,包括:
文本特征工程模块,用于将检测集中待检测的文章表示为文章向量;
模型处理模块,用于将文章向量输入聚类机器学习模型得到所述文章的主题概率分布;
主题挖掘模块,用于根据所述文章的主题概率分布,在最大概率与第二大概率之间的差距小于预设阈值的情况下,根据最大概率的主题和第二大概率的主题形成所述文章的复合主题。
9.如权利要求8所述的装置,其中,
所述主题挖掘模块,还用于根据所述文章的主题概率分布,在最大概率与第二大概率之间的差距不小于预设阈值的情况下,将最大概率的主题确定为所述文章的主题。
10.如权利要求8所述的装置,其中,所述检测集中包括多篇待检测的文章,所述检测集被划分为多个弹性分布式检测集,所述聚类机器学习模型被设置为广播变量;
所述模型处理模块包括:分布式处理单元一,用于在每个弹性分布式检测集中调用所述广播变量中的聚类机器学习模型,并行确定各个文章的主题概率分布和主题。
11.如权利要求8所述的装置,所述装置还包括:
训练模块,用于将训练集中的文章表示为文章向量,输入聚类机器学习模型对聚类机器学习模型进行训练;
其中,所述训练集中包括多篇文章,所述训练集被划分为多个弹性分布式训练集,所述聚类机器学习模型被设置为广播变量;
所述训练模块包括:分布式处理单元二,用于在每个弹性分布式训练集中调用所述广播变量中的聚类机器学习模型,并行对聚类机器学习模型进行训练。
12.如权利要求8-11任一项所述的装置,其中,文章向量表示为文章的标签词矩阵;文章的标签词根据分词词库对文章进行分词产生,所述分词词库中包括根据应用场景构建的自定义词语;矩阵的元素为标签词的词频与逆向文件频率的乘积。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711363739.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种评论推荐的方法及装置
- 下一篇:一种文档聚类方法及设备