[发明专利]文本信息的挖掘方法及装置有效
申请号: | 202010817997.5 | 申请日: | 2020-08-14 |
公开(公告)号: | CN112069394B | 公开(公告)日: | 2023-09-29 |
发明(设计)人: | 吴明平;梁新敏;陈羲 | 申请(专利权)人: | 上海风秩科技有限公司 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F16/33;G06F40/242 |
代理公司: | 青岛清泰联信知识产权代理有限公司 37256 | 代理人: | 李祺 |
地址: | 200333 上海市普陀*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 信息 挖掘 方法 装置 | ||
1.一种文本信息的挖掘方法,其特征在于,包括:
步骤S1:对获取的舆情信息进行数据提取获得多个文本,根据文本的发布时间对多个文本进行分组;
步骤S2:通过jieba分词对每个分组中的文本进行分词并获得分组中每一主题词的分布统计数据;
步骤S3:通过LDA算法对每个分组中的文本进行主题词提取输出文本属于主题的第一概率矩阵及每个主题中主题词分布的第二概率矩阵;
步骤S4:根据第一概率矩阵及第二概率矩阵获得每个分组的文本话题特征;
步骤S5:根据每个分组中文本话题特征及主题词的分布统计数据获得话题峰值;
其中,所述步骤S5中根据以下公式获得话题峰值:
其中,S为话题峰值,为文本话题特征,为分布统计数据即第i个分组中词j的分布统计数据,N表示文本条数。
2.如权利要求1所述的挖掘方法,其特征在于,所述步骤S1中包括:
步骤S11:根据舆情信息获得包括文本id、发布时间及文本内容的多个文本;
步骤S12:根据发布时间对多个文本进行分组。
3.如权利要求1所述的挖掘方法,其特征在于,所述步骤S3中包括:
步骤S31:根据对每个文本对应到不同中间层集合的概率θd进行计算获得p(t|d);
步骤S32:根据对中间层集合中的topic t生成不同主题词的概率φt进行计算获得p(w|t);
步骤S33:根据p(t|d)及p(w|t)构建第一概率矩阵及第二概率矩阵;
其中,d为文本,w为主题词,t为主题,p(t|d)为文本中主题的概率,p(w|t)为主题中主题词的概率。
4.如权利要求1所述的挖掘方法,其特征在于,所述步骤S4中包括:
步骤S41:根据第一概率矩阵及第二概率矩阵获得每个文本的话题特征;
步骤S42:根据每个文本的话题特征获得每个分组的文本话题特征。
5.一种文本信息的挖掘装置,其特征在于,包括:
分组单元,对获取的舆情信息进行数据提取获得多个文本,根据文本的发布时间对多个文本进行分组;
分布统计数据计算单元,通过jieba分词对每个分组中的文本进行分词并获得分组中每一主题词的分布统计数据;
概率矩阵获得单元,通过LDA算法对每个分组中的文本进行主题词提取输出文本属于主题的第一概率矩阵及每个主题中主题词分布的第二概率矩阵;
文本话题特征获得单元,根据第一概率矩阵及第二概率矩阵获得每个分组的文本话题特征;
峰值发现单元,根据每个分组中文本话题特征及主题词的分布统计数据获得话题峰值;
其中,所述峰值发现单元根据以下公式获得话题峰值:
其中,S为话题峰值,为文本话题特征,为分布统计数据即第i个分组中词j的分布统计数据,N表示文本条数。
6.如权利要求5所述的挖掘装置,其特征在于,所述分组单元中包括:
提取模块,根据舆情信息获得包括文本id、发布时间及文本内容的多个文本;
分组模块,根据发布时间对多个文本进行分组。
7.如权利要求5所述的挖掘装置,其特征在于,所述概率矩阵获得单元包括:
第一计算模块,根据对每个文本对应到不同中间层集合的概率θd进行计算获得p(t|d);
第二计算模块,根据对中间层集合中的topic t生成不同主题词的概率φt进行计算获得p(w|t);
概率矩阵构建模块,根据p(t|d)及p(w|t)构建第一概率矩阵及第二概率矩阵;
其中,d为文本,w为主题词,t为主题,p(t|d)为文本中主题的概率,p(w|t)为主题中主题词的概率。
8.如权利要求5所述的挖掘装置,其特征在于,所述文本话题特征获得单元包括:
第三计算模块,根据第一概率矩阵及第二概率矩阵获得每个文本的话题特征;
第四计算模块,根据每个文本的话题特征获得每个分组的文本话题特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海风秩科技有限公司,未经上海风秩科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010817997.5/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置