[发明专利]一种主题分类方法和装置在审

专利信息
申请号: 201910656595.9 申请日: 2019-07-19
公开(公告)号: CN110502747A 公开(公告)日: 2019-11-26
发明(设计)人: 王子夫;魏越;何慧 申请(专利权)人: 北京云和时空科技有限公司
主分类号: G06F17/27 分类号: G06F17/27;G06K9/62;G06N3/04;G06N3/08
代理公司: 11319 北京润泽恒知识产权代理有限公司 代理人: 莎日娜<国际申请>=<国际公布>=<进入
地址: 100080 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 语料 主题分类 权重 分词 目标关键词 模型训练 方法和装置 分词处理 目标文本 数据标注 数据分配 数目确定 词向量 预置 标注 分类
【权利要求书】:

1.一种主题分类方法,其特征在于,所述方法包括:

对第一语料数据进行分词处理,得到第二语料数据,所述第二语料数据由语料子数据构成,所述语料子数据由候选分词构成;

根据所述候选分词在所述第二语料数据的数目确定所述候选分词相对应的权重值,并将所述权重值大于权重阈值的候选分词作为所述第二语料数据的关键词;

根据所述权重值给所述第二语料数据中各语料子数据分配相对应的目标关键词,并根据所述语料子数据及相对应的目标关键词生成第三语料数据;

基于所述第三语料数据与预置词向量对主题分类模型进行训练;

采用训练后的主题分类模型对目标文本进行分类。

2.根据权利要求1所述的方法,其特征在于,所述主题分类模型从上至下至少包括:

神经网络层,用于预测第三语料数据对应的关键词,得到预测关键词;

池化层,用于调整所述预测关键词的权重值;

全连接层,用于实现所述预测关键词之间的转换并将所述预测关键词传输至分类层;

分类层,用于根据所述预测关键词预测相对应的主题;

所述神经网络层与所述池化层之间、所述池化层与所述全连接层之间、所述全连接层与所述分类层之间还包括:

退出层,用于滤除上一层输出的预测信息中的无效数据;

激活层,用于提高上一层输出的预测信息的处理优先级。

3.根据权利要求2所述的方法,其特征在于,所述基于所述第三语料数据与预置词向量对主题分类模型进行训练的步骤,包括:

将所述第三语料数据按照预设比例拆分成第一训练样本和第二训练样本;

利用预置词向量构建词向量多维空间模型;

将所述第一训练样本输入所述词向量多维空间中进行词语向量化处理,得到目标词向量;

根据所述目标词向量给所述第一训练样本分配相应的主题,以对主题分类模型进行训练;

将所述第二训练样本输入训练后的主题分类模型进行测试,得到测试数据,根据所述测试数据得到准确率;

若所述准确率小于准确率阈值,则调整所述神经网络层、池化层、全连接层、分类层、激活层的参数,以继续训练;

若所述准确率大于或等于准确率阈值,则结束训练。

4.根据权利要求1所述的方法,其特征在于,所述基于所述第三语料数据与预置词向量对主题分类模型进行训练的步骤之前,所述主题分类模型通过如下步骤进行初次训练:

将第一语料数据进行分词处理,得到第二语料数据;

对所述第二语料数据中预设数量的数据进行预先标注相对应的样本关键词,将预先标注的数据作为样本语料数据;

基于所述样本语料样本与预置词向量对主题分类模型进行初步训练。

5.根据权利要求1所述的方法,其特征在于,所述对第一语料数据进行分词处理,得到第二语料数据的步骤之后,还包括:

根据语料预处理规则对所述第二语料数据进行过滤,所述语料预处理规则包括:去停用词规则、去标点规则、去数字规则中的至少一项规则。

6.根据权利要求1所述的方法,其特征在于,所述基于所述第三语料数据与预置词向量对主题分类模型进行训练的步骤,包括:

采用分布式集群基于所述第三语料数据与预置词向量对主题分类模型进行训练。

7.根据权利要求1所述的方法,其特征在于,所述根据所述权重值给所述第二语料数据中各语料子数据分配相对应的目标关键词,并根据所述语料子数据及相对应的目标关键词生成第三语料数据的步骤,包括:

针对每个语料子数据,根据所述关键词在所述语料子数据中的数目以及所述关键词相对应的权重值,得到所述语料子数据中各关键词的综合权重;

针对每个语料子数据,将所述语料子数据中所述综合权重最大的关键词作为所述语料子数据相对应的目标关键词,并根据所述语料子数据及相对应的目标关键词生成第三语料数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京云和时空科技有限公司,未经北京云和时空科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910656595.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top