[发明专利]文本分类模型的训练方法和装置在审
申请号: | 201811618436.1 | 申请日: | 2018-12-28 |
公开(公告)号: | CN110046340A | 公开(公告)日: | 2019-07-23 |
发明(设计)人: | 曹绍升;李怀松;周俊 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06K9/62 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 林祥 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 特征词 文本分类模型 相似词 相似度 方法和装置 文本 词语 分词处理 训练文本 预定条件 | ||
1.一种文本分类模型的训练方法,包括:
对用于确定相似词的文本进行分词处理,将每个文本划分为一个或多个词语;
汇总各文本,并提取汇总结果中满足预定条件的词语作为备选词;
获取初始特征词;
针对每个初始特征词,计算各备选词与所述初始特征词的相似度;
将相似度满足相似度条件的备选词确定为所述初始特征词的相似词;
将所述初始特征词和所述初始特征词的相似词作为训练文本的特征词,对文本分类模型进行训练。
2.根据权利要求1所述的方法,所述计算各备选词与所述初始特征词的相似度,包括:
采用cw2vec算法为各备选词和初始特征词生成对应的词向量;
计算所述备选词对应的词向量和所述初始特征词对应的词向量之间的向量距离,作为所述备选词和所述初始特征词的相似度。
3.根据权利要求1所述的方法,所述计算各备选词与所述初始特征词的相似度,包括:
采用cw2vec算法为各备选词和初始特征词生成对应的N元笔画向量集合;
计算所述备选词对应的N元笔画向量集合和所述初始特征词对应的N元笔画向量集合之间的最大相似度,作为所述备选词和所述初始特征词的相似度。
4.根据权利要求1所述的方法,所述对文本分类模型进行训练,包括:
采用半监督学习算法对文本分类模型进行训练。
5.一种反洗钱场景中文本分类模型的训练方法,包括:
对用于确定相似词的文本进行分词处理,将每个文本划分为一个或多个词语;
汇总各文本,并提取汇总结果中满足预定条件的词语作为备选词;
获取与反洗钱相关的初始特征词;
针对每个初始特征词,计算各备选词与所述初始特征词的相似度;
将相似度满足相似度条件的备选词确定为所述初始特征词的相似词;
将所述初始特征词和所述初始特征词的相似词作为训练文本的特征词,采用半监督学习算法对文本分类模型进行训练。
6.一种文本分类模型的训练装置,包括:
文本分词单元,对用于确定相似词的文本进行分词处理,将每个文本划分为一个或多个词语;
备选提取单元,汇总各文本,并提取汇总结果中满足预定条件的词语作为备选词;
初始获取单元,获取初始特征词;
相似确定单元,针对每个初始特征词,计算各备选词与所述初始特征词的相似度;将相似度满足相似度条件的备选词确定为所述初始特征词的相似词;
模型训练单元,将所述初始特征词和所述初始特征词的相似词作为训练文本的特征词,对文本分类模型进行训练。
7.根据权利要求6所述的装置,所述计算各备选词与所述初始特征词的相似度,包括:
采用cw2vec算法为各备选词和初始特征词生成对应的词向量;
计算所述备选词对应的词向量和所述初始特征词对应的词向量之间的向量距离,作为所述备选词和所述初始特征词的相似度。
8.根据权利要求6所述的装置,所述计算各备选词与所述初始特征词的相似度,包括:
采用cw2vec算法为各备选词和初始特征词生成对应的N元笔画向量集合;
计算所述备选词对应的N元笔画向量集合和所述初始特征词对应的N元笔画向量集合之间的最大相似度,作为所述备选词和所述初始特征词的相似度。
9.根据权利要求6所述的装置,
所述模型训练单元,采用半监督学习算法对文本分类模型进行训练。
10.一种文本分类模型的训练装置,包括:
处理器;
用于存储机器可执行指令的存储器;
其中,通过读取并执行所述存储器存储的与文本分类模型的训练逻辑对应的机器可执行指令,所述处理器被促使:
对用于确定相似词的文本进行分词处理,将每个文本划分为一个或多个词语;
汇总各文本,并提取汇总结果中满足预定条件的词语作为备选词;
获取初始特征词;
针对每个初始特征词,计算各备选词与所述初始特征词的相似度;
将相似度满足相似度条件的备选词确定为所述初始特征词的相似词;
将所述初始特征词和所述初始特征词的相似词作为训练文本的特征词,对文本分类模型进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811618436.1/1.html,转载请声明来源钻瓜专利网。