[发明专利]文本分类模型的训练样本生成方法、装置和电子设备在审
申请号: | 202010493959.9 | 申请日: | 2020-06-03 |
公开(公告)号: | CN111831821A | 公开(公告)日: | 2020-10-27 |
发明(设计)人: | 刘昊;肖欣延 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/33;G06F16/31 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 石茵汀 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 模型 训练 样本 生成 方法 装置 电子设备 | ||
1.一种文本分类模型的训练样本生成方法,所述方法包括以下步骤:
获取目标内容类型的种子词,以及获取所述种子词作为搜索词,搜索得到多篇目标文本;
将所述多篇目标文本分别作为训练样本标注所述目标内容类型,以生成所述目标内容类型的训练样本集合;
根据所述训练样本集合中的多个所述训练样本,生成关键词;
根据所述关键词,更新所述种子词;以及
将更新后的所述种子词作为搜索词,再次进行搜索,并将再次搜索到的目标文本作为训练样本标注所述目标内容类型,并添加至所述训练样本集合。
2.根据权利要求1所述的训练样本生成方法,其中,所述根据所述训练样本集合中的多个所述训练样本,生成关键词,包括:
根据所述种子词,从所述训练样本集合中,确定标题或摘要中包含所述种子词的多个目标样本;
分别对每一个所述目标样本提取多个候选关键词;
确定每一个所述候选关键词与所述目标样本之间的语义相关度;以及
根据每一个所述候选关键词与所述目标样本之间的所述语义相关度,对多个所述候选关键词进行筛选,以得到所述关键词。
3.根据权利要求2所述的训练样本生成方法,其中,所述分别对每一个所述目标样本提取多个候选关键词之后,还包括:
确定每一个所述候选关键词与所述种子词之间的语义相关度;以及
根据每一个所述候选关键词与所述种子词之间的语义相关度,对多个所述候选关键词进行筛选。
4.根据权利要求1所述的训练样本生成方法,其中,所述根据所述关键词,更新所述种子词,包括:
根据所述关键词与所述种子词在所述训练样本集合中的共现次数,选取所述关键词,以采用选取的所述关键词更新所述种子词。
5.根据权利要求1-4任一项所述的训练样本生成方法,其中,所述获取目标内容类型的种子词,包括:
将所述目标内容类型的类别名作为初始种子词;
查询所述日志,以得到与所述初始种子词搜索到相同文本的扩展种子词;以及
将所述初始种子词和所述扩展种子词,作为所述目标内容类型的种子词。
6.根据权利要求5所述的训练样本生成方法,其中,所述查询所述日志,以得到与所述初始种子词搜索到相同文本的扩展种子词,包括:
查询所述日志,得到将所述初始的种子词作为搜索词的多条第一搜索记录;
根据多条所述第一搜索记录,确定存在浏览操作的文本的标题;
将搜索到所述标题的搜索词,作为所述扩展种子词。
7.根据权利要求6所述的训练样本生成方法,其中,所述将搜索到所述标题的搜索词,作为所述扩展种子词之前,还包括:
针对每一条所述第一搜索记录,生成所述标题与所述初始的种子词的二元组信息;
根据所述二元组信息的出现频次,对所述标题进行筛选。
8.根据权利要求1-4任一项所述的训练样本生成方法,其中,所述搜索得到多篇目标文本,包括:
查询日志,得到将所述种子词作为搜索词的多条第二搜索记录;
根据多条所述第二搜索记录,确定存在浏览操作的多篇浏览文本;以及
根据多篇所述浏览文本的浏览次数,从多篇所述浏览文本中选取所述目标文本。
9.一种训练样本生成装置,所述装置包括:
获取模块,用于获取目标内容类型的种子词,以及获取所述种子词作为搜索词,搜索得到多篇目标文本;
标注模块,用于将所述多篇目标文本分别作为训练样本标注所述目标内容类型,以生成所述目标内容类型的训练样本集合;
提取模块,用于根据所述训练样本集合中的多个所述训练样本,生成关键词;
更新模块,用于根据所述关键词,更新所述种子词;以及
执行模块,用于将更新后的所述种子词作为搜索词,再次进行搜索,并将再次搜索到的目标文本作为训练样本标注所述目标内容类型,并添加至所述训练样本集合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010493959.9/1.html,转载请声明来源钻瓜专利网。