[发明专利]一种语料生成、模型训练方法有效
申请号: | 202010664773.5 | 申请日: | 2020-07-10 |
公开(公告)号: | CN111831823B | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 李林峰;黄海荣;孔晓泉;董泽朝;宋寒风 | 申请(专利权)人: | 亿咖通(湖北)技术有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G10L15/06;G10L15/16;G10L15/18;G10L15/22;G10L25/30;G10L25/63 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 孟维娜;高莺然 |
地址: | 430051 湖北省武汉市经济技术开发区神龙*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 语料 生成 模型 训练 方法 | ||
1.一种语料生成方法,其特征在于,所述方法包括:
获得属于每一目标语料类别的已有样本语料的已有数量,其中,所述已有样本语料为:用于训练适用于目标应用场景、且用于对语料进行分类的分类模型的已有语料,所述目标语料类别为:与所述分类模型的分类结果相匹配的、针对所述目标应用场景设置的语料类别;
针对每一目标语料类别,以基线样本数量为基准,根据属于该目标语料类别的已有样本语料中包含的词槽对已有样本语料进行调整,生成新样本语料,使得所生成的新样本语料的数量与该目标语料类别对应的已有样本语料的数量之和达到所述基线样本数量;
其中,所述基线样本数量通过下述方式得到,包括:基于不同的预设数量,针对每个目标语料类别,使用预设数量个属于该目标语料类别的样本语料对分类模型的初始模型进行训练,获取训练后的分类模型对属于该目标语料类别的语料进行分类的准确率;获取各个目标语料类别对应的准确率均达到预设准确率时各个目标语料类别对应的预设数量,作为参考样本语料数量;将参考样本语料数量中的最小数量或者大于所述最小数量的任意数量作为基线样本数量;
所述根据属于该目标语料类别的已有样本语料中包含的词槽对已有样本语料进行调整,生成新样本语料,包括:按照第一生成方式,生成新样本语料;判断所生成的新样本语料的数量与该目标语料类别对应的已有样本语料的数量之和是否达到所述基线样本数量;若为否,按照第二生成方式和第三生成方式中的至少一种,生成新样本语料;
所述第一生成方式为:以第一信息替换属于该目标语料类别的已有样本语料中包含的词槽,生成新样本语料,其中,所述第一信息为:与已有样本语料中所包含词槽的词槽类别相同、且已有样本语料中不包含的预设词槽;
所述第二生成方式为:删除属于该目标语料类别的已有样本语料中的第二信息,生成新样本语料,其中,所述第二信息为:除已有样本语料中包含的词槽和已有词汇之外的非关键字符,所述已有词汇包括:已有样本语料中除所包含的词槽之外的词汇;
所述第三生成方式为:在属于该目标语料类别的已有样本语料中包含的词槽和已有词汇之外的位置添加第三信息,生成新样本语料,其中,所述第三信息为:预设的不会对语料所表达的语义产生影响的字符。
2.根据权利要求1所述的方法,其特征在于,所述按照所述第二生成方式和所述第三生成方式中的至少一种,生成新样本语料,包括:
按照所述第二生成方式,生成新样本语料;
判断所生成的新样本语料的数量与该目标语料类别对应的已有样本语料的数量之和是否达到所述基线样本数量;
若为否,按照所述第三生成方式,生成新样本语料。
3.根据权利要求1所述的方法,其特征在于,所述根据属于该目标语料类别的已有样本语料中包含的词槽对已有样本语料进行调整,生成新样本语料,使得所生成的新样本语料的数量与该目标语料类别对应的已有样本语料的数量之和达到所述基线样本数量,包括:
根据属于该目标语料类别的已有样本语料中包含的词槽,对属于该目标语料类别的已有样本语料进行调整,生成新样本语料;
判断所生成的新样本语料的数量与该目标语料类别对应的已有样本语料的数量之和是否达到所述基线样本数量;
若为否,对属于该目标语料类别的样本语料进行复制,使得复制得到的语料、所生成的新样本语料以及属于该目标语料类别的已有样本语料的数量之和达到所述基线样本数量。
4.一种模型训练方法,其特征在于,所述方法包括:
获得样本语料,其中,所述样本语料包括:已有样本语料和根据已有样本语料生成的新样本语料,所述新样本语料为:根据权利要求1-3中任意一项所述的方法生成的新样本语料;
使用所述样本语料训练用于对语料进行分类的分类模型。
5.根据权利要求4所述的方法,其特征在于,所述分类模型的初始网络参数为:基于通用语料库中的语料对用于进行分类的神经网络模型进行训练得到的网络参数,所述通用语料库为:不包含所述样本语料的语料库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于亿咖通(湖北)技术有限公司,未经亿咖通(湖北)技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010664773.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种加热热冲压强化工艺
- 下一篇:随车轮胎充气装置