[发明专利]数据增强处理方法及装置在审

专利信息
申请号: 202210268766.2 申请日: 2022-03-18
公开(公告)号: CN114637824A 公开(公告)日: 2022-06-17
发明(设计)人: 李长林;王洪斌;权佳成;曹磊 申请(专利权)人: 马上消费金融股份有限公司
主分类号: G06F16/33 分类号: G06F16/33;G06F16/35;G06K9/62
代理公司: 北京国昊天诚知识产权代理有限公司 11315 代理人: 付先智
地址: 401120 重庆市渝北区*** 国省代码: 重庆;50
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 增强 处理 方法 装置
【权利要求书】:

1.一种数据增强处理方法,其特征在于,所述方法包括:

按照文本集合中标注文本的类别标签,将所述文本集合划分为与所述类别标签对应的文本子集合;

对各文本子集合中的标注文本进行单句切分,获得所述各文本子集合的单句集合;

基于所述各文本子集合的单句集合,对所述各文本子集合中的标注文本进行数据增强,获得多个新增文本;

识别所述多个新增文本的类别标签,并在所述多个新增文本中筛选类别标签与对应的标注文本的类别标签相同的目标文本;

根据所述目标文本和所述文本集合中的标注文本构建目标文本集合。

2.根据权利要求1所述的方法,其特征在于,对所述各文本子集合中任一文本子集合中的任一标注文本,实现数据增强的方式包括:

获取所述任一标注文本中包含的单句的第一数目;

若所述第一数目小于或者等于预设阈值,则在所述任一文本子集合的单句集合中确定与所述预设阈值对应数目的目标单句;

将所述目标单句添加至所述任一标注文本,并将添加处理后获得的文本作为所述任一标注文本对应的新增文本。

3.根据权利要求2所述的方法,其特征在于,所述获取所述任一标注文本中包含的单句的第一数目操作执行之后,还包括:

若所述第一数目大于所述预设阈值,则通过预设算法确定第二数目,所以第二数目用于在所述任一文本子集合的单句集合中筛选与所述第二数目对应数目的单句作为替换单句;

基于所述替换单句对所述任一标注文本中的单句进行替换处理,并将替换处理后获得的文本作为所述任一标注文本对应的新增文本。

4.根据权利要求3所述的方法,其特征在于,所述基于所述替换单句对所述任一标注文本中的单句进行替换处理,包括:

通过随机算法生成小于所述第一数目的随机数;

确定所述任一标注文本中单句顺序编号与所述随机数相等的待替换单句,并将所述待替换单句替换为所述替换单句。

5.根据权利要求1所述的方法,其特征在于,所述识别所述多个新增文本的类别标签,包括:

将所述多个新增文本输入第一文本类别识别模型进行文本类别识别,输出所述多个新增文本各自的类别标签;

其中,所述第一文本类别识别模型基于所述文本集合中的标注文本训练获得。

6.根据权利要求1所述的方法,其特征在于,所述根据所述目标文本和所述文本集合中的标注文本构建目标文本集合步骤执行之后,还包括:

将测试文本集合中的测试文本输入文本类别识别模型进行文本类别识别,输出所述测试文本的类别标签;所述文本类别识别模型基于所述文本集合中的标注文本训练获得;

基于所述测试文本的类别标签和所述测试文本的标注类别标签,得到所述文本类别识别模型的第一识别指标;

若所述第一识别指标大于第二识别指标且小于目标阈值,则对所述目标文本进行数据增强,得到第一目标文本;

基于所述第一目标文本对所述文本类别识别模型进行训练,得到目标文本类别识别模型;

其中,所述第二识别指标基于所述标注类别标签和所述测试文本的第二类别标签得到;所述第二类别标签由第一文本类别识别模型对所述测试文本进行文本类别识别后输出。

7.根据权利要求6所述的方法,其特征在于,所述方法还包括:

若所述第一识别指标小于或者等于所述第二识别指标,则对所述文本集合中的标注文本进行数据增强,获得第二目标文本;

根据所述第二目标文本和所述文本集合中的标注文本构建第一目标文本集合。

8.根据权利要求1所述的方法,其特征在于,所述对各文本子集合中的标注文本进行单句切分,获得所述各文本子集合的单句集合,包括:

按照单句切分标识对所述各文本子集合中的标注文本进行单句切分,得到所述各文本子集合的第一单句集合;

对所述各文本子集合的第一单句集合中的单句进行去重处理,得到所述各文本子集合的单句集合。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于马上消费金融股份有限公司,未经马上消费金融股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210268766.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top