[发明专利]一种语料分类的方法及系统有效

专利信息
申请号: 202010151880.8 申请日: 2020-03-06
公开(公告)号: CN111428030B 公开(公告)日: 2023-06-30
发明(设计)人: 白二伟;倪合强;宋志;姚寿柏 申请(专利权)人: 苏宁云计算有限公司
主分类号: G06F16/35 分类号: G06F16/35;G06N3/08;G06N3/0455
代理公司: 江苏圣典律师事务所 32237 代理人: 许峰;程化铭
地址: 210042 江苏省南*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 语料 分类 方法 系统
【说明书】:

发明实施例公开了一种语料分类的方法及系统,采用了模板匹配粗分类和微调预训练模型细分类相结合的方法,不需要人工进行语料标注,同时由于不断地迭代模型对训练语料进行细分类,能得到精度较高的分类语料,有效的提高了分类的准确性,同时不需要复杂的人工标注,减少了时间和人力成本。根据语料及关键词模板,获取粗分类语料;根据所述粗分类语料,构建第一语料分类模型;根据预设要求及所述第一语料分类模型,获取细分类语料。

技术领域

本发明涉及语料分类领域,具体涉及一种语料分类的方法及系统。

背景技术

随着互联网及移动端的发展,网页中包含了大量的语料信息,同时用户在浏览网站时留下了海量的评论,在终端设备,用户使用语音控制时,也会留下大量的语音和文字。收集并分类这些信息,可以做数据推送及喜好分析等大量的数据处理工作。

现有做法主要包含下列两大类:

1、确定每个分类的基础句子,计算目标语句与基础句子之间的编辑距离,从而确定目标句子的类别,

2、直接使用标注好的分类语料进行模型训练,接着利用训练好的模型进行目标语料的分类。

在上述方法中,每个分类的基础句子的选择,如果不够全面,或者两种分类的句子比较相似,就会出现分类不准确的情况,直接用标注好的语料训练模型,尽管能够保证识别精度,但是存在获取语料成本大的问题。

发明内容

本发明的实施例提供一种语料分类的方法及系统,采用了模板匹配粗分类和微调预训练模型细分类相结合的方法,不需要人工进行语料标注,同时由于不断地迭代模型对训练语料进行细分类,能得到精度较高的分类语料,有效的提高了分类的准确性,同时不需要复杂的人工标注,减少了时间和人力成本。

为达到上述目的,本发明的实施例采用如下技术方案:

第一方面,本发明的实施例提供一种语料分类的方法,根据语料及关键词模板,获取粗分类语料;根据所述粗分类语料,构建第一语料分类模型;根据预设要求及所述第一语料分类模型,获取细分类语料。

结合第一方面,在第一方面的第一种可能的实现方式中,预设要求为迭代次数。

结合第一方面,在第一方面的第二种可能的实现方式中,预设要求为精度要求。

结合第一方面,在第一方面的第三种可能的实现方式中,根据所述粗分类语料,对关键词模板进行调整;根据所述调整后的关键词模板,对粗分类语料进行匹配,获取语料分类神经网络、第一训练集和第一验证集;对所述语料分类神经网络进行调整,获取第一语料分类模型。

结合第一方面的第一种可能的实现方式,在第一方面的第四种可能的实现方式中,步骤一,将所述第1+n训练集输入第1+n语料分类模型,结合第1+n验证集,获得第1+n调整集,n表示进入步骤二的次数;n的初始值为0;步骤二,判断n是否满足迭代次数,若n满足迭代次数,则获取细分类语料,迭代结束;若n不满足迭代次数,则调整第1+N语料分类模型,获取第1+n语料分类模型,则将第1+N调整集作为第1+n验证集,将第1+N验证集作为第1+n训练集,返回步骤一,N表示返回步骤一的次数;N的初始值为0。

结合第一方面的第二种可能的实现方式,在第一方面的第五种可能的实现方式中,步骤一,将所述第1+n训练集输入第1+n语料分类模型,结合第1+n验证集,获得第1+n调整集,n表示进入步骤二的次数;n的初始值为0;步骤二,判断是否满足精度要求,若满足精度要求,则获取细分类语料,迭代结束;若不满足精度要求,则调整第1+N语料分类模型,获取第1+n语料分类模型,则将第1+N调整集作为第1+n验证集,将第1+N验证集作为第1+n训练集,返回步骤一,N表示返回步骤一的次数;N的初始值为0。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏宁云计算有限公司,未经苏宁云计算有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010151880.8/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top