[发明专利]语料增广方法、装置、设备及存储介质有效
申请号: | 202110638816.7 | 申请日: | 2021-06-08 |
公开(公告)号: | CN113204966B | 公开(公告)日: | 2023-03-28 |
发明(设计)人: | 赵芳煜 | 申请(专利权)人: | 重庆度小满优扬科技有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/232;G06F40/194;G06F40/126 |
代理公司: | 北京知帆远景知识产权代理有限公司 11890 | 代理人: | 刘岩磊 |
地址: | 401121 重庆市渝*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语料 增广 方法 装置 设备 存储 介质 | ||
1.一种语料增广方法,其特征在于,包括:
获取原始语料;
针对所述原始语料中任一个语句,对所述语句进行词频统计,得到所述语句的词频统计结果,和/或,对所述语句进行打分,得到所述语句的打分结果;
根据所述原始语料中每个语句的词频统计结果和/或所述每个语句的打分结果,确定所述原始语料中的正确语料和错误语料;
确定所述错误语料中错误字词出现的频率;
按照所述错误语料中错误字词出现的频率将所述正确语料中所述错误字词对应的正确字词替换为所述错误字词,以生成第一语料;
将所述第一语料添加至所述原始语料中;
其中,所述根据所述原始语料中每个语句的词频统计结果和/或所述每个语句的打分结果,确定所述原始语料中的正确语料和错误语料,包括:
针对所述每个语句,若所述语句中存在低于预设词频的词,则将所述语句确定为错误语句;或者,
若所述语句中的打分结果小于预设打分,则将所述语句确定为错误语句;或者,
若所述语句中存在低于预设词频的词,且所述语句中的打分结果小于预设打分,则将所述语句确定为错误语句;
将所有所述错误语句构成所述错误语料,并将所述原始语料中的其他语句构成所述正确语料。
2.根据权利要求1所述的方法,其特征在于,所述按照所述错误语料中错误字词出现的频率将所述正确语料中所述错误字词对应的正确字词替换为所述错误字词,以生成第一语料,包括:
将所述正确语料中所述错误字词对应的正确字词中第一比例的正确字词替换为所述错误字词,以生成所述第一语料;
其中,所述第一比例为所述错误语料中错误字词出现的频率。
3.根据权利要求1或2所述的方法,其特征在于,还包括:
针对所述正确语料的任一个字,采用目标音形编码方式对所述字进行编码,得到所述字的编码序列,所述目标音形编码方式与所述字的输入方式有关;
针对所述正确语料中的任一个正确语句,在所述正确语句中选择至少一个字;
针对所述至少一个字中的每个字,根据所述字的编码序列确定所述字对应的相似字,并将所述字替换为所述相似字,以生成第二语料;
将所述第二语料添加至所述原始语料中。
4.根据权利要求1或2所述的方法,其特征在于,所述对所述语句进行词频统计,得到所述语句的词频统计结果,包括:
通过滑动窗口对所述语句进行连续划分分词;
确定所述语句中每个分词在所述原始语料中的词频。
5.根据权利要求1或2所述的方法,其特征在于,对所述语句进行打分,得到所述语句的打分结果,包括:
将所述语句输入语句打分模型中,以得到所述语句的打分结果。
6.根据权利要求1或2所述的方法,其特征在于,所述根据所述原始语料中每个语句的词频统计结果和/或所述每个语句的打分结果,确定所述原始语料中的正确语料和错误语料之后,还包括:
将所述正确语料输入至语料增广模型中,以得到更多数量的正确语料。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆度小满优扬科技有限公司,未经重庆度小满优扬科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110638816.7/1.html,转载请声明来源钻瓜专利网。