[发明专利]文本语料处理方法、装置、设备及存储介质有效
申请号: | 202011504668.1 | 申请日: | 2020-12-18 |
公开(公告)号: | CN112560435B | 公开(公告)日: | 2022-03-11 |
发明(设计)人: | 陈孝良;冯大航;焦伟;常乐 | 申请(专利权)人: | 北京声智科技有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/194;G06F16/35;G06F16/951 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 孔德月 |
地址: | 100094 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种文本语料处理方法、装置、设备及存储介质,属于数据处理技术领域。所述方法包括:获取多条文本语料;按照重复语料的最大保留数量,将所述多条文本语料划分为所述最大保留数量个文本语料分组,每个文本语料分组包括至少一条文本语料,所述最大保留数量为大于1的整数;对划分得到的多个文本语料分组分别进行去重处理;将去重处理后的所述多个文本语料分组进行合并。上述方法能够处理得到符合语言模型训练要求的文本语料。 | ||
搜索关键词: | 文本 语料 处理 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京声智科技有限公司,未经北京声智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011504668.1/,转载请声明来源钻瓜专利网。