[发明专利]自然语言处理方法、装置、电子设备及存储介质有效
申请号: | 202010746066.0 | 申请日: | 2020-07-29 |
公开(公告)号: | CN111914551B | 公开(公告)日: | 2022-05-20 |
发明(设计)人: | 张新松;李鹏帅;李航 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/205;G06F40/30;G06F16/35 |
代理公司: | 北京远智汇知识产权代理有限公司 11659 | 代理人: | 范坤坤 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开实施例公开了一种语言表示模型系统、语言表示模型的预训练方法、自然语言处理方法、装置、设备及介质,所述语言表示模型系统包括:以字为分词单位的字粒度语言表示子模型和以词为分词单位的词粒度语言表示子模型;其中,字粒度语言表示子模型用于基于以字为分词单位的语句输出每个分字在所述语句中所表达的语义对应的第一语义向量;词粒度语言表示子模型用于基于以词为分词单位的所述语句输出每个分词在所述语句中所表达的语义对应的第二语义向量。本公开实施例的技术方案,提供了一种混合粒度语言表示模型,为下游自然语言处理任务提供了模型基础,有助于提升下游自然语言处理任务的处理精度,提升了语言表示模型的迁移效果。 | ||
搜索关键词: | 自然语言 处理 方法 装置 电子设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010746066.0/,转载请声明来源钻瓜专利网。