[发明专利]文本处理方法、装置、电子设备及存储介质有效
申请号: | 202110861985.7 | 申请日: | 2021-07-29 |
公开(公告)号: | CN113642319B | 公开(公告)日: | 2022-11-29 |
发明(设计)人: | 刘佳祥;冯仕堃 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/247 | 分类号: | G06F40/247;G06F40/58 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 谷春静 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开提供了文本处理方法、装置、电子设备及存储介质,涉及深度学习以及自然语言处理等人工智能领域,其中的方法可包括:针对待处理的文本,分别设置采用多头注意力机制的Transformer模型中的各头对应的注意力模式,其中,至少一个头与其它N‑1个头对应的注意力模式不同,N表示头数,为大于一的正整数;利用所述Transformer模型进行文本处理。应用本公开所述方案,可提升模型性能及相应地提升文本处理效果等。 | ||
搜索关键词: | 文本 处理 方法 装置 电子设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110861985.7/,转载请声明来源钻瓜专利网。