[发明专利]目标编码器生成方法、装置、电子设备和计算机可读介质在审
申请号: | 202011205004.5 | 申请日: | 2020-11-02 |
公开(公告)号: | CN112329391A | 公开(公告)日: | 2021-02-05 |
发明(设计)人: | 徐成国;杨康;周星杰;王硕 | 申请(专利权)人: | 上海明略人工智能(集团)有限公司 |
主分类号: | G06F40/126 | 分类号: | G06F40/126;G06F40/151;G06K9/62 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 曾军;刘晓燕 |
地址: | 200030 上海市徐汇区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种目标编码器的生成方法、装置、电子设备和计算机可读介质,属于语言学习技术领域。所述方法包括:获取原始文本,其中,所述原始文本包括顺序排列的多个字符;通过将所述原始文本中的字符替换为占位符,得到训练样本序列,其中,所述训练样本序列中源于同一原始文本的两个相邻的文本训练样本中所述占位符的所在位置相邻,所述占位符用于表示所在位置的正确字符为待预测的字符;利用所述训练样本序列对原始编码器进行训练,得到目标编码器。在本申请中,通过按顺序将原始文本中的字符替换为占位符,采用自回归语言模型中的单向上下文拟合过程,弥补了基于自编码语言模型的迁移学习对文本生成任务性能不足的缺点。 | ||
搜索关键词: | 目标 编码器 生成 方法 装置 电子设备 计算机 可读 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海明略人工智能(集团)有限公司,未经上海明略人工智能(集团)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011205004.5/,转载请声明来源钻瓜专利网。
- 上一篇:一种蓝莓酒制备方法
- 下一篇:一种防腐蚀的轻钢龙骨加工方法