[发明专利]语言模型的训练方法、装置和计算机设备在审
| 申请号： | 202010621788.3 | 申请日： | 2020-06-30 |
| 公开（公告）号： | CN111768001A | 公开（公告）日： | 2020-10-13 |
| 发明（设计）人： | 江新洋 | 申请（专利权）人： | 平安国际智慧城市科技股份有限公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04;G06F40/253;G06F40/30;G06F16/27 |
| 代理公司： | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人： | 王杰辉 |
| 地址： | 518000 广东省深圳市前海深港合*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请涉及人工智能领域，揭示了语言模型的训练方法，包括：将修改后MLM任务和修改后NSP任务，输入至第一Bert模型中进行训练，得到第一Bert模型对应的第一模型参量；将第一模型参量适用于第二Bert模型中，并通过修改后MLM任务和修改后NSP任务训练第二Bert模型；判断第二Bert模型的输出结果是否达到预设条件；若是，则判定第二Bert模型已达到使用标准。通过改进Bert模型的结构以及训练方法，扩大预训练语言模型的迁移到具体应用场景的适用范围以及精准度，并在当前优化的任务数据下训练改进的Bert模型，使训练模型更能适用于具体应用场景或领域，识别效果更佳，保证了根据实时请求的具体应用场景。本申请还适用于智慧政务领域，从而推动智慧城市的建设。 | ||
| 搜索关键词： | 语言 模型 训练 方法 装置 计算机 设备 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于平安国际智慧城市科技股份有限公司，未经平安国际智慧城市科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010621788.3/，转载请声明来源钻瓜专利网。
