[发明专利]多任务分类模型训练方法、多任务分类方法及装置在审
申请号: | 201910839054.X | 申请日: | 2019-09-05 |
公开(公告)号: | CN110728298A | 公开(公告)日: | 2020-01-24 |
发明(设计)人: | 任磊;步佳昊;杨扬;王金刚;张富峥;王仲远 | 申请(专利权)人: | 北京三快在线科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 11319 北京润泽恒知识产权代理有限公司 | 代理人: | 任亚娟 |
地址: | 100083 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开提供了一种多任务分类模型训练方法、多任务分类方法及装置。所述方法包括:将预设信息输入至预训练模型;预设信息包括多个信息单元;调用参数共享层,对每个信息单元进行全局向量表征处理,确定每个信息单元的全局语义表征向量;调用多个分类器,根据每个全局语义表征向量对预设信息进行分类处理,确定预设信息的分类预测结果;基于分类预测结果、第一数量、第二数量和标注结果,计算得到损失值;在损失值处于预设范围内的情况下,将训练得到的目标预训练模型作为多任务分类模型。本公开可以在少量训练数据的基础上获取较好的多任务分类模型,在有新增任务的情况下,仅需增加少量的标注训练数据,能够降低标注成本。 | ||
搜索关键词: | 任务分类 预设信息 信息单元 标注 语义 训练模型 训练数据 预测结果 向量 调用参数 分类处理 模型训练 全局向量 分类器 共享层 分类 预设 调用 全局 | ||
【主权项】:
1.一种多任务分类模型训练方法,其特征在于,包括:/n将预设信息输入至预训练模型,所述预设信息包括多个信息单元,所述预训练模型包括参数共享层和多个分类器;/n调用所述参数共享层,对每个所述信息单元进行全局向量表征处理,确定每个所述信息单元在所述预设信息中的全局语义表征向量;/n调用所述多个分类器,根据每个所述全局语义表征向量对所述预设信息进行分类处理,确定所述预设信息在多个任务上的分类预测结果;/n基于所述分类预测结果、所述预设信息在各所述任务上的第一数量、所述任务的第二数量和所述预设信息的标注结果,计算得到损失值;/n在所述损失值处于预设范围内的情况下,将训练得到的目标预训练模型作为多任务分类模型。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三快在线科技有限公司,未经北京三快在线科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910839054.X/,转载请声明来源钻瓜专利网。