[发明专利]文本处理模型的训练方法、装置和文本处理方法有效
| 申请号： | 201910471389.0 | 申请日： | 2019-05-31 |
| 公开（公告）号： | CN110209817B | 公开（公告）日： | 2023-06-09 |
| 发明（设计）人： | 李健铨;刘小康;马力群 | 申请（专利权）人： | 安徽省泰岳祥升软件有限公司 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06F16/33;G06F40/289;G06F40/30;G06N3/045;G06N3/08 |
| 代理公司： | 北京弘权知识产权代理有限公司 11363 | 代理人： | 逯长明;许伟群 |
| 地址： | 230088 安徽省合肥市高新区习友路333*** | 国省代码： | 安徽;34 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请公开了文本处理模型的训练方法、装置及文本处理方法，所述训练方法应用于多个具有不同任务目标的文本处理模型，多个文本处理模型共享部分隐层。所述方法中，对于每一任务目标，首先将相应训练样本输入至相应文本处理模型中，输出任务目标值；其次根据输出的任务目标值计算预设损失函数的单任务损失值，根据各文本处理模型对应的单任务损失值计算多任务损失值；最后根据多任务损失值，调整每一文本处理模型的参数。多个文本处理模型同时并行学习，通过共享部分隐层来共享多个任务的浅层特征表示，梯度同时反向传播帮助隐层逃离局部极小值，可以提高每个模型的准确性和泛化性。将训练后的文本处理模型用以处理高层任务，可以提高结果准确性。 | ||
| 搜索关键词： | 文本 处理 模型 训练 方法 装置 | ||
【主权项】：
1.一种文本处理模型的训练方法，其特征在于，应用于多个具有不同任务目标的文本处理模型，所述多个文本处理模型共享部分隐层；对于每一任务目标，将相应训练样本输入至相应文本处理模型中，输出任务目标值；根据输出的任务目标值计算预设损失函数的单任务损失值，根据各文本处理模型对应的单任务损失值计算多任务损失值；根据所述多任务损失值，调整每一文本处理模型的参数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于安徽省泰岳祥升软件有限公司，未经安徽省泰岳祥升软件有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910471389.0/，转载请声明来源钻瓜专利网。
