[发明专利]用于事件检测的网络训练方法及装置在审
申请号: | 202011111486.8 | 申请日: | 2020-10-16 |
公开(公告)号: | CN112199950A | 公开(公告)日: | 2021-01-08 |
发明(设计)人: | 徐军;黄伟鹏;徐学可;王峰 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/216;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 事件 检测 网络 训练 方法 装置 | ||
1.一种用于进行事件检测的动态感知网络训练方法,所述动态感知网络包含顺序排列的多个备选的计算层;所述方法通过处理平台执行,包括:
获取包含多个词的样本文本、多个词分别对应的初始特征向量和标注标签,所述标注标签包括与事件类型相关的第一类标签和与事件类型无关的第二类标签;
针对所述样本文本中的任意一个词,从所述动态感知网络中逐渐增加地选择前若干个计算层,并通过所述前若干个计算层和该词的初始特征向量确定该词的中间特征向量,基于第一分类器和该词的中间特征向量确定第一预测标签,当所述第一预测标签与对应的标注标签的第一差异小于第一预设阈值时,将所述前若干个计算层作为与该词对应的计算层,将该词的所述中间特征向量作为所述动态感知网络输出的该词的第一特征向量;预测标签是该词在所述第一类标签或所述第二类标签中归属的标签;
基于所述第一差异确定第一预测损失,向减小所述第一预测损失的方向,调整与该词对应的计算层中的模型参数。
2.根据权利要求1所述的方法,通过所述前若干个计算层和该词的初始特征向量确定该词的中间特征向量,包括:
通过所述前若干个计算层,基于该词的初始特征向量和所述样本文本中该词之前的词信息,确定该词的中间特征向量。
3.根据权利要求2所述的方法,确定该词的中间特征向量,包括:
将该词的初始特征向量和该词之前的词信息输入所述前若干个计算层中的第一个计算层,并至少将每个计算层的计算结果输入下一个计算层,将所述前若干个计算层中的最后一个计算层的计算结果,作为该词的中间特征向量。
4.根据权利要求3所述的方法,还包括,将该词的初始特征向量输入所述下一个计算层。
5.根据权利要求2所述的方法,所述该词之前的词信息,基于该词之前的词的第一特征向量确定。
6.根据权利要求1所述的方法,基于第一分类器和该词的中间特征向量确定第一预测标签,包括:
基于该词的中间特征向量确定该词的特征概率,所述特征概率表示该中间特征向量作为第一特征向量的概率;
将该词的中间特征向量输入第一分类器,得到该词的初始预测标签;
基于该词的特征概率与该词的初始预测标签,确定该词的第一预测标签。
7.根据权利要求1所述的方法,当所述第一差异不小于所述第一预设阈值时,还包括:
继续向所述前若干个计算层中增加第一数量个计算层;
至少将该词的所述中间特征向量输入所述第一数量个计算层,得到更新后的该词的中间特征向量,继续执行基于第一分类器和该词的中间特征向量确定第一预测标签的步骤。
8.根据权利要求7所述的方法,所述第一数量为预先设定的数量;或者,所述第一数量基于所述第一差异和所述第一预设阈值的相对值确定。
9.一种用于进行事件检测的目标反馈网络训练方法,所述方法通过处理平台执行,包括:
获取包含多个词的样本文本、多个词分别对应的第一特征向量和标注标签,所述第一特征向量采用权利要求1训练的动态感知网络确定;
基于多个词分别对应的第一特征向量,按照预设的特征处理机制,确定多个词分别对应的第二特征向量;
按照所述样本文本中多个词的排列顺序,基于多个词的第二特征向量,通过目标反馈网络,采用以下递归方式依次确定多个词分别对应的隐向量:针对所述多个词中的任意一个词,将该词的前一个词的特征信息和该词的第二特征向量输入所述目标反馈网络,得到该词的隐向量;将该词的隐向量输入第二分类器,得到该词的第二预测标签;其中,所述前一个词的特征信息包括所述前一个词的第二预测标签和所述前一个词的隐向量;
基于各个词的第二预测标签与对应的标注标签之间的第二差异,确定第二预测损失,向减小所述第二预测损失的方向,调整所述目标反馈网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011111486.8/1.html,转载请声明来源钻瓜专利网。