[发明专利]事件识别模型优化方法、装置、设备及可读存储介质有效
申请号: | 202010912118.7 | 申请日: | 2020-09-02 |
公开(公告)号: | CN112036169B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 李超;吴海山;殷磊 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F16/35;G06F40/126;G06F40/151;G06F40/216;G06F40/30;G06F40/284 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 王韬 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 事件 识别 模型 优化 方法 装置 设备 可读 存储 介质 | ||
1.一种事件识别模型优化方法,其特征在于,待优化的事件识别模型包括字符事件信息提取模块、事件分类模块和关键词识别模块,所述方法包括以下步骤:
将各类事件对应的训练文本输入所述字符事件信息提取模块,提取得到所述训练文本中各字符与各类事件的字符事件关联信息;
将所述字符事件关联信息和所述训练文本输入所述事件分类模块进行分类,得到所述训练文本对应的事件分类结果;
将所述字符事件关联信息和所述训练文本对应的关键词标注输入所述关键词识别模块进行识别,得到关键词识别损失,其中,所述关键词标注包括标注所述训练文本的各个字符是否为关键词的标注,所述关键词识别损失为表示关键词识别结果与所述关键词标注之间差距的损失,所述关键词识别结果为表示所述训练文本中哪些字符属于关键词的结果;
基于所述事件分类结果和所述训练文本对应的事件类型标注计算分类损失,并优化所述关键词识别损失和所述分类损失以优化所述事件识别模型。
2.如权利要求1所述的事件识别模型优化方法,其特征在于,所述字符事件信息提取模块包括第一语义理解编码器和第一事件编码信息,
所述将各类事件对应的训练文本输入所述字符事件信息提取模块,提取得到所述训练文本中各字符与各类事件的字符事件关联信息的步骤包括:
将所述训练文本输入所述第一语义理解编码器中进行编码,得到所述训练文本中各字符对应的字符编码信息;
对所述字符编码信息和所述第一事件编码信息进行关联运算,得到所述字符事件关联信息。
3.如权利要求2所述的事件识别模型优化方法,其特征在于,所述第一事件编码信息包括各类事件对应的编码信息,
所述基于所述关键词识别损失和所述分类损失优化所述事件识别模型的步骤之前,还包括:
基于所述第一事件编码信息计算各类事件两两之间编码信息的相似度,并将各相似度相加得到事件编码惩罚值;
所述优化所述关键词识别损失和所述分类损失以优化所述事件识别模型的步骤包括:
优化所述事件编码惩罚值、所述关键词识别损失和所述分类损失以优化所述事件识别模型。
4.如权利要求1所述的事件识别模型优化方法,其特征在于,所述事件分类模块包括第二语义理解编码器、第二事件编码信息和事件分类器,
所述将所述字符事件关联信息和所述训练文本输入所述事件分类模块进行分类,得到所述训练文本对应的事件分类结果的步骤包括:
将所述训练文本输入所述第二语义理解编码器进行编码,得到所述训练文本对应的文本编码信息;
对所述文本编码信息和所述第二事件编码信息进行关联运算,得到文本事件关联信息;
将所述训练文本、所述字符事件关联信息和所述文本事件关联信息输入所述事件分类器,得到所述训练文本对应的事件分类结果。
5.如权利要求1所述的事件识别模型优化方法,其特征在于,所述关键词识别模块包括条件随机场,所述字符事件关联信息为注意力矩阵,所述注意力矩阵的各行对应各类事件,各列对应所述训练文本中各字符,
所述将所述字符事件关联信息和所述训练文本对应的关键词标注输入所述关键词识别模块进行识别,得到关键词识别损失的步骤包括:
将所述注意力矩阵进行转置得到转置矩阵;
将所述转置矩阵和所述关键词标注输入所述条件随机场得到最大似然概率,将所述最大似然概率取负数后作为所述关键词识别损失。
6.如权利要求1所述的事件识别模型优化方法,其特征在于,所述优化所述关键词识别损失和所述分类损失以优化所述事件识别模型的步骤包括:
对所述关键词识别损失和所述分类损失进行加权求和得到总损失;
基于所述总损失计算所述事件识别模型中各个模型参数对应的梯度值;
并根据所述梯度值更新所述各个模型参数,以优化所述事件识别模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010912118.7/1.html,转载请声明来源钻瓜专利网。