[发明专利]文本关系抽取模型的训练方法、装置以及计算机设备有效
申请号: | 202110610936.6 | 申请日: | 2021-06-01 |
公开(公告)号: | CN113282710B | 公开(公告)日: | 2023-02-03 |
发明(设计)人: | 孙思;曹锋铭 | 申请(专利权)人: | 平安国际智慧城市科技股份有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/284;G06N3/04;G06N3/08 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉;曹勇 |
地址: | 518000 广东省深圳市前海深港合*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 关系 抽取 模型 训练 方法 装置 以及 计算机 设备 | ||
本发明提供了一种文本关系抽取模型的训练方法、装置以及计算机设备,其中,方法包括:通过获取训练文本和对应的词汇关系表格,并将词汇关系表格作为最终的输出标准,再将训练文本进行向量化,得到各个词对应的词向量,基于迭代交叉训练的方式训练语法线程和情感线程,使两个线程不断的迭代耦合,从而减小了两个线程的冲突,使两个线程更加的平衡,最后再通过损失值判断是否进行收敛,从而完成了对文本关系抽取模型的训练。
技术领域
本发明涉及文本处理领域,特别涉及一种文本关系抽取模型的训练方法、装置以及计算机设备。
背景技术
信息抽取是从自然语言文本中,抽取出特定的事件或事实信息,帮助我们将海量内容自动分类、提取和重构。文本关系抽取是信息抽取最重要的一环。现有的文本关系抽取方案有两种,一种是将语法关系和情感关系标注作为两个单独的任务,但是这种方式难以解决语法和情感相对应的问题。另一种是在一个模型中同时进行语法关系和情感关系的训练,但是目前这两个任务在同一个模型中进行表征容易发生冲突,影响最终的模型效果。
发明内容
本发明的主要目的为提供一种文本关系抽取模型的训练方法、装置以及计算机设备,旨在解决同时进行语法关系和情感关系的训练容易发生冲突的问题。
本发明提供了一种文本关系抽取模型的训练方法,包括:
获取训练文本以及所述训练文本对应的词汇关系表格;
按照预设的向量化方式对所述训练文本中的各个词进行向量化,得到各个词对应的词向量;
将所有的所述词向量通过输入通道输入迭代通道中进行迭代交叉训练,得到语法输出结果和情感输出结果,其中,所述迭代通道中语法线程和情感线程的训练层一一交替,所述迭代通道内的当前训练层的输出作为其后两层训练层的输入,第一训练层和第二训练层为直接输入所述训练文本进行计算,倒数第二层的输出作为所述倒数第一层的输入,所述倒数第一层和所述倒数第二层的输出结果分别为所述语法输出结果,以及所述情感输出结果,所述当前训练层不包括所述倒数第一层和所述倒数第二层;
根据所述词汇关系表格、所述语法输出结果,以及所述情感输出结果,调整所述语法线程和情感线程中的参数,反复在所述迭代通道内进行迭代交叉训练,直至所述迭代交叉训练的损失值小于预设损失值,以得到所述文本关系抽取模型。
本发明还提供了一种文本关系抽取模型的训练装置,包括:
获取模块,用于获取训练文本以及所述训练文本对应的词汇关系表格;
向量化模块,用于按照预设的向量化方式对所述训练文本中的各个词进行向量化,得到各个词对应的词向量;
训练模块,用于将所有的所述词向量通过输入通道输入迭代通道中进行迭代交叉训练,得到语法输出结果和情感输出结果;其中,所述迭代通道中语法线程和情感线程的训练层一一交替,所述迭代通道内的当前训练层的输出作为其后两层训练层的输入,第一训练层和第二训练层为直接输入所述训练文本进行计算,倒数第二层的输出作为所述倒数第一层的输入,所述倒数第一层和所述倒数第二层的输出结果分别为所述语法输出结果,以及所述情感输出结果,所述当前训练层不包括所述倒数第一层和所述倒数第二层;
调整模块,根据所述词汇关系表格、所述语法输出结果,以及所述情感输出结果,调整所述语法线程和情感线程中的参数,反复在所述迭代通道内进行迭代交叉训练,直至所述迭代交叉训练的损失值小于预设损失值,以得到所述文本关系抽取模型。
本发明还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。
本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安国际智慧城市科技股份有限公司,未经平安国际智慧城市科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110610936.6/2.html,转载请声明来源钻瓜专利网。