[发明专利]基于深度学习多头选择模型的表头列实体关系匹配方法有效
申请号: | 202110936805.7 | 申请日: | 2021-08-16 |
公开(公告)号: | CN113378018B | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 高永伟;李曙光;宋万军;姜广栋;杨万刚;李峰;蔡晨;陈玉冰;皮乾东;黄昌彬;杜俊杰;张鑫涛 | 申请(专利权)人: | 南京烽火星空通信发展有限公司 |
主分类号: | G06F16/903 | 分类号: | G06F16/903;G06F16/906;G06F40/126;G06F40/18;G06N3/08 |
代理公司: | 南京经纬专利商标代理有限公司 32200 | 代理人: | 陆志斌 |
地址: | 210019 江苏省南京市建*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 深度 学习 多头 选择 模型 表头 实体 关系 匹配 方法 | ||
1.基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,包括以下几个步骤:
步骤一:对表格的数据项定义数据实体属性类别,包括时间、姓名和公司名,并构建正则识别方法;
步骤二:构建表头的任意两列组合的人工特征,人工特征的构建方式可依据实际场景需要进行选择,同时记录表头任意两列实体的关系匹配问题;
步骤三:将表头字符序列、表头对应的数据属性序列经过各自的embedding层之后,合并向量作为下一编码层的输入;
步骤四:编码层采用bi-lstm模型结构,输出为表头序列融合了上下文编码信息的各位置编码;
步骤五:将上下文编码信息基于多头选择模型进行任意位置两两组合拼接,然后对拼接向量进行关系分类;
步骤六:计算表头序列任意两两位置对每个关系类别的binary损失值,然后利用损失值进行反向传播更新模型参数;
步骤七:将损失值收敛至最佳的模型保留,并作为用于预测的模型。
2.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤一表头为“电视剧集演员姓名、所属公司名、公司电话、公司地址、拍摄时间、拍摄地址、工作邮箱、导演姓名、所属公司名、剧集长度和首映时间”构成的文字,表头列指其中单独每列的文字。
3.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤三表头字符序列words,属性序列attrs,分别经过两个embedding矩阵的映射转换,假设位置i的字符经过转换后为w_{i},位置i的属性经过转换后为a_{i},那么位置i的合并embedding向量为e_{i}=[w_{i}:a_{i}]。
4.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤四使用bi-lstm作为表头字符序列的编码层,在编码的过程中,将引入表格数据项的属性,数据项属性由正则匹配方式获取。
5.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤五中上下文编码信息为对于输入表头字符序列任意两位置i和j,其经过bi-lstm编码之后的最终表示为u_{i}和u_{j},人工构建的两两位置特征m_{ij}。
6.根据权利要求5所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述输入表头字符序列计算位置i和位置j之间的关系标签为r_{k}的分数为:
score(u_{i},u_{j},m_{ij},r_{k})=V*f(U*u_{i}+W*u_{j}+m_{ij}+b),其中V,U,W,b代表的是权重参数,f(*)是激活函数,为relu或者tanh激活函数,根据分数得到位置i和位置j之间关系为r_{k}的概率为:
sigmoid(score(u_{i},u_{j},m_{ij},r_{k})),其中sigmoid是sigmoid函数。
7.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤五在利用多头选择模型判定时,需要构建不同表头列的融合向量,并依据融合向量,判断任意两列的关系。
8.根据权利要求1所述的基于深度学习多头选择模型的表头列实体关系匹配方法,其特征在于,所述步骤二中使用表头任意两列实体的关系匹配问题转换为深度学习关系抽取问题,以多头选择模型作为该问题的解法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京烽火星空通信发展有限公司,未经南京烽火星空通信发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110936805.7/1.html,转载请声明来源钻瓜专利网。