[发明专利]一种结构化数据分类方法、装置、设备及介质有效
申请号: | 202110538741.5 | 申请日: | 2021-05-17 |
公开(公告)号: | CN113220801B | 公开(公告)日: | 2022-07-29 |
发明(设计)人: | 刘焱;姚兴 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06N3/08;G06N3/04;G06F21/62 |
代理公司: | 北京晋德允升知识产权代理有限公司 11623 | 代理人: | 刘立升 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 结构 数据 分类 方法 装置 设备 介质 | ||
1.一种结构化数据分类方法,所述方法包括:
对结构化数据库内存储的一个或多个表执行采样操作,以便获取所述表对应的字段集合;
获取所述字段集合内各字段对应的字段信息,利用预先配置的打分规则或打分模型对所述字段信息执行打分操作,得到所述字段对应的打分结果;其中,所述打分结果能够模糊表征所述字段的类别;
根据所述字段对应的打分结果对预定的深度学习模型进行训练,得到训练后的深度学习模型;
利用所述训练后的深度学习模型,对未知类别的结构化数据的字段进行预测,根据预测结果确定所述结构化数据对应的类别。
2.如权利要求1所述的方法,所述对结构化数据库内存储的一个或多个表执行采样操作,以便获取所述表对应的字段集合,包括:
所述结构化数据库包括采用区块链技术的分布式数据库,从区块链的节点中获取所述结构化数据库内的表,并确定所述表的授权状态,对已授权的表执行采样操作,得到该表对应的字段集合;
其中,所述表中至少包含一类字段,所述字段集合中包含每类字段对应的预设行数的字段。
3.如权利要求1所述的方法,所述字段信息包含字段的值以及字段的注释信息,所述利用预先配置的打分规则或打分模型对所述字段信息执行打分操作,得到所述字段对应的打分结果,包括:
将各个字段所对应的字段的值以及字段的注释信息作为输入,利用预先配置的打分规则或打分模型对其进行打分,得到各个字段分别对应的打分结果,并将所述打分结果上传至区块链中的节点。
4.如权利要求1或3所述的方法,所述预先配置的打分规则或打分模型为根据已知字段的类别所配置的打分规则或者打分模型;其中,
所述打分规则包括正则表达式,当已知字段的类别为多个时,根据为每个字段类别所配置的正则表达式生成规则集合,并利用该规则集合对每个字段进行打分得到由多个维度所组成的打分结果;
所述打分模型包括机器学习分类模型或者自然语言处理模型,该打分模型用于对字段所对应的字段信息进行打分预测,得到该字段分别属于某一字段类别的概率值。
5.如权利要求4所述的方法,所述方法还包括:
当采用打分规则对所述字段信息进行打分时,为每个字段类别对应的注释信息配置正则表达式,根据所述字段对应的正则表达式和字段对应注释信息的正则表达式生成规则集合。
6.如权利要求4所述的方法,所述方法还包括:
当采用打分模型对所述字段信息进行打分时,将所述字段的值以及字段的注释信息作为参数输入到打分模型中,以便打分模型根据参数计算打分函数,获得打分结果。
7.如权利要求4所述的方法,所述打分规则还包括关键字列表,利用根据已知字段的类别所预先配置的关键字列表对所述字段信息执行打分操作。
8.如权利要求1所述的方法,在所述根据所述字段对应的打分结果对预定的深度学习模型进行训练之前,还包括:
将多个维度的打分结果与字段集合进行整合得到数据集,将所述数据集划分为训练集和测试集,利用训练集对所述预定的深度学习模型进行训练;其中,所述字段集合中的每个字段均对应一个打分结果。
9.如权利要求1所述的方法,所述预定的深度学习模型为预先构建的编解码器,所述编解码器为基于深度学习框架的自定义模型;其中,
所述编解码器的结构中包含三个隐藏层,第一隐藏层和第三隐藏层之间的神经元个数相同,第二隐藏层的神经元个数小于第一隐藏层和第三隐藏层的神经元个数;在所述第一隐藏层和第二隐藏层之间添加高斯白噪音。
10.如权利要求9所述的方法,在所述编解码器的训练过程中,将损失函数设置为第一隐藏层的输入与第三隐藏层的输出之间的均方误差。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110538741.5/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置