[发明专利]一种非结构化数据处理的方法和系统在审
申请号: | 201910709505.8 | 申请日: | 2019-08-02 |
公开(公告)号: | CN110442671A | 公开(公告)日: | 2019-11-12 |
发明(设计)人: | 陈万林 | 申请(专利权)人: | 深圳百胜扬工业电子商务平台发展有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/35 |
代理公司: | 深圳市创富知识产权代理有限公司 44367 | 代理人: | 曾敬 |
地址: | 518000 广东省深圳市南山区西丽街道*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 非结构化数据 关键字库 归一化数据 格式转换 归一化处理 非结构化 数据处理 关键字添加 查询效率 格式统一 解析规则 用户需求 归一化 数据库 抽取 存储 输出 补充 分析 | ||
1.一种非结构化数据处理的方法,其特征在于,所述方法包括:
获取非结构化数据,所述非结构化数据的获取包括人工输入或者电子设备采集;
根据所述非结构化数据,获取所述非结构化数据的关键字,所述根据所述非结构化数据,获取所述非结构化数据的关键字包括根据预先设定的解析规则,从所述非结构化数据中抽取的关键字;
判断所述关键字是否已经存在于关键字库中,若所述关键字未存在于所述关键字库中,则将所述关键字添加到所述关键字库中;
对所述非结构化数据进行归一化处理,得到格式统一的归一化数据,并将所述归一化数据存储于与所述关键字库对应的归一化数值库中;
将所述归一化数据按用户需求进行格式转换,得到格式转换后的数据,将所述格式转换后的数据进行输出。
2.如权利要求1所述的非结构化数据处理的方法,其特征在于,在所述获取非结构化数据之后还包括:
获取与所述非结构化数据相关的状态信息和环境信息,所述非结构化数据相关的状态信息和环境信息与所述关键字对应;
将所述状态信息和所述环境信息存储到与所述关键字库对应的环境状态信息库中。
3.如权利要求1所述的非结构化数据处理的方法,其特征在于,对所述非结构化数据进行归一化处理,得到格式统一的归一化数据具体为:
对所述非结构化数据进行分割和过滤,得到独立数据字段;
对所述独立数据字段进行分类,得到分类数据字段;
将所述分类数据字段进行格式转化,得到格式统一的归一化数据。
4.如权利要求3所述的非结构化数据处理的方法,其特征在于,所述对所述独立数据字段进行分类,得到分类数据字段具体包括:
获取所述独立数据字段的关键字;
将所述独立数据字段的关键字进行去重、关联和增强处理;
将所述独立数据字段的关键字与所述关键字库中的所述关键字逐个进行匹配,得到所述分类数据字段。
5.一种非结构化数据处理的系统,其特征在于,所述系统包括:
数据获取模块,用于获取非结构化数据,所述非结构化数据的获取包括人工输入或者电子设备采集;
关键字获取模块,用于根据所述非结构化数据,获取所述非结构化数据的关键字,所述根据所述非结构化数据,获取所述非结构化数据的关键字包括根据预先设定的解析规则,从所述非结构化数据中抽取的关键字;
关键字判断模块,用于判断所述关键字是否已经存在于关键字库中,若所述关键字未存在于所述关键字库中,则将所述关键字添加到所述关键字库中;
数据归一化模块,用于对所述非结构化数据进行归一化处理,得到格式统一的归一化数据,并将所述归一化数据存储于与所述关键字库对应的归一化数值库中;
数据转化输出模块,用于将所述归一化数据按用户需求进行格式转换,得到格式转换后的数据,将所述格式转换后的数据进行输出。
6.如权利要求5所述的非结构化数据处理的系统,其特征在于,还包括:
相关信息获取模块,用于获取与所述非结构化数据相关的状态信息和环境信息,所述非结构化数据相关的状态信息和环境信息与所述关键字对应;
相关信息存储模块,用于将所述状态信息和所述环境信息存储到与所述关键字库对应的环境状态信息库中。
7.如权利要求6所述的非结构化数据处理的系统,其特征在于,所述数据归一化模块包括:
分割过滤单元,用于对所述非结构化数据进行分割和过滤,得到独立数据字段;
数据分类单元,用于对所述独立数据字段进行分类,得到分类数据字段;
格式转化单元,用于将所述分类数据字段进行格式转化,得到格式统一的归一化数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳百胜扬工业电子商务平台发展有限公司,未经深圳百胜扬工业电子商务平台发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910709505.8/1.html,转载请声明来源钻瓜专利网。