[发明专利]因子数据获取方法、装置、计算机设备和存储介质在审
申请号: | 202110036556.6 | 申请日: | 2021-01-12 |
公开(公告)号: | CN112883091A | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 亓宁;杨斐然;刘剑 | 申请(专利权)人: | 平安资产管理有限责任公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/27;G06F9/455 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 史治法 |
地址: | 200135 上海市浦东新区自*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 因子 数据 获取 方法 装置 计算机 设备 存储 介质 | ||
本申请涉及人工智能技术领域,具体涉及一种因子数据获取方法、装置、计算机设备和存储介质。方法包括:按照预设频次从多个数据源中提取数据结构不同的源数据,并将提取到的源数据作为异构多源数据;将异构多源数据加载至数据湖,并在数据湖中利用分布式处理组件对加载到的异构多源数据进行分层处理得到因子键值数据;将因子键值数据对应的因子服务部署至容器并暴露对应的调用接口,调用接口用于指示终端调取对应的需求因子数据。本申请还涉及区块链技术领域,将需求因子数据存储至区块链中,采用本方法能够提高需求因子的获取效率。
技术领域
本申请涉及人工智能技术领域,特别是涉及一种因子数据获取方法、装置、计算机设备和存储介质。
背景技术
在实际的业务场景中,往往需要从多个数据源中分别获取需求因子,由于不同数据源的数据存储结构存在差异,故而需要分别编写不同的算法对从数据源中获取到的数据进行处理得到需求因子。
但是,当数据源的数量较多时,就需要利用较多的算法执行需求因子数据的提取,进而降低从多个数据源中获取需求因子的效率。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高因子数据获取效率的方法、装置、计算机设备和存储介质。
一种因子数据获取方法,方法包括:
按照预设频次从多个数据源中提取数据结构不同的源数据,并将提取到的源数据作为异构多源数据;
将异构多源数据加载至数据湖,并在数据湖中利用分布式处理组件对加载到的异构多源数据进行分层处理得到因子键值数据;
将因子键值数据对应的因子服务部署至容器并暴露对应的调用接口,调用接口用于指示终端调取对应的需求因子数据。
在一个实施例中,在数据湖中利用分布式处理组件对加载到的异构多源数据进行分层处理得到因子键值数据,包括:
从异构多源数据中抽取目标源数据,按照预设过滤算法对目标源数据进行过滤处理得到过滤目标数据,并将过滤目标数据加载至数据仓库;
根据预设的主题类型对数据仓库中的数据进行主题类型划分得到不同主题数据库;
基于不同的主题数据库进行特征化处理得到模型数据,并对模型数据进行混合处理得到数据集市,数据集市中包括因子键值数据。
在一个实施例中,根据预设的主题类型对数据仓库中的数据进行主题类型划分得到不同主题数据库,包括:
获取业务需求,并基于业务需求确定主题类型;
根据主题类型对数据仓库中的数据进行聚类处理,得到不同主题类型分别对应的主题数据库。
在一个实施例中,基于不同的主题数据库进行特征化处理得到模型数据,并对模型数据进行混合处理得到数据集市,包括:
基于业务需求对主题数据库中的数据进行数据抽取得到抽取业务数据;
获取数据转换算法,并根据数据转换算法对抽取业务数据进行数据转换处理得到转换数据;
对转换数据进行装载处理得到装载数据,并将转载数据作为数据集市。
在一个实施例中,将因子键值数据对应的因子服务部署至容器,包括:
获取因子键值数据,以及因子键值数据对应的因子管理配置;
根据因子键值数据以及因子管理配置确定因子服务;
将因子服务部署至服务容器。
在一个实施例中,方法还包括:
接收用户业务请求,用户业务请求中携带用户信息以及待请求地址;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安资产管理有限责任公司,未经平安资产管理有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110036556.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置