[发明专利]一种基于大数据技术的自助数据标签平台及自助数据标签方法在审
申请号: | 201910773569.4 | 申请日: | 2019-08-21 |
公开(公告)号: | CN110955690A | 公开(公告)日: | 2020-04-03 |
发明(设计)人: | 李元佳;陈新伟;郭逸重 | 申请(专利权)人: | 广州云徙科技有限公司 |
主分类号: | G06F16/2457 | 分类号: | G06F16/2457;G06F16/248;G06Q30/02;G06F16/25 |
代理公司: | 深圳市兴科达知识产权代理有限公司 44260 | 代理人: | 张德兴 |
地址: | 510000 广东省广州市黄*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 数据 技术 自助 标签 平台 方法 | ||
1.一种基于大数据技术的自助数据标签平台,包括:
元数据定义单元,被配置为:通过元数据的定义将打标对象区分为属性数据、业务数据和行为数据,以及各个数据与打标对象之间的关系;
标签定义单元,被配置为:将数据进行标签定义,包括事实标签、模型标签和主观标签;其中,事实标签和模型标签是通过在界面上定义计算规则产生;
数据采集单元,被配置为:通过DataX对业务系统的数据进行采集,包括:对象的属性数据、行为数据、关联数据等,并导入Hive数据仓库中;
基础标签计算单元,被配置为:通过读取标签的配置规则,自动生产包括:SparkSQL、Spark RDD代码等计算逻辑,并提交到Hadoop的Yarn上进行执行,最终将计算结果写入到大数据非关系型数据库Hbase中;
组合标签计算单元,被配置为:通过计算好的基础标签,并且根据配置的计算规则,通过读取Hbase的数据及生产的计算逻辑代码实时计算出组合标签,并将计算好的组合标签写入到Hbase中;
对象分群计算单元,被配置为:通过预设的人群圈选规则,从Hbase中读取组合标签基础标签,根据配置自动生成计算代码实时计算出人群圈选的结果,并将结果写入到Hbase中。
2.根据权利要求1所述的基于大数据技术的自助数据标签平台,所述定义打标的对象包括用户、商品、店铺等。
3.根据权利要求1所述的基于大数据技术的自助数据标签平台,使用者通过用户终端在界面上定义计算规则,其中计算规则包括事实标签、模型标签、主观标签的源数据、数据筛选规则以及计算逻辑。
4.根据权利要求1所述的基于大数据技术的自助数据标签平台,所述事实标签为对象自有属性,模型标签包括用户行为数据和数据时间范围,主观标签为自由定义标签。
5.根据权利要求1所述的基于大数据技术的自助数据标签平台,所述用户终端包括但不限于手机、电脑、笔记本。
6.一种基于大数据技术的自助数据标签方法,包括:
元数据定义步骤,通过元数据的定义将打标对象区分为属性数据、业务数据和行为数据,以及各个数据与打标对象之间的关系;
标签定义步骤,将数据进行标签定义,包括事实标签、模型标签和主观标签;其中,事实标签和模型标签是通过在界面上定义计算规则产生;
数据采集步骤,通过DataX对业务系统的数据进行采集,包括:对象的属性数据、行为数据、关联数据等,并导入Hive数据仓库中;
基础标签计算步骤,通过读取标签的配置规则,自动生产包括:SparkSQL、Spark RDD代码等计算逻辑,并提交到Hadoop的Yarn上进行执行,最终将计算结果写入到大数据非关系型数据库Hbase中;
组合标签计算步骤,通过计算好的基础标签,并且根据配置的计算规则,通过读取Hbase的数据及生产的计算逻辑代码实时计算出组合标签,并将计算好的组合标签写入到Hbase中;
对象分群计算步骤,通过预设的人群圈选规则,从Hbase中读取组合标签基础标签,根据配置自动生成计算代码实时计算出人群圈选的结果,并将结果写入到Hbase中。
7.根据权利要求5所述的基于大数据技术的自助数据标签方法,所述定义打标的对象包括用户、商品、店铺等。
8.根据权利要求5所述的基于大数据技术的自助数据标签方法,使用者通过用户终端在界面上定义计算规则,其中计算规则包括事实标签、模型标签、主观标签的源数据、数据筛选规则以及计算逻辑。
9.根据权利要求5所述的基于大数据技术的自助数据标签方法,所述事实标签为对象自有属性,模型标签包括用户行为数据和数据时间范围,主观标签为自由定义标签。
10.根据权利要求5所述的基于大数据技术的自助数据标签方法,所述用户终端包括但不限于手机、电脑、笔记本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州云徙科技有限公司,未经广州云徙科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910773569.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置