[发明专利]基于联合模型的数据处理方法及装置在审
申请号: | 202110274298.5 | 申请日: | 2021-03-15 |
公开(公告)号: | CN112686479A | 公开(公告)日: | 2021-04-20 |
发明(设计)人: | 顾凌云;高忠生;李嘉明;谢旻旗;段湾;张阳;王震宇 | 申请(专利权)人: | 上海冰鉴信息科技有限公司 |
主分类号: | G06Q10/04 | 分类号: | G06Q10/04;G06Q10/06;G06Q40/02;G06K9/62 |
代理公司: | 成都顶峰专利事务所(普通合伙) 51224 | 代理人: | 杨俊华 |
地址: | 200000 上海市浦东新区中国(*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 联合 模型 数据处理 方法 装置 | ||
本发明的基于联合模型的数据处理方法及装置,将获取到的原始样本划分为训练集和测试集;并根据训练集确定出第一训练样本、第二训练样本和第三训练样本,进而分别拟合第一训练样本、第二训练样本和第三训练样本得到对应的逻辑回归模型以及对应的评价指标,这样能够根据不同的评价指标确定目标模型组合。如此设计,通过集成树模型与逻辑回归模型相结合,从而增加线性模型的非线性能力,从而实现一些业务场景下减少计算机的运算负荷,且保证业务处理的效率。
技术领域
本发明涉及数据处理技术领域,具体而言,涉及一种基于联合模型的数据处理方法及装置。
背景技术
在各类业务场景中,通常存在数据识别和分类处理等问题,从而实现不同业务的预测和评估。一般而言,在业务处理中所采用的机器学习模型有很多种,以逻辑回归模型为例,常见的业务场景大多采用逻辑回归模型进行业务预测,但由于逻辑回归模型是线性模型,在一些业务场景下可能会增加计算机的运算负荷,且难以保证业务处理的效率。
发明内容
为了改善上述问题,本发明提供了一种基于联合模型的数据处理方法及装置。
本发明实施例提供了一种基于联合模型的数据处理方法,应用于电子设备,所述方法包括以下步骤:
将获取到的原始样本划分为训练集和测试集;
筛选所述训练集的样本特征以得到第一训练样本,通过拟合所述第一训练样本建立XGBoost模型和第一逻辑回归模型,采用所述第一逻辑回归模型对所述测试集打分,得到第一auc评价指标和第一ks评价指标;
基于所述XGBoost模型和所述第一训练样本生成第二训练样本,通过拟合所述第二训练样本建立第二逻辑回归模型,采用所述第二逻辑回归模型对所述测试集打分,得到第二auc评价指标和第二ks评价指标;
合并所述第一训练样本和所述第二训练样本以生成第三训练样本,通过拟合所述第三训练样本建立第三逻辑回归模型,采用所述第三逻辑回归模型对所述测试集打分,得到第三auc评价指标和第三ks评价指标;
根据所述第一auc评价指标、所述第一ks评价指标、所述第二auc评价指标、所述第二ks评价指标、所述第三auc评价指标和所述第三ks评价指标确定目标模型组合;
采用所述目标模型组合对待处理业务数据进行处理。
可选地,筛选所述训练集的样本特征以得到第一训练样本,包括:基于k-折交叉验证筛选方式从所述训练集的样本特征中筛选得到原始特征,以形成所述第一训练样本。
可选地,基于所述XGBoost模型和所述第一训练样本生成第二训练样本,包括:基于所述XGBoost模型的自带接口或者scikit-learn接口,对所述第一训练样本进行处理,得到第二训练样本。
可选地,根据所述第一auc评价指标、所述第一ks评价指标、所述第二auc评价指标、所述第二ks评价指标、所述第三auc评价指标和所述第三ks评价指标确定目标模型组合,包括:
根据所述第一auc评价指标、所述第二auc评价指标和所述第三auc评价指标由大到小的顺序对所述第一逻辑回归模型、所述第二逻辑回归模型以及所述第三逻辑回归模型进行排序得到第一排序序列;
根据所述第一ks评价指标、所述第二ks评价指标和所述第三ks评价指标由大到小的顺序对所述第一逻辑回归模型、所述第二逻辑回归模型以及所述第三逻辑回归模型进行排序得到第二排序序列;
通过所述第一排序序列和所述第二排序序列确定所述目标模型组合。
可选地,通过所述第一排序序列和所述第二排序序列确定所述目标模型组合,包括:
确定所述第一逻辑回归模型在所述第一排序序列中的序列权重以及在所述第二排序序列中的序列权重,并计算所述第一逻辑回归模型的第一综合序列权重;
确定所述第二逻辑回归模型在所述第一排序序列中的序列权重以及在所述第二排序序列中的序列权重,并计算所述第二逻辑回归模型的第二综合序列权重;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海冰鉴信息科技有限公司,未经上海冰鉴信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110274298.5/2.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理