[发明专利]一种正则化的预测方法、装置、电子设备及介质在审
申请号: | 201811285269.3 | 申请日: | 2018-10-31 |
公开(公告)号: | CN109635952A | 公开(公告)日: | 2019-04-16 |
发明(设计)人: | 袁大星 | 申请(专利权)人: | 北京奇虎科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京华沛德权律师事务所 11302 | 代理人: | 房德权 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 正则化 预测 机器学习模型 电子设备 特征集合 训练样本 方法和装置 惩罚因子 技术效果 精度损失 模型训练 输入机器 传统的 申请 学习 | ||
本发明公开一种正则化的预测方法、装置、电子设备及介质,预测方法包括:获取特征集合中每个特征的出现频次;采用正则化计算,根据所述特征集合生成训练样本;其中,所述正则化计算中的惩罚因子与所述每个特征的出现频次反相关;将所述训练样本输入机器学习模型进行模型训练;通过训练完成的所述机器学习模型进行预测。本申请提供的方法和装置用以解决现有技术中采用机器学习模型进行预测时,传统的正则化计算方法存在的对精度损失较大的技术问题,实现了提高预测精度的技术效果。
技术领域
本发明涉及计算机技术领域,尤其涉及一种正则化的预测方法、装置、电子设备及介质。
背景技术
随着科技的进步,各种预测技术层出不穷,其中,采用机器学习模型进行的预测由于其预测精度高,且能在样本量持续增加的情况下,进行持续的训练完善,得到了大量的应用。
为了提高机器学习模型的训练精确度,往往会采用正则化去避免模型预测中的过拟合。然而,以广告投放的地域点击率预测为例,其样本的特征分布不均匀,长尾明显,采用现有的正则化计算方法,会较大的影响预测精度。
可见,当前采用机器学习模型进行预测时,传统的正则化计算方法存在对精度损失较大,预测精度较低的技术问题。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的正则化的预测方法、装置、电子设备及介质。
第一方面,提供一种正则化的预测方法,包括:
获取特征集合中每个特征的出现频次;
采用正则化计算,根据所述特征集合生成训练样本;其中,所述正则化计算中的惩罚因子与所述每个特征的出现频次反相关;
将所述训练样本输入机器学习模型进行模型训练;
通过训练完成的所述机器学习模型进行预测。
可选的,所述采用正则化计算,根据所述特征集合生成训练样本,包括:采用正则因子的计算公式∑λiWiWi,根据所述特征集合生成训练样本,其中,Wi为所述特征变量,λi为所述惩罚因子,下标i为特征的编号。
可选的,当所述特征集合为广告投放后不同地域点击率特征的集合时,所述特征变量为不同地域的点击率,所述出现频次为特征集合中各地域的出现次数。
可选的,所述采用正则化计算,根据所述特征集合生成训练样本,包括:采用逻辑回归模型的计算公式和正则因子∑λiwiwi,根据所述特征集合生成训练样本,其中,Xi为特征值。
可选的,当所述特征集合为广告投放后不同地域点击率特征的集合时,所述特征值为地域的代码值,所述特征变量为不同地域的点击率,所述出现频次为特征集合中各地域的出现次数。
可选的,所述通过训练完成的所述机器学习模型进行预测,包括:接收目标地域的代码值作为输入参数,输出所述目标地域对应的点击率。
可选的,所述惩罚因子的计算公式为:λi=λ/Ni或者λi=λ/Ni2,其中,λi为所述惩罚因子,λ为常规惩罚因子,Ni为所述出现频次,下标i为特征的编号。
可选的,所述机器学习模型是基于逻辑回归模型或深度模型生成。
第二方面,提供一种正则化的预测装置,包括:
获取模块,用于获取特征集合中每个特征的出现频次;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811285269.3/2.html,转载请声明来源钻瓜专利网。