[发明专利]基于GroupLasso的变量自动选择方法、系统及可读介质

说明书

本发明涉及数据处理技术领域，具体涉及一种基于Group Lasso的变量自动选择方法、系统及可读介质，本发明利用用户行为数据和标签特征，其输入是数据，包含特征字段和标签字段。在数据上建立模型的过程中，算法自动进行各个变量的筛选，最终保留筛选下来的变量和一个建立好的逻辑斯蒂回归模型，用于对新数据进行预测。本发明变量选择与模型建立的过程是同时进行的，避免了在模型训练之前进行手动选择变量带来的局限性。将变量选择与模型训练相结合，我们通过运用一个算法将数据和变量的信息进行了直接整合，有利于提升模型准确度；本发明极易于应用在其他建模场景上，因此该发明具有良好的灵活性与可拓展性。

技术领域

本发明涉及数据处理技术领域，具体涉及一种基于Group Lasso的变量自动选择方法、系统及可读介质。

背景技术

数据建模在人们的工作与生活中承担了越来越重要的作用。工业科技的发展为人们带来了更多的数据，而如何利用数据建模去解决各种实际问题成为了一个很重要的话题。在大数据建模分析的过程中，其中一个核心的问题是对变量的筛选。随着数据维度变高，各个变量之间往往带有比较严重的信息重复性，因此如何最优地筛选变量成为了大数据建模的基础。变量筛选的操作对于提升模型准确度，以及提高模型可解释性方面有重要作用。现有的变量筛选的方法多半是基于研究人员的业务经验和数据直觉进行手筛选。自动化变量筛选的方法是一个非常热门的研究领域，之前的研究有等宽分箱、等频分箱、卡方分箱、决策树分箱等。而基于Lasso系列的自动分箱方法则没有人进行过研究。

经检索，中国专利申请号为CN201210427974.9的专利，公开了一种基于偏最小二乘的变量选择方法，涉及基于偏最小二乘的变量选择方法。该选择方法包括：对待分析变量进行预处理，获取标准化变量集；根据标准化变量集计算回归向量，所述的回归向量的各元素表示相应的输入变量对于输出的贡献率，所述的贡献率的排序顺序为依次减小的顺序；根据回归向量的贡献率的排序顺序对输入变量进行排序，获取输入变量序列Xior；对输入变量序列Xior中的所有输入变量进行相关性检验；对入变量选择计算获取回归系数。上述专利中的基于偏最小二乘的变量选择方法存在以下不足：变量选择与模型训练无法同时进行；人为干预高，自动化低，信息利用率低。

发明内容

针对现有技术的不足，本发明公开了一种基于Group Lasso的变量自动选择方法、系统及可读介质，用于解决现有变量选择技术中存在的缺点。

本发明通过以下技术方案予以实现：

第一方面，本发明公开一种基于Group Lasso的变量自动选择方法，所述方法包括以下步骤：

S1输入数据(A,B)，A指代高维度的用户行为特征数据，中的非数值变量需要被提前数值化；B指代A对应的标签数据，B中的标签需要被提前数值化编码；

S2对A数据进行分箱，给每一个分箱衍生出一个0，1编码的指示变量，附加空值(NA)单独分出一个子分箱；

S3对于分箱后的新的变量矩阵A_enc，求解一个分组Group Lasso的优化问题来估计每个子变量的参数m_ij。

S4对估计的各个变量进行筛选，最终保留筛选下来的变量和一个建立好的逻辑斯蒂回归模型，完成分箱。

更进一步的，所述S1中，特征数据A为数值型变量，对于非数值型的变量首先进行数值编码，对标签数据进行哑变量编码的数值标签，对于非数值的标签例取值的标签预先进行0，1量化编码。

更进一步的，所述S2中，选择10个卡方分箱，给每一个分箱衍生出一个0，1编码的指示变量，附加空值(NA)单独分出一个子分箱，将原始的每个变量拆成11个细粒度的子分箱，将原始的每个变量A_i拆分为多个A_i,j子变量。

更进一步的，所述S3中，Group Lasso的问题如下：