[发明专利]一种使用pca和特征交叉的特征工程建模方法和系统

说明书

本公开涉及一种使用pca和特征交叉的特征工程建模的方案，包括：对特征数据进行特征相关检测；使用独热编码对特征进行编码，并对经编码的特征执行pca算法，其中在执行独热编码的过程中，还可以对所述特征进行特征交叉；通过执行共线性选择和特征重要性选择对所述特征进行筛选；以及将筛选出的特征输出用于特征工程建模。

技术领域

本公开涉及一种用于特征工程的建模方案，具体而言，涉及一种使用pca和特征交叉的特征工程建模方法和系统。

背景技术

随着计算机技术的发展，基于机器学习模型的人工智能(AI)技术也随之兴起。机器学习模型的理论基础是模型的构建，而模型构建的基础则是数据和特征。特征是数据中抽取出来的对结果预测有用的信息，可以是文本或者数据。而业界广泛流传这样一句话：“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已”。由此可见，特征的选取对于所构建的模型的好坏起到了至关重要的作用。

基于此，针对建模所要使用的特征，业界提出了一种“特征工程(FeatureEngineering)”的概念。具体而言，特征工程是指：使用专业背景知识和技巧处理数据，使得特征能在机器学习算法上发挥更好的作用的过程。所述过程包含了特征提取、特征构建、特征筛选等模块。特征工程的目的是筛选出更好的特征，获取更好的训练数据。因为好的特征具有更强的灵活性，可以用简单的模型做训练，更可以得到优秀的结果。特征工程在机器学习中占有相当重要的地位。在实际应用当中，可以说特征工程是机器学习成功的关键。但随着大数据技术的发展，采集到的数据量越来越多，类型越来越复杂，所以，对特征工程也提出了更高的要求。

因此，需要一种能够使得特征工程更加快速、智能和自动化的优化方案。

发明内容

本公开涉及一种使用pca和特征交叉的特征工程建模的方案，以加快并自动化特征工程的建模过程。

根据本公开的第一方面，提供了一种用于特征工程建模的方法，包括：对特征数据进行特征相关检测；使用独热编码对特征进行编码，并对经编码的特征执行pca算法，其中在执行独热编码的过程中，还可以对所述特征进行特征交叉；通过执行共线性选择和特征重要性选择对所述特征进行筛选；以及将筛选出的特征输出用于特征工程建模。

根据本公开的第二方面，提供了一种用于特征工程建模的系统，包括：特征相关检测模块，被配置为对特征数据进行特征相关检测；pca和特征交叉模块，被配置为使用独热编码对特征进行编码，并对经编码的特征执行pca算法，其中在执行所述独热编码的过程中，对所述特征进行特征交叉；以及共线性选择和特征重要性选择模块，被配置为通过执行共线性选择和特征重要性选择对所述特征进行筛选，并将筛选出的特征输出用于特征工程建模。

提供本概述以便以简化的形式介绍以下在详细描述中进一步描述的一些概念。本概述并不旨在标识所要求保护主题的关键特征或必要特征，也不旨在用于限制所要求保护主题的范围。

附图说明

为了描述可获得本公开的上述和其它优点和特征的方式，将通过参考附图中示出的本公开的具体实施例来呈现以上简要描述的本公开的更具体描述。可以理解，这些附图只描绘了本公开的各典型实施例，并且因此不被认为是对其范围的限制，将通过使用附图并利用附加特征和细节来描述和解释本公开，在附图中：

图1示出了根据本公开的实施例的一种使用pca和特征交叉的特征工程建模方法。

图2示出了一种示例性的加入text特征和没有加入text特征的类GBDT模型的曲线图。

图3示出了根据本公开的实施例的一种使用pca和特征交叉的特征工程建模的系统。

具体实施方式