[发明专利]一种基于交互检测的矢量数据高阶特征最优变换方法

说明书

本申请提供一种基于交互检测的矢量数据高阶特征最优变换方法，该方法包括：获取教师模型；在教师模型进行二元特征交互作用检测得到二元特征交互作用对；根据二元特征交互作用对进行层级高阶特征交互作用对检测，得到高阶特征交互作用对；根据二元特征交互作用对和高阶特征交互作用对，构建参数化神经网络模型；对神经网络模型求解，得到最优参数。通过训练得到教师模型，在教室模型中进行特征交互作用检测出二元特征交互作用对及高阶特征交互作用对，进而构建能够捕捉到特征之间的交互信息，对神经网络模型求解，得到最优参数，使模型优度有明显提高，能够以参数化的形式给出特征或特征组合的最优变换，便于得到更加准确的预测。

技术领域

本申请涉及特征工程技术领域，具体涉及一种基于交互检测的矢量数据高阶特征最优变换方法。

背景技术

在机器学习领域内，对于最优变换的研究相对较为少见，其最主要原因在于设计有效算法的困难性。

传统的方法利用特征的随机组合以及一些基本算数运算(加-减-乘-除)和几类初等变换函数(如三角函数，幂函数，多项式函数等)的组合。以此得到的新的特征即便数量巨大也很难“猜中”一个潜藏(也即最优)的特征变换，因此传统算法构造了大量无用的新特征，而它们多数情况下却无法起到提升后续学习任务性能的作用，却浪费了大量的计算资源和宝贵的时间，最重要的是学到的特征变换对于解释业务数据往往毫无帮助。

早在1985年，两位来自美国斯坦福大学的统计学家Breiman和Friedman提出了Alternate Conditional Expectation(ACE，交替条件期望)算法用来寻找矢量数据中单个特征的最优变换。最原始的非参数单变元ACE算法基于以下线性加和模型：

其中Y、X₁、X₂……X_p都是一维随机变量，具体而言Y是输出变量/标签，X₁……X_p是预测变量/输入特征；θ(Y)、φ₁(X₁)……φ_k(X_k)是变量相对应的变换函数，∈是θ(Y)中不可被模型解释的部分，通常被认为是一个独立的加性噪声。

本申请的发明人在长期研发中发现，上述非参数单变元ACE算法存在以下两个主要缺陷：a)缺陷一：无法捕捉数据特征间的高维相互作用，例如二元相互作用(X_i，X_j)，三元相互作用(X_i，X_j，X_k)；因此，当特征存在高维相互作用的时候，经典的ACE算法会给出很差的拟合和预测结果；b)缺陷二：虽然可以直观展示最优变换，但却无法给出最优变换的显示表达式；因为这个问题，在预测新的数据点时，非参数ACE算法需要利用临近的数据点和数据平滑算法做插值预测，造成性能损失。

发明内容

本申请提供一种基于交互检测的矢量数据高阶特征最优变换方法，以解决现有技术中当特征存在高维相互作用的时候，经典的ACE算法会给出很差的拟合和预测结果的问题。

为解决上述技术问题，本申请采用的一个技术方案是：提供一种基于交互检测的矢量数据高阶特征最优变换方法，所述方法包括：获取教师模型；在所述教师模型进行二元特征交互作用检测得到二元特征交互作用对；根据所述二元特征交互作用对进行层级高阶特征交互作用对检测，得到高阶特征交互作用对；根据所述二元特征交互作用对和所述高阶特征交互作用对，构建参数化神经网络模型；对所述神经网络模型求解，得到最优参数。

为解决上述技术问题，本申请采用的另一个技术方案是：提供一种移动终端，所述移动终端包括相互耦接的处理器和存储器，所述存储器用于存储计算机程序，所述处理器用于加载所述计算机程序并执行。

为解决上述技术问题，本申请采用的又一个技术方案是：提供一种计算机存储介质，其上存有计算机程序，所述计算机程序用于实现上述实施方式中任一项方法的步骤。