[发明专利]通过边缘搜索的特征交互

说明书

交互特征生成系统可以接收与应用相关联的多个不同特征，并将一阶的特征图中的多个节点与多个不同特征相关联。交互特征生成系统可以从低阶的交互特征迭代地生成高阶的交互特征，以形成不同阶的多个特征图。然后，交互特征生成系统可以将不同阶的多个特征图的相应交互特征传播到神经网络，以确定一个或更多个阶的交互特征的数量，一个或更多个阶的所确定数量的交互特征的用于训练预测模型以对应用进行推断。

背景技术

特征交互是特征工程中的一个重要步骤。当一个特征的行为受到另一个特征的存在的影响时，就会发生特征交互，并且这种交互通常无法容易地从所涉及的各个特征的预期行为中推断出来。通过以某种方式对特征进行组合，能够生成多个高阶交互特征(即交叉特征)，以更好地表示数据并提高机器学习中的学习性能。例如，在广告推荐应用中，三阶交互特征“性别年龄收入”可以用作强特征，该强特征用于确定要推荐给用户的广告类型。

通常，交互特征生成方法很大程度上依赖于专家的经验和知识，不仅耗时，而且适用于特定任务。尽管已经开发了自动交互特征生成方法(其主要分为两类，即基于搜索的方法和基于深度学习的方法)，但是这些自动交互特征生成方法会面临搜索空间过大(例如，由于在基于搜索的方法中采用的试错方法)或缺乏可解释性(例如，由于在基于深度学习的方法中特征交互的隐含性质)的挑战。换句话说，这些现有的自动交互特征生成方法无法以简单和有效的训练方式生成有用和明确的交互特征。

发明内容

本发明内容介绍交互特征生成系统的简化概念，这将在下面的具体实施方式中进一步描述。本发明内容不旨在标识所要求保护的主题的必要特征，也不旨在用于限制所要求保护的主题的范围。

本公开描述了交互特征生成系统的示例性实现。在一些实现中，交互特征生成系统可接收与应用相关联的多个不同特征，并将一阶的特征图中的多个节点与多个不同特征相关联。交互特征生成系统可以从低阶的交互特征迭代地生成高阶的交互特征，以形成不同阶的多个特征图。在一些实现中，交互特征生成系统可以将不同阶的多个特征图的相应交互特征传播到神经网络，以确定一个或更多个阶的交互特征的数量，一个或更多个阶的所确定数量的交互特征用于训练预测模型以对应用进行推断。

附图说明

具体实施方式是参照附图进行阐释的。在附图中，附图标记最左边的数字表示附图标记首次出现的附图。在不同的附图中使用相同的附图标记表示相似或相同的物品。

图1示出了可以使用示例性交互特征生成系统的示例性环境。

图2更详细地示出了示例性交互特征生成系统。

图3示出了交互特征生成的示例性方法的处理阶段。

图4示出了邻接矩阵产生的示例性实例。

图5示出了交互特征生成的示例性方法。

具体实施方式

概述

如上所述，交互特征生成是特征工程中的一项重要任务。然而，现有的交互特征生成方法面临过大的搜索空间或对开发通用特征交互规则的可解释性困难的挑战，所述可解释性困难是由特征交互的隐含性质导致的。换句话说，这些现有的方法不能以简单有效的训练方式生成有用和明确的交互特征。

本公开描述了一种示例性交互特征生成系统。所述交互特征生成系统可以找到各种阶(即，各种不同特征的组合)的交互特征，从而提高建立在交互式特征生成系统中的预测模型的性能。在一些实现中，交互特征生成系统可以采用特征图，该特征图将每个特征建模为节点，并将两个节点之间的交互表征为边缘。

在一些实现中，交互特征生成系统可以生成K个特征图以表示二阶到(K+1)阶的交互特征，其中特征图彼此具有层级关系。在一些实现中，交互特征生成系统可以以连续或迭代的方式生成交互特征。例如，交互特征生成系统可以从低阶的交互特征和对应的特征图生成高阶交互特征。