[发明专利]一种广告点击率预估方法

说明书

本发明属于广告点击率预估技术领域，公开了一种广告点击率预估方法，将原始特征划分为不同的特征域，得到相应的onehot向量；得到对应的嵌入向量；对每个特征域的嵌入向量通过SENET层进行压缩、激励处理，学习特征的重要程度，并进行重标定，将特征的重要程度加权到原有的嵌入向量，得到新的嵌入向量；通过FM学习二阶特征交互信息，通过DNN学习高阶特征交互信息，得到相应的输出向量；对FM和DNN的输出向量进行拼接；拼接后的结果输入到多层感知机，通过softmax激活函数得到预估的广告点击概率，评估模型的好坏。本发明广告点击率预估模型相比其他模型得到更好的表现，提高了准确率。

技术领域

本发明属于广告点击率预估技术领域，尤其涉及一种广告点击率预估方法。

背景技术

目前，广告点击率(Click-Through Rate，CTR)指的是给定用户和网页内容，广告被点击的次数占总展示次数的比例。在当前的大数据场景下，广告由过去的“粗放式”投放正在向“精准化”投放转变，以数据驱动的广告精准投放已经成为当前广告投放的主流方式，在广告需求方的程序化购买和在线投放过程中，需要预先评估用户对广告的偏好程度，而衡量这一重要指标的过程就是CTR预估。CTR预估是互联网计算广告中的关键环节，CTR的准确度不仅影响广告产品的收益，同时也影响用户的体验度和满意度。

传统的CTR预估主要采用逻辑回归(Logistic Rehression，LR)学习CTR预测模型，LR模型的优点是简单、可解释性强，缺点是作为一个线性模型，其表达能力不强，无法进行特征交叉。为此，提出了POLY2模型，该模型考虑了二阶特征的交叉从而在一定程度上解决了特征组合问题，但是POLY2模型采用独热向量编码的方式处理类别型特征使得特征向量极度稀疏，导致大部分特征交叉的权重难以训练，模型无法收敛。

近几年，非线性模型在CTR预估中得到广泛关注。代表模型为因子分解机模型(Factorization Machine，FM)，FM通过将高维稀疏向量转化为低维稠密向量从而大幅减少了权重参数的数量，FM的缺点为只能进行二阶特征交叉，无法得到高阶特征交互信息。随后，基于FM提出的特征域相关的因子分解机模型(Field-aware Factorization Machin，FFM)在多项CTR大赛中夺魁，相比FM，FFM引入了特征域感知的概念，每个特征针对不同特征域学习不同的隐向量。可以看出，FM、POLY2和FFM均是在LR的基础上通过二阶特征的自动组合提升模型的表达能力。

随着深度学习的兴起，基于深度学习的CTR预估模型在探索特征之间的高阶组合方面取得了大幅进展，其中，代表性的CTR预估模型：如微软的DeepCrossing、谷歌的WideDeep、DCN，PNN、华为的SENET和阿里巴巴的DIN等等，然而这些模型忽略了建模不同特征的重要程度。对于不同的预测目标来说，不同特征的重要程度是不同的。举例来说：目标任务为预测用户是否会买《机器学习》这本书，那么该用户的职业这个特征就比用户的其他特征如：性别、收入等重要的多。

通过上述分析，现有技术存在的问题及缺陷为：基于深度学习的CTR预估模型忽略了建模不同特征的重要程度。

发明内容

针对现有技术存在的问题，本发明提供了一种广告点击率预估方法。

本发明是这样实现的，一种广告点击率预估方法，所述广告点击率预估方法，包括：

步骤一，特征编码，逐一建立模型的各个组件；

步骤二，建立嵌入层，将从原始特征转化为对于的嵌入向量；

步骤三，建立用于动态学习特征之间的重要度的SENET层；包括：用于学习特征的一阶和二阶交叉的FM模块，用于学习特征之间的高阶交叉的DNN模块；

步骤四，建立拼接层，将FM模块的输出结果和DNN模块的输出结果进行拼接，将拼接的结果输送给后续的多层感知机层；