[发明专利]基于循环神经网络与注意力机制的金融用户画像方法

说明书

本发明公开了一种基于循环神经网络与注意力机制的金融用户画像方法，旨在通过提出面向金融领域的用户画像模型和构建方法，用于金融企业的用户分类、精准营销、用户行为研究等应用。该方法特点包括：对金融时序数据特征进行预处理；构建金融用户画像标签系统；通过Embedding机制将输入信息进行变换；使用循环神经网络与注意力机制，对金融用户画像进行建模，并聚焦于关键时刻的操作信息，最终得到金融用户画像的标签结果。本发明由于针对金融时序数据使用了了金融时序数据预处理、金融用户标签系统、金融特征向量Embedding机制、基于循环神经网络与用户时序操作的注意力机制的金融用户画像模型，能够取得较好的效率和准确率。

技术领域

本发明涉及金融大数据、人工智能、深度学习，尤其是一种针对金融用户操作所产生的时序数据对其进行用户画像分类的方法。

背景技术

目前，随着互联网飞速发展，金融的业务、消费和产品发生了巨大的变革，金融企业不再像从前那样能够轻易接触到用户，并且随着国家金融改革的力度不断加深，人们产生了多元化的金融诉求，金融公司所提供的产品服务需要不断迭代以满足客户需求，因此催生出金融用户画像的需求，金融企业借助于用户画像技术，分析数据来了解客户、改进产品迎合客户习惯。如运营商对客户画像来对用户征信，信息安全部门利用日志来对用户画像分析其目标风险。然而，不同领域的用户画像需求都不太相同，包括数据来源、数据形式、用户画像标签、业务需求、应用场景各式各样，当前已有的金融用户画像方法都没有很好地针对金融用户的时序数据方面进行处理和分类。本发明结合循环神经网络模型和注意力机制的金融用户画像分类模型有效地对时序数据进行建模，并为重要时刻的金融用户行为分配更高的权重。

循环神经网络是一种用于处理时序数据的神经网络模型，它可以专门用于处理如x1,x2,...xt的序列。循环神经网络的优点是在模型的不同部分共享参数，使得模型能够拓展到不同长度的样本，对于相互依赖性很强的数据流形式，循环神经网络具有天然的优势，帮助系统获取上下文信息。因此循环神经网络经常被应用于处理序列数据上，如文本情感分析、语音识别、机器翻译、股票走势预测。

Embedding层是深度学习实验中经常会遇到的一个模型层，主要是为了解决one-hot编码带来的稀疏矩阵问题，Embedding层还可以捕捉特征之间的关系、降低特征维度、变离散为连续向量，它使得深度神经网络的应用更加广泛，极大地推动了深度学习的发展。

神经网络中的注意力机制是解决深度学习中信息超载问题的一种资源分配方案。深度学习模型的复杂程度与存储的信息量成正比，庞大的金融数据量带来了数据负担，产生数据过载的问题，使用基于时序操作的注意力机制可以在众多任务重聚焦于关键信息，过滤掉低价值信息，提高任务处理的效率和准确性。

发明内容

本发明的目的是为了解决金融领域的用户画像问题，提供一种基于循环神经网络与注意力机制的金融用户画像方法，该方法采用注意力机制和循环神经网络对金融用户画像分析，使用Embedding层、循环神经网络模型以及注意力机制对金融用户特征以及行为特征进行分类预测，有效地提高了金融用户画像模型的准确性、可用性、可拓展性。

实现本发明目的的具体技术方案是：

一种基于循环神经网络与注意力机制的金融用户画像方法，特点是使用数据预处理技术对金融时序操作数据进行预处理，通过可视化技术、聚类算法构建金融用户画像标签系统，使用Embedding机制、循环神经网络模型以及用户操作注意力机制对金融用户特征以及行为特征进行分类预测，该方法包括如下具体步骤：

A：使用金融时序数据预处理技术对金融时序操作数据进行数据变换，得到金融特征向量；其中，金融特征向量包括用户操作信息及控件信息；

B：结合金融领域知识、专家经验及业务需求上层指导，使用可视化技术、聚类算法构建出金融用户标签系统；

C：使用Embedding机制对金融特征向量进行变换，生成一种更为稠密的金融特征向量；