[发明专利]一种数据挖掘方法、系统及计算机可读存储介质

说明书

本发明公开了一种数据挖掘方法、系统及计算机可读存储介质。该数据挖掘方法包括：获取源数据；将源数据输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征；将共性特征输入多任务学习网络的任务层，提取源数据的任务个性特征。通过上述方式，本发明能够节省计算资源，提高处理效率和通用性。

技术领域

本发明涉及计算机技术领域，特别是涉及数据挖掘方法、系统及计算机可读存储介质。

背景技术

随着信息技术的高速发展，人们积累的数据量急剧增长，如何从海量的数据中提取有用的知识成为当务之急。数据挖掘就是为顺应这种需要应运而生发展起来的数据处理技术。对数据进行治理挖掘，可以提供一些隐藏的价值。利用数据挖掘算法对数据进行挖掘，可以得到数据挖掘结果，而根据数据挖掘结果，就能做到分类、估值、预言、相关性分组或关联规则、聚集、描述和可视化、复杂数据类型挖掘等后续处理。

现有的一些解决方案大多是基于规则性的探查，但是实际业务中存在前端数据记录不规划的现象，由于源数据的杂乱，基于规则性的探查常常会失效，因此缺少通用性和容错能力。

发明内容

本发明主要解决的技术问题是提供一种数据挖掘方法、系统及计算机可读存储介质，能够节省计算资源，提高处理效率和通用性。

为解决上述技术问题，本发明采用的一个技术方案是：提供一种数据挖掘方法，该数据挖掘方法包括：获取源数据；将源数据输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征；将共性特征及输入多任务学习网络的任务层，提取源数据的任务个性特征。

其中，语义理解网络为Bert网络，将源数据输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征包括：利用Bert网络提取源数据共性特征的特征向量，得到共性特征的特征矩阵。

其中，利用Bert网络提取源数据共性特征的特征向量，得到共性特征的特征矩阵包括：提取源数据中每个词的字向量、及每个词所在句子中的位置向量；将字向量、文本向量和位置向量相加，得到向量矩阵；将向量矩阵输入transformer编码器，对所向量矩阵进行运算，得到特征矩阵。

其中，将向量矩阵输入transformer编码器，对向量矩阵进行运算，得到特征矩阵包括：将向量矩阵分别输入多个不同的自注意力层，分别对向量矩阵进行运算，得到多个不同语义空间下的语义向量；将多个语义向量进行线性组合，得到增强语义向量；将向量矩阵和增强语义向量进行残差连接，得到中间矩阵；将中间矩阵进行标准化和线性转化处理，得到特征矩阵。

其中，语义理解网络为FastText网络，将源数据输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征包括：利用FastText网络提取源数据共性特征的特征向量，得到共性特征的特征矩阵。

其中，利用FastText网络提取源数据共性特征的特征向量，得到共性特征的特征矩阵包括：获取源数据字符级别的n-gram向量；将n-gram向量进行求和平均，得到特征矩阵。

其中，将源数据输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征包括：将源数据以单文本或双文本的方式输入多任务学习网络的共享层，利用共享层的语义理解网络提取源数据的共性特征。

其中，获取源数据包括：直接对数据库中的数据进行采样，得到源数据；将源数据处理成匹配共享层网络的格式。

为解决上述技术问题，本发明采用的另一个技术方案是：提供一种数据挖掘系统，该数据挖掘系统用于搭载运行上述数据挖掘方法，具体地，数据挖掘系统包括处理器，处理器用于执行指令以实现上述的数据挖掘方法。