[发明专利]一种基于多任务深度网络的多源大数据分析方法

权利要求书

1.一种基于多任务深度网络的多源大数据分析方法，其特征在于，所述方法包括：

将待分析多源大数据输入至训练好的多任务深度网络，输出所述待分析多源大数据的多个任务的分析结果；其中，所述训练好的多任务深度网络的分类层的前一层具有多个网络参数，且所述多个网络参数与所述多个任务一一对应，所述分类层的前一层用于根据所述多个网络参数和所述分类层前一层的输入特征，得到所述分类层中每个分类器的输入特征；

其中，在所述将待分析多源大数据输入至训练好的多任务深度网络之前，所述方法还包括：

获取所述待分析多源大数据对应的训练数据集，并利用所述训练数据集自底向上对所述多任务深度网络的每层网络进行训练，得到每层网络的参数，再利用反向传播算法对每层网络的网络参数进行更新；

重复上述训练过程直至预设损失函数的值处于预设范围，得到所述训练好的多任务深度网络；

所述预设损失函数为特定任务相关层的网络参数的最大后验估计与所述多任务深度网络的经验损失之和，其中所述特定任务相关层的网络参数的最大后验估计通过以张量正态分布为先验概率对特定任务相关层的网络参数进行最大后验估计得到，所述特定任务相关层包括所述分类层和所述分类层的前一层；

所述多任务深度网络的经验损失为：

其中，J为交叉熵损失函数，为第t个任务的样本，为第t个任务的标签，N_t为第t个任务的样本数，为将转换为的条件概率；其中，J是交叉熵损失函数，即：

J(x，y)＝-y ln(x)-(1-y)ln(1-x)。

2.根据权利要求1所述方法，其特征在于，所述特定任务相关层中的每一层的网络参数张量的先验概率为：

其中，为第层特定任务相关层的特征协方差矩阵，为第层特定任务相关层的标签协方差矩阵，为第层特定任务相关层的任务协方差矩阵，为的维度，为的维度，T为的维度，为总协方差矩阵维度为的张量正态分布，O为张量正态分布的均值。

3.根据权利要求2所述方法，其特征在于，所述特定任务相关层的网络参数的最大后验估计为：

其中，为网络参数分布，为样本分布，为标签分布，为某一特定任务相关层，为第t个任务的样本，为第t个任务的标签，为第层特定任务相关层的网络参数矩阵，为特定任务相关层的集合，N_t为第t个任务的样本数。

4.根据权利要求3所述方法，其特征在于，所述方法还包括：

在利用反向传播算法对每层网络的网络参数进行更新时，利用触发器算法flip-flop算法及克罗内克积来计算以及

5.一种基于多任务深度网络的多源大数据分析系统，其特征在于，所述系统包括：

多源大数据分析模块，用于将待分析多源大数据输入至训练好的多任务深度网络，输出所述待分析多源大数据的多个任务的分析结果；其中，所述训练好的多任务深度网络的分类层的前一层具有多个网络参数，且所述多个网络参数与所述多个任务一一对应，所述分类层的前一层用于根据所述多个网络参数和所述分类层前一层的输入特征，得到所述分类层中每个分类器的输入特征；

其中，在所述将待分析多源大数据输入至训练好的多任务深度网络之前，所述系统还包括：

获取所述待分析多源大数据对应的训练数据集，并利用所述训练数据集自底向上对所述多任务深度网络的每层网络进行训练，得到每层网络的参数，再利用反向传播算法对每层网络的网络参数进行更新；

重复上述训练过程直至预设损失函数的值处于预设范围，得到所述训练好的多任务深度网络；

所述预设损失函数为特定任务相关层的网络参数的最大后验估计与所述多任务深度网络的经验损失之和，其中所述特定任务相关层的网络参数的最大后验估计通过以张量正态分布为先验概率对特定任务相关层的网络参数进行最大后验估计得到，所述特定任务相关层包括所述分类层和所述分类层的前一层；

所述多任务深度网络的经验损失为：

其中，J为交叉熵损失函数，为第t个任务的样本，为第t个任务的标签，N_t为第t个任务的样本数，为将转换为的条件概率；其中，J是交叉熵损失函数，即：

J(x，y)＝-yln(x)-(1-y)ln(1-x)。

6.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质存储计算机指令，所述计算机指令使所述计算机执行如权利要求1至4任一项所述的方法。