[发明专利]基于循环神经网络的数据处理方法、装置、设备及介质在审
申请号: | 202010596089.8 | 申请日: | 2020-06-24 |
公开(公告)号: | CN111737922A | 公开(公告)日: | 2020-10-02 |
发明(设计)人: | 康焱;张天豫;刘洋;陈天健 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N3/04;G06N3/08;G06F111/10 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 张婷 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 循环 神经网络 数据处理 方法 装置 设备 介质 | ||
1.一种基于循环神经网络的数据处理方法,其特征在于,预设时序数据指的是用户非相同时刻的时序数据,所述基于循环神经网络的数据处理方法包括:
获取待处理时序数据,将所述待处理时序数据输入至数据处理模型中;
所述数据处理模型为基于用户非相同时刻的时序数据对不同时刻的循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练后得到的;
基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程,得到所述待处理时序数据的目标预测标签。
2.如权利要求1所述基于循环神经网络的数据处理方法,其特征在于,所述基于所述数据处理模型对所述待处理时序数据执行预设数据处理流程,得到所述待处理时序数据的目标预测标签的步骤之前,所述方法包括:
基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练,以得到联合模型;
将所述联合模型设置为所述数据处理模型。
3.如权利要求2所述基于循环神经网络的数据处理方法,其特征在于,所述用户非相同时刻的预设时序数据包括在各个时刻的预设时序数据;
所述基于用户非相同时刻的时序数据,对不同时刻的循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时刻的循环神经网络模型进行各个时刻的联邦反向训练,以得到联合模型的步骤,包括:
基于接收的在目标时刻对应上一时刻的前向传播的中间参数,所述目标时刻的预设时序数据和所述预设循环神经网络模型在目标时刻的模型参数,确定在目标时刻的前向传播的中间参数,并基于所述在目标时刻的前向传播的中间参数进行对后续各个时刻的联邦前向训练,直到得到最后时刻的中间参数;
基于所述最后时刻的中间参数,所述最后时刻的预设时序数据和最后时刻预设预测模型,计算所述最后时刻的损失梯度,以计算所述最后时刻的预测模型中间梯度;
基于所述最后时刻的预测模型中间梯度,以及所述在最后时刻的预设时序数据,计算对应最后时刻的中间梯度,并基于所述最后时刻的中间梯度,更新预设循环神经网络模型在最后时刻的模型参数和计算最后时刻对应上一时刻的中间梯度;
基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练,直至最初时刻的预设循环神经网络模型得到更新。
4.如权利要求3所述基于循环神经网络的数据处理方法,其特征在于,所述基于所述最后时刻的中间参数,所述最后时刻的预设时序数据和最后时刻预设预测模型,计算所述最后时刻的损失梯度的步骤,包括:
基于所述最后时刻的中间参数,所述最后时刻的预设时序数据和最后时刻预设预测模型,确定所述最后时刻的预设循环神经网络模型的预测结果;
基于所述最后时刻的预设循环神经网络模型的预测结果,最后时刻的预设时序数据的真实结果以及最后时刻的预设损失函数,确定所述最后时刻的损失梯度。
5.如权利要求3所述基于循环神经网络的数据处理方法,其特征在于,所述基于在最后时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的中间梯度进行联邦反向训练,直至最初时刻的预设循环神经网络模型得到更新的步骤,包括:
基于在最后时刻更新的预设循环神经网络模型,最后时刻对应上一时刻的中间梯度和最后时刻对应上一时刻的预设时序数据,更新预设循环神经网络模型在最后时刻对应上一时刻的模型参数和计算最后时刻对应上一时刻的再上一时刻的中间梯度;
基于在最后时刻对应上一时刻更新的预设循环神经网络模型和最后时刻对应上一时刻的再上一时刻的中间梯度进行对前面各个时刻的联邦反向训练,直至最初时刻的预设循环神经网络模型得到更新。
6.如权利要求1-5任一项所述基于循环神经网络的数据处理方法,其特征在于,所述联邦前向训练中每个时刻对应的模型参数相同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010596089.8/1.html,转载请声明来源钻瓜专利网。