[发明专利]基于循环神经网络的数据处理方法、设备及介质在审
申请号: | 202010589684.9 | 申请日: | 2020-06-24 |
公开(公告)号: | CN111738421A | 公开(公告)日: | 2020-10-02 |
发明(设计)人: | 康焱 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 晏波 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 循环 神经网络 数据处理 方法 设备 介质 | ||
1.一种基于循环神经网络的数据处理方法,其特征在于,应用于第二设备,第二设备的第二训练时序数据具有预设标签,所述基于循环神经网络的数据处理方法包括:
获取第二待处理时序数据,将所述第二待处理时序数据输入至第二数据处理模型中;
所述第二数据处理模型为对不同时间段的第二循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时间段的第二循环神经网络模型进行各个时间段的联邦反向训练后得到的;
其中,联邦前向训练过程中,同一时间段的第二循环神经网络模型还联合同一时间段的第二训练时序数据和同一时间段的第一设备的第一训练时序数据进行训练更新;
基于所述第二数据处理模型对所述第二待处理时序数据执行第二预设数据处理流程,得到所述第二待处理时序数据的目标预测标签。
2.如权利要求1所述基于循环神经网络的数据处理方法,其特征在于,
所述基于所述第二数据处理模型对所述第二待处理时序数据执行第二预设数据处理流程的步骤之前,所述方法包括:
基于第二训练时序数据,对不同时间段的第二循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时间段的第二循环神经网络模型进行各个时间段的联邦反向训练,以得到第二目标循环神经网络模型;
将所述第二目标循环神经网络模型设置为所述第二数据处理模型。
3.如权利要求2所述基于循环神经网络的数据处理方法,其特征在于,所述基于第二训练时序数据,对不同时间段的第二循环神经网络模型进行联邦前向训练后,再对联邦前向训练完成的不同时间段的第二循环神经网络模型进行各个时间段的联邦反向训练,以得到第二目标循环神经网络模型的步骤,包括:
基于接收的在目标时间段对应上一时间段的前向传播的第二中间参数,所述目标时间段的第二训练时序数据,所述第二循环神经网络模型在目标时间段的初始模型参数,确定在目标时间段的前向传播的第二中间参数;
基于在目标时间段的前向传播的第二中间参数进行对后续各个时间段的联邦前向训练,直到得到最后时间段的第二中间参数;
其中,联邦前向训练的过程中,在每个时间段计算得到的第二中间参数还用于计算每个时间段的损失梯度,以得到每个时间段的第二更新模型参数;
基于所述最后时间段的第二中间参数,所述最后时间段的第二训练时序数据,所述第二循环神经网络模型在最后时间段的第二初始模型参数,最后时间段的预设预测模型,以及接收的在最后时间段的由第一设备的第一训练时序数据训练得到的第一中间参数计算对应最后时间段的第二反向中间梯度,并基于所述最后时间段的第二反向中间梯度,更新第二循环神经网络模型在最后时间段的第二更新模型参数和计算最后时间段对应上一时间段的第二反向中间梯度;
基于在最后时间段更新的第二循环神经网络模型的第二更新模型参数和最后时间段对应上一时间段的第二反向中间梯度进行联邦反向训练,直至最初时间段的第二循环神经网络模型的第二更新模型参数得到更新。
4.如权利要求3所述基于循环神经网络的数据处理方法,其特征在于,
联邦前向训练的过程中,基于目标时间段的第二初始模型参数,目标时间段的第二训练时序数据,目标时间段的前向传播的第二中间参数,接收的同一目标时间段的第一设备的第一训练时序数据确定的第一中间参数以及目标时间段的预设预测模型计算目标时间段的损失梯度,并基于所述目标时间段的损失梯度,更新所述目标时间段的预设预测模型的模型参数;
基于所述目标时间段的损失梯度,所述更新的预设预测模型的模型参数以及所述在目标时间段的第二训练时序数据,计算对应目标时间段的第二本地中间梯度,并基于所述目标时间段的第二本地中间梯度,得到第二循环神经网络模型在目标时间段的第二更新模型参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010589684.9/1.html,转载请声明来源钻瓜专利网。