[发明专利]数据处理方法、装置和计算机可读存储介质有效
申请号: | 201911042227.1 | 申请日: | 2019-10-30 |
公开(公告)号: | CN110826695B | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 李婷;张钧波;郑宇 | 申请(专利权)人: | 京东数字城市(成都)科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06Q10/04 |
代理公司: | 中国贸促会专利商标事务所有限公司 11038 | 代理人: | 孙玉;刘剑波 |
地址: | 610015 四川省成都市*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 计算机 可读 存储 介质 | ||
本公开涉及一种数据处理方法、装置和计算机可读存储介质,涉及计算机技术领域。本公开的方法包括:将样本集中各个序列的当前时间窗口内各个时刻的数据作为输入数据输入预测模型;其中,当前时间窗口至少包括当前时刻;利用预测模型中结构控制器和门循环神经单元对输入数据进行运算,确定各个序列对应的预测模型当前时刻输出的数据;根据各个序列的下一时刻的数据和各个序列对应的预测模型当前时刻输出的数据的差异,对结构控制器的参数和门循环神经单元的参数分别进行调整,以便确定预测模型的结构和模型参数;其中,通过调整结构控制器的参数调整输入数据的权重,以及调整预测模型中多个激活函数的权重。
技术领域
本公开涉及计算机技术领域,特别涉及一种数据处理方法、装置和计算机可读存储介质。
背景技术
神经网络模型是目前计算机、人工智能等领域常用的机器学习模型。其中,循环神经网络(Recurrent Neural Network,RNN)等模型中包括门循环神经单元(GatedRecurrent Unit,GRU),常用于对序列的预测。
目前,技术人员在应用包含门循环神经单元的预测模型时,针对不同类型的数据,根据经验预设模型的网络结构和输入方式进行训练,如果发现训练结果无法达到预期(例如,无法收敛、过拟合等),需要人工重新调整预测模型的网络结构和输入方式。
发明内容
发明人发现:针对不同场景和不同类型的数据,需要人工调整预测模型的网络结构和输入方式,效率较低。
本公开所要解决的一个技术问题是:提出一种自动机器学习预测模型的网络结构和输入方式的方案,使预测模型可以自动适应不同场景不同类型的数据,提高预测模型调整的效率。
根据本公开的一些实施例,提供的一种数据处理方法,包括:将样本集中各个序列的当前时间窗口内各个时刻的数据作为输入数据输入预测模型;其中,当前时间窗口至少包括当前时刻;利用预测模型中结构控制器和门循环神经单元对输入数据进行运算,确定各个序列对应的预测模型当前时刻输出的数据;根据各个序列的下一时刻的数据和各个序列对应的预测模型当前时刻输出的数据的差异,对结构控制器的参数和门循环神经单元的参数分别进行调整,以便确定预测模型的结构和模型参数;其中,通过调整结构控制器的参数调整输入数据的权重,以及调整预测模型中多个激活函数的权重。
在一些实施例中,利用预测模型中结构控制器和门循环神经单元对输入数据进行运算包括:针对每个门循环神经单元和每个序列对应的输入数据,根据输入数据的各种选择方式,分别确定门循环神经单元中的更新门的输出值和复位门的输出值;根据每种选择方式对应的更新门的输出值和复位门的输出值,以及结构控制器中连接控制器的参数,确定更新门的混合输出值和复位门的混合输出值;根据更新门的混合输出值和复位门的混合输出值,确定门循环神经单元中各个激活函数的输出值;根据门循环神经单元中各个激活函数的输出值,以及结构控制器中激活控制器的参数,确定各个激活函数的混合输出值。
在一些实施例中,输入数据的各种选择方式包括:选择该序列的当前时间窗口内各个时刻的数据进行运算;或者,不选择该序列的当前时间窗口内各个时刻的数据进行运算;根据输入数据的每种选择方式,分别确定门循环神经单元中的更新门的输出值和复位门的输出值包括:将门循环神经单元对应的该序列的当前时间窗口内一个时刻的数据以及该时刻的上一时刻隐层输出的数据输入更新门,得到更新门的第一输出值;将门循环神经单元对应的该序列的当前时间窗口内一个时刻的数据以及该时刻的上一时刻隐层输出的数据输入复位门,得到复位门的第一输出值;将门循环神经单元对应的时刻的上一时刻隐层输出的数据输入更新门,得到更新门的第二输出值;将门循环神经单元对应的时刻的上一时刻隐层输出的数据输入复位门,得到复位门的第二输出值。
在一些实施例中,确定更新门的混合输出值和复位门的混合输出值包括:根据结构控制器中连接控制器的参数对更新门的第一输出值和更新门的第二输出值进行加权,得到更新门的混合输出值;根据结构控制器中连接控制器的参数对复位门的第一输出值和复位门的第二输出值进行加权,得到复位门的混合输出值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字城市(成都)科技有限公司,未经京东数字城市(成都)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911042227.1/2.html,转载请声明来源钻瓜专利网。