[发明专利]游戏模型的数据处理方法、装置、电子设备及存储介质有效
申请号: | 202110228510.4 | 申请日: | 2021-03-02 |
公开(公告)号: | CN113159313B | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 查道琛;马文晔;谢静如 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;A63F13/79;G06N3/04 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 黄丽霞 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 游戏 模型 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种游戏模型的数据处理方法,其特征在于,所述方法包括:
获取设置在远端的游戏模拟器自我博弈产生的对局数据,所述对局数据包括所述游戏模拟器基于第一出牌模型的神经网络自我博弈时各角色对象的状态数据、与所述状态数据对应的目标行为以及对局结果,所述状态数据至少包括相应角色对象所持有的手牌信息以及历史出牌信息;
基于所述对局结果,将所述各角色对象的状态数据和与所述状态数据对应的目标行为输入与所述第一出牌模型的神经网络参数相同的第二出牌模型的神经网络,所述第一出牌模型的神经网络通过同步第二出牌模型的神经网络参数得到;
采用强化学习算法训练所述第二出牌模型的神经网络,得到神经网络的参数更新后的目标出牌模型。
2.根据权利要求1所述的方法,其特征在于,所述获取设置在远端的游戏模拟器自我博弈产生的对局数据,包括:
获取设置在远端的所述游戏模拟器基于第一出牌模型的神经网络自我博弈时对应目标角色对象的状态数据以及与所述状态数据对应的所有候选行为;
基于游戏策略和状态数据,获取与所述状态数据对应的每一个候选行为的决策数据;
根据每一个候选行为的决策数据确定与所述状态数据对应的目标行为;
获取执行所述目标行为后的执行结果,直到游戏结束时获取所述游戏的对局结果。
3.根据权利要求1所述的方法,其特征在于,在所述获取设置在远端的游戏模拟器自我博弈产生的对局数据之后,所述方法还包括:
基于游戏中的不同角色对象,将所述对局数据存储在与各角色对象对应的缓冲区中;
所述采用强化学习算法训练所述第二出牌模型的神经网络,得到神经网络的参数更新后的目标出牌模型,包括:
基于各角色对象对应的缓冲区中的对局数据,采用强化学习算法并行训练各角色对象对应的第二出牌模型的神经网络,得到与各角色对象对应的神经网络的参数更新后的目标出牌模型。
4.根据权利要求3所述的方法,其特征在于,所述基于各角色对象对应的缓冲区中的对局数据,采用强化学习算法并行训练各角色对象对应的第二出牌模型的神经网络,得到与各角色对象对应的神经网络的参数更新后的目标出牌模型,包括:
当存在数据量达到设定值的缓冲区时,则基于所述数据量达到设定值的缓冲区中的对局数据,采用强化学习算法训练与所述缓冲区的角色对象对应的第二出牌模型的神经网络,得到对应角色对象的神经网络的参数更新后的目标出牌模型。
5.根据权利要求1所述的方法,其特征在于,在得到神经网络的参数更新后的目标出牌模型之后,所述方法还包括:
将更新后的神经网络的参数传输给设置在远端的游戏模拟器,所述更新后的神经网络的参数用于指示更新所述游戏模拟器;
所述获取设置在远端的游戏模拟器自我博弈产生的对局数据,包括:
获取设置在远端的更新后的游戏模拟器自我博弈产生的对局数据。
6.根据权利要求5所述的方法,其特征在于,所述将更新后的神经网络的参数传输给设置在远端的游戏模拟器,包括:
在对神经网络的参数更新前进行加锁设置;直到所述神经网络的参数更新后进行锁释放,并将更新后的神经网络的参数传输给设置在远端的游戏模拟器。
7.根据权利要求1至6任一项所述的方法,其特征在于,在得到与各角色对象对应的神经网络的参数更新后的目标出牌模型之后,所述方法还包括:
获取实际游戏场景中所述目标出牌模型对应的角色对象的状态数据以及与所述状态数据对应的所有候选行为;
将所述状态数据以及与所述状态数据对应的所有候选行为输入所述目标出牌模型,得到所述目标出牌模型输出的与所述状态数据对应的每一个候选行为的决策数据;
根据每一个候选行为的决策数据确定满足条件的目标行为进行出牌。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110228510.4/1.html,转载请声明来源钻瓜专利网。