[发明专利]模型结果的训练/验证/管理方法/系统、介质及设备在审

专利信息
申请号: 201910104386.3 申请日: 2019-02-01
公开(公告)号: CN109918444A 公开(公告)日: 2019-06-21
发明(设计)人: 林锦达;刘军;高庆忠;周志华;蒋伟;夏伏彪 申请(专利权)人: 上海尚阵智能科技有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06N5/04;G06Q40/04
代理公司: 上海光华专利事务所(普通合伙) 31219 代理人: 徐秋平
地址: 201203 上海市浦东新区中国*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 中间结果 任务发布节点 模型结果 验证 哈希 保存 衡量 工作量 共享网络 哈希运算 模型复制 损失函数 训练过程 训练模型 训练网络 中心化 区块 数组 记账 管理 广播 发布 应用 网络
【说明书】:

发明提供一种模型结果的训练/验证/管理方法/系统、介质及设备,应用于包括任务发布节点、训练节点、验证节点及记账节点的任务训练网络中;所述模型结果的训练方法包括:待任务发布节点发布AI训练任务后,对待训练模型进行训练并保存N个中间结果模型;将N个中间结果模型进行哈希运算,以获取N个第一哈希值,并广播N个第一哈希值,以验证所保存的N个不同的中间结果模型是否为通过造假将同一个中间结果模型复制N次给出的;同时保存训练过程中针对N个中间结果模型对应的N个数组长度为M的损失函数。本发明可以用于衡量AI训练有效工作量是否造假,使训练节点和任务发布节点都有衡量的依据。特别是针对去中心化的区块链网络、算力共享网络中的AI训练有效工作量的衡量。

技术领域

本发明属于人工智能技术领域、区块链技术领域,涉及一种练/验证/管理方法/系统,特别是涉及一种模型结果的训练/验证/管理方法/系统、介质及设备。

背景技术

随着模型算法、数据和硬件算力的高速发展,人工智能(AI)技术得到了广泛的应用。一方面,随着模型变得更加复杂、数据变得更加庞大,人们对于硬件算力的需求也越来越高。另一方面,拥有闲置算力资源的人,希望共享其闲置的算力用于AI训练以获得收益。目前没有一个成熟的、可落地的AI算力共享平台,很大的原因在于算力提供方(也称训练节点)和需求方(也称任务发布节点)之间的互不信任。由于AI训练是一个耗时的过程,最长的训练过程可达几天甚至几个月。一方面,算力提供方(训练节点)可以通过改变训练超参数,使得在相同的训练过程和训练步骤下训练时间大大缩短,也即从中偷懒,使其有效工作量难以被衡量。这种做法对于算力提供方是有利的,其可以通过训练时间造假多获取收益。但是对于算力需求方(任务发布节点)则是不利的,因为其付出了全部费用,但是得到的AI模型训练结果真实性却无法保证。另一方面,训练节点担心自己花费大量时间训练得出的结果被任务发布者恶意不承认,因而白白浪费时间和算力得不到回报。因而供需双方无法达成一致。

目前评价AI模型训练好坏的方法是利用数据验证集对模型推断结果进行评价。但是,该方法存在如下问题:

第一,通过诚实的AI训练后得到的模型,也会由于模型本身参数设置不合理,而得到不好的推断结果。因而该方法无法区分模型自身超参数设置不好和AI训练过程中工作量造假这两种情况;

第二,算力提供方可以通过将数据验证集用于训练,从而在工作量造假的情况下,得到好的推断结果,因此该验证方法反而会将工作量造假的情况判断为诚实的AI训练。

因此,如何提供一种模型结果的训练/验证/管理方法/系统、介质及设备,以解决现有技术中任务发布节点担心训练节点所提供的AI模型训练结果真实性无法保证,训练节点担心自己花费大量时间训练得出的结果被任务发布节点恶意不承认,导致供需双方无法达成一致等缺陷,实以成为本领域技术人员亟待解决的技术问题。

发明内容

鉴于以上所述现有技术的缺点,本发明的目的在于提供一种模型结果的训练/验证/管理方法/系统、介质及设备,用于解决现有技术中任务发布节点担心训练节点所提供的AI模型训练结果真实性无法保证,训练节点担心自己花费大量时间训练得出的结果被任务发布节点恶意不承认,导致供需双方无法达成一致的问题。

为实现上述目的及其他相关目的,本发明一方面提供一种模型结果的训练方法,应用于包括任务发布节点、训练节点、验证节点及记账节点的任务训练网络中;所述模型结果的训练方法包括:待任务发布节点发布AI训练任务后,对待训练模型进行训练并保存N个中间结果模型;将N个中间结果模型进行哈希运算,以获取N个第一哈希值,并广播N个第一哈希值,以验证所保存的N个不同的中间结果模型是否为将同一个中间结果模型复制N次给出的;同时保存训练过程中针对N个中间结果模型对应的N个数组长度为M的损失函数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海尚阵智能科技有限公司,未经上海尚阵智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910104386.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top