[发明专利]训练模型的方法和装置

说明书

本申请提供一种无线网络中的训练模型的方法和装置，能够在无线网络中实现联合学习，有助于得到准确性以及泛化能力较高的训练模型。本申请实施例中，无线网络中的第一节点向该无线网络中的至少一个第二节点发送第一请求，每个第二节点能够根据该第一请求，基于其本地数据对第一共享模型进行本地再训练，然后通过向第一节点上报本地模型，进而第一节点能够根据第二节点上报的本地模型，确定第二共享模型。

技术领域

本申请涉及人工智能(artificial intelligence，AI)领域，并且更具体的，涉及AI领域中的训练模型的方法和装置。

背景技术

AI能够应用于无线网络中。随着无线网络中具有更多的频谱、更多的业务种类和接入终端数量，网络系统也会更加复杂，这也使得无线网络的架构和接入网设备将会更加智能化和自动化。结合无线网络中的各类型业务特征和网络架构和设备形态，目前已经定义出无线智能网络架构。

无线智能网络架构中，可以利用机器学习训练模型。机器学习训练模型主要采用集中训练和本地训练两种形式。其中，集中训练需要将训练数据聚合到中心节点，这会导致通信开销大，并且还存在建模时延长、用户数据上传存在数据隐私问题、中心节点存储和计算压力大等问题。本地训练不需要将模型上报，各本地节点只利用本地数据分别建模。本地训练存在数据量不足的问题，会导致模型不准确，并且模型还存在局部泛化能力弱的问题。

因此，无线智能网络架构中亟需一种中心节点与本地节点协作进行模型训练的方案。

发明内容

本申请提供一种无线网络中的训练模型的方法和装置，能够在无线网络中实现联合学习，有助于得到准确性以及泛化能力较高的训练模型。

第一方面，提供了一种应用于无线网络中的训练模型的方法，该方法由无线网络中的第一节点执行，该方法包括：

第一节点向无线网络中的至少一个第二节点发送第一请求，该第一请求用于请求该至少一个第二节点分别基于第二节点的本地数据，对第一共享模型进行本地模型再训练；

第一节点从上述至少一个第二节点分别获取模型上报消息，每个第二节点的模型上报消息包括第一本地模型的参数，或者包括该第一本地模型的参数与上述第一共享模型的参数之间的增量，其中，第一本地模型是每个第二节点基于第一请求和本地数据，对第一共享模型进行本地模型再训练后得到的；

第一节点根据上述至少一个第二节点的模型上报消息和第一共享模型，确定第二共享模型。

因此，本申请实施例中，无线网络中的第一节点向该无线网络中的至少一个第二节点发送第一请求，每个第二节点能够根据该第一请求，基于其本地数据对第一共享模型进行本地再训练，然后通过模型上报消息将训练得到的本地模型的参数，或本地模型的参数与共享模型的参数之间的增量上报给第一节点，进而第一节点能够根据该至少一个第二节点上报内容和第一共享模型，确定第二共享模型，基于此本申请实施例能够在无线网络中实现联合学习。

本申请实施例中，联合学习指的是第一节点以作为集中节点，以第二节点作为本地节点，在第二节点的本地数据不需要上传至第一节点的情况下，协同第一节点和第二节点共同学习以训练模型。联合学习能够克服集中训练模型的部分或全部缺点，也能够克服本地训练模型的部分或全部缺点。

具体而言，本申请实施例相比于现有技术中的集中训练模型的方式而言，不需要本地节点向集中节点上报训练数据，因而能够大大减少训练数据上报带来的通信开销，并且能够减小集中节点超大规模数据的存储和模型训练的压力，另外本申请实施例本地节点进行分布式模型训练，能够缩短模型训练的时间，保护数据隐私。

另外，本申请实施例相比于现有技术中的本地训练模型的方式而言，本地节点会将本地再训练后的本地模型发送给集中节点，使得集中节点能够根据至少一个本地节点的本地模型对共享模型进行更新，因而能够有助于克服本地训练存在数据量不足的问题，进而提高训练模型的准确性以及模型泛化能力。