[发明专利]一种面向流媒体基于邻居信任聚合的去中心化联邦学习方法

说明书

本发明公开了一种面向流媒体基于邻居信任聚合的去中心化联邦学习方法，包括，步骤1，客户端收集的流媒体数据进行归一化处理，形成用户的特征向量；步骤2，构建基于CNN和Transformer网络的本地模型；从特征向量中选取与时序无关的特征向量，输入到CNN网络中；从特征向量中选与时序有关的特征向量，输入到Transformer网络中；将卷积提取的特征信息与Transformer输出的结果进行Concat操作；步骤3，基于信任机制的随机游走模型，去中心化的联邦学习训练出全局模型。采用联邦学习方法使得各客户端间的模型共享，并引入了对等网络技术，使组网的计算机不依赖一个集中的服务器。

技术领域

本发明涉及分布式计算的联邦学习领域，更具体地说是一种应用在流媒体数据中，基于邻居信任聚合的去中心化联邦学习方法。

背景技术

在机器学习领域，一些传统的机器学习模型如支持向量机、逻辑回归等应用在具体的场景中如房价预测等。因为机器学习模型训练的数据来自于不同客户端或者不同机构，不同客户端和不同机构之间因为《数据安全法》的存在，限制了彼此之间的数据共享。联邦学习被设计出来，用于在不触及数据的前提下，分析数据。联邦学习不仅是一种机器学习方法，更像是一种商业模式。目前在医疗、金融等领域，联邦学习已经运用到实际生活中，如可穿戴设备的健康检测、金融产品营销推荐等。对于用户隐私需要加强保护的领域，常通过联邦学习的方法对上述应用场景下的模型进行训练。对等网络(Peer-to-Peer，P2P)技术不同于传统的集中服务器概念，通过合理的网络优化及网络协调，将参与组网的计算机转变成不依赖一个集中的服务器计算，而是每一个计算机在作为客户机的同时，也是一个小型但是完善的网络服务器。每一个节点的计算机与其他点位的计算机都是对等的关系，并不存在上下级的关系。

在联邦学习的一些应用中，主要基于一些流媒体平台，利用区块链技术进行联邦学习进行训练推荐模型，如专利号202111638487.2提出了一种基于联邦学习的个性化行为推荐方法，根据不同地区的用户特征行为进行个性化推荐，数据存储在各个本地模型中进行中心化联邦学习训练；如专利号202110521197.3提出一种基于联邦学习的协作式在线视频边缘缓存方法，利用多个用户、多个边缘节点及中心服务器，多个边缘极点为其覆盖区域内的可移动的多个用户提供服务并且连接到中心服务器，每个边缘节点配置边缘服务器。除上述两个类型外，目前的联邦学习还应用于金融和医疗行业，如专利号202110493396.8提出一种基于纵向联邦学习的潜在客户的识别方法、系统及介质；如专利号202210131792.0提出了医疗命名实体识别模型训练方法、识别方法及联邦学习系统。本司授权专利(CN202121739511.7一种可灵活组合的液晶屏智能展示系统)的魔法屏为一种展示信息展示系统，具有用户APP和终端公开展示屏。魔法屏包含服务器端和终端的中心化网络架构，但是彼此之间不进行数据的传输，服务器端仅起到运行的支撑作用，本质上可以认为是去中心化的结构。魔法屏可以用于用户的喜好和动作识别以及情绪学习等任务，此项任务能够根据用户的个性化需求进行推荐适当内容。魔法屏的终端会根据每个用户的喜好会在本地端形成一个数据库，针对用户的喜好进行推荐。如中国人喜爱中国红颜色，而欧美人喜欢圣洁白；东方人喜爱淡水鱼，欧美人喜欢海洋产品等。在不同用户的使用，魔法屏会根据用户的不同进行一定的调整，再进行内容的推荐。

在现有的联邦学习的系统中是基于服务器-客户端架构中心化的模型，所有客户端的训练模型都需上传至服务器端，服务器端的存储压力大以及网络传输压力都很大，不可避免的消耗设备资源，包括计算资源、通信资源和能源。同时服务器端发生异常，会直接导致联邦学习系统的崩溃，从而中断正在进行的联邦学习过程。P2P技术下的计算机节点之间相互对等，所以每一个节点都可以充当传统模式中的服务器，并且同时具有大量的资源信息，所以每一个网络节点都可以提供必要的资源。也正是这一个原因导致P2P技术下的网络呈现无结构分布，同时各个网络节点的较为分散。简单的来说就是，因为同时我们可以这样假设，如果在一个限定的网络中，则拥有的节点越多，可以提供的资源便越多，这样网络中的外部化性能特点便显得尤为明显。因此现有的联邦学习和P2P技术存在以下不足之处：