本技术方案提出了一种群体定制化的联邦学习技术,依托于莫罗包络理论,应用于无线通信领域。该方案通过构建包含多个用户节点、对应子服务器以及一个中心边缘服务器的网络架构,实现个性化学习与通信效率的双重优化。
背景技术
联邦学习(FL)是一种新兴的分布式机器学习范式,因其能够在保护用户数据隐私的情况下为所有参与的用户设备训练出一个合适的全局模型,现在已备受工业界和学术界的广泛关注。然而,传统的FL面临着诸多挑战,例如在面临大量异构的设备数据时,FL性能会大打折扣,尤其是将FL应用于移动网络边缘时,这样的问题会更加突出,导致最终训练得到的全局模型并不能够很好地推广到每个用户设备。
数据异构性源于用户设备的属性、偏好和数据采集模式等的不同,为了应对数据异构性带给联邦学习的挑战,个性化联邦学习(PFL)被提出,其核心在于为每个参与的用户设备制定一套个性化方案,与传统FL相比,PFL更加关注不同用户设备之间的数据差异性,从而尽可能地提升模型性能。目前已经有多种PFL能够有效应对数据异构性的挑战,但是其大多数设计方案只停留在个体层面。已被提出的群体个性化联邦学习(GPFL)方法,例如注意力消息传递机制的同步群体个性化联邦学习(AMP-GPFL),对用户设备算力的需求较低,适用范围比较局限。
实现思路