教学科研

信息学院青年教师发表认知通信和网络领域研究成果

近期,信息学院青年教师范新在认知通信和网络领域TOP期刊《IEEE Transactions on Cognitive Communications and Networking》以第一作者发表学术论文“CB-DSL: Communication-efficient and Byzantine-robust Distributed Swarm Learning on Non-i.i.d. Data”,北京林业大学为第一完成单位。该期刊简称为“IEEE TCCN”,中科院SCI期刊分区表大类和小类均为一区,2023年影响因子为8.6。


物联网设备收集的丰富数据和机器学习(Machine Learning,ML)的复兴,引发了人工智能(Artificial Intelligence,AI)的最新趋势。然而,传统的机器学习和最近的联邦学习(Federated Learning,FL)还面临着重大挑战,包括通信瓶颈、数据异构和边缘物联网的安全问题等。同时,大规模物联网系统的群体性特征被大多数现有研究忽视。为解决上述挑战和问题,需要对分布式学习算法进行新的设计,范新在论文提出了一种高效鲁棒的分布式学习方法CB-DSL。


1.jpg

图1:本文提出的CB-DSL模型图


在自然界中,生物有机体的个体能力往往显得微不足道。然而,通过集结成群的方式,它们在信息整合、环境适应以及决策制定等方面却能展现出惊人的实力。这不仅揭示了生物群体行为的复杂性和智慧,也突显了群体力量在应对环境挑战中的重要性。受生物智能(Biological Intelligence,BI)的启发,文章提出了一种新的群体物联网边缘学习方法。通过AI随机梯度下降和BI粒子群优化的有机集成,该方法可以有效提升分布式学习性能。为了应对non-i.i.d.数据问题和拜占庭攻击,文章在CB-DSL中引入少量全局数据样本,并在物联网设备之间共享,有效缓解了局部数据的异构性,使群体智能的探索利用机制得以充分发挥。文章以收敛性分析的角度从理论上证明了CB-DSL优于标准FL,具有更好的收敛性;同时,通过推导其上界来评估CB-DSL的模型散度性能,该上界衡量了引入全局共享数据集的有效性。


据悉,这是首次尝试利用AI和BI的各自的算法优势,来提高分布式学习系统性能并给出理论分析的研究工作,为分布式学习在大规模智慧物联网场景下的应用提供了潜在的解决方案,推动了边缘AI的进一步发展。


论文链接:https://ieeexplore.ieee.org/abstract/document/10242235/


Baidu
map