论文标题：FedDAA: a robust federated learning framework to protect privacy and defend against adversarial attack

期刊：Frontiers of Computer Science

作者：Shiwei LU , Ruihu LI , Wenbin LIU

发表时间：15 Apr 2024

DOI：10.1007/s11704-023-2283-x

微信链接：点击此处阅读微信文章

针对联邦学习中对抗攻击防御与隐私保护方法不兼容的问题，广州大学刘文斌教授团队撰写了研究论文：一种鲁棒联邦学习框架FedDAA用于保护隐私和防御对抗攻击。

文章信息

标 题：

FedDAA: a robust federated learning framework to protect privacy and defend against adversarial attack

引用格式：

Shiwei LU, Ruihu LI, Wenbin LIU. FedDAA: a robust federated learning framework to protect privacy and defend against adversarial attack. Front. Comput. Sci., 2024, 18(2): 182307

阅读原文：

文章概述

文章旨在提升对抗攻击防御与隐私保护之间的兼容性，基于模型分解方法设计了新的联邦学习框架，能同时兼容对抗攻击防御与隐私保护，增强了联邦学习的系统安全性。

图1 一种基于模型分解、聚合与组装的联邦学习框架FedDAA

技术步骤

提出一种新的隐私量化指标，通过模型的分解、聚合与组装技术，确保服务器可获得的梯度信息不超过阈值，使FedDAA即能保护用户隐私，又能保证模型的收敛效果。另外，FedDAA框架中局部梯度无需加密或加噪声，使得对抗攻击防御方法也适用于FedDAA。

图2 不同模型分解参数下DLG攻击重建的图像（决定了服务器可获得梯度的比例）

图3 不同下原始图像与攻击重建图像之间的SSIM值

实验结果

大量实验结果表明，本文提出的FedDAA能与通用联邦学习达到相同的模型收敛效果，且能在保护隐私的同时，兼容对抗攻击防御。

图4 FedDAA和传统联邦学习框架下模型训练效果:（a）MNIST数据集 (b)CIFAR10数据集

相关内容推荐：

文章精要 | 广东技术师范大学张越副教授团队：基于张量显著共峰搜索的弱监督实例共分割 2024 18(2)：182305

文章精要 | 武汉大学肖春霞教授团队：CRD-CGAN: 基于类型一致性和相对性约束的多样性文本生成图象 2024 18(1)：181304

文章精要 | 用于常识问答的基于知识图谱的元路径推理 2024 18(1)：181303

文章精要 | 双曲数据分类器的核化研究 2024 18(1)：181301

文章精要 | 联邦学习综述：多方计算的视角 2024 18(1)：181336

Frontiers of Computer Science

Frontiers of Computer Science （FCS）是由教育部主管、高等教育出版社和北京航空航天大学共同主办、SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊，双月刊，全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华教授，共同主编为熊璋教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库（CSCD）核心库等收录，为 CCF 推荐期刊；两次入选“中国科技期刊国际影响力提升计划”；入选“第4届中国国际化精品科技期刊”；入选“中国科技期刊卓越行动计划项目”。

《前沿》系列英文学术期刊

由教育部主管、高等教育出版社主办的《前沿》（Frontiers）系列英文学术期刊，于2006年正式创刊，以网络版和印刷版向全球发行。系列期刊包括基础科学、生命科学、工程技术和人文社会科学四个主题，是我国覆盖学科最广泛的英文学术期刊群，其中12种被SCI收录，其他也被A&HCI、Ei、MEDLINE或相应学科国际权威检索系统收录，具有一定的国际学术影响力。系列期刊采用在线优先出版方式，保证文章以最快速度发表。

中国学术前沿期刊网

http://journal.hep.com.cn