2025年10月16日，数计学院翠湖学者论坛系列讲座在逸夫楼511会议室成功举办。学院曾庆馗博士作题为“联邦学习投毒攻击的防御策略研究”的专题报告。此次讲座吸引了学院师生的广泛关注，现场座无虚席，气氛热烈。
报告围绕当前人工智能分布式训练中最具挑战性的安全问题，联邦学习中的投毒攻击展开。首先从联邦学习的基本原理入手，系统介绍了联邦学习在数据隐私保护与分布式协同建模中的核心机制，并阐述了其在《数据安全法》《个人信息保护法》等法规背景下的重要应用前景。报告深入剖析了联邦学习系统面临的隐私泄露与投毒攻击威胁，包括数据投毒与模型投毒的典型形式，这成为当前联邦学习落地应用的关键安全瓶颈。
针对上述问题，报告提出了两种具有创新性的防御思路。其一是基于数据增强的联邦学习投毒攻击防御算，通过本地数据混合与梯度聚类机制，有效缓解了非独立同分布场景下的模型污染问题。实验证明，该算法在多种数据集与不同攻击强度下均表现出显著的鲁棒性。其二是基于主动防御的两阶段联邦遗忘学习算法，该算法通过“显著层识别、恶意客户端检测和近似遗忘”的两阶段设计，实现了无需完全重训练即可抵御攻击并恢复模型性能的目标。报告最后指出，未来的联邦学习安全研究应综合考虑隐私保护、模型鲁棒性与系统效率的平衡，探索面向复杂网络环境的主动防御机制和可解释安全框架。
报告结束后，与会师生纷纷表示受益匪浅，反响热烈。联邦学习的安全性研究具有重要意义，可以为人工智能可信计算的发展注入新动力，此次报告进一步促进了学院在人工智能与网络安全交叉领域的学术交流与科研合作。
撰稿：王福成 审稿：陈文勇 齐平