数学科学学院2023年学术活动系列报告之八
2023年5月30日，应数学科学学院邀请，西安电子科技大学王楠楠教授作了关于“对抗环境中深度学习模型的鲁棒性”的学术报告。本次报告以腾讯会议的形式举行，由孙忠贵教授主持，数学科学学院和计算机学院部分师生参加。
随着人工智能的迅速发展，深度学习模型已在众多领域崭露出卓越的应用价值并具有广阔的发展前景。然而，深度学习模型在表现出良好性能的同时，也面临着一个严峻的挑战，即对抗环境下模型鲁棒性的不足。深度学习模型会受到不易察觉的对抗噪声的恶意干扰而做出明显错误的决策。深度学习模型对抗鲁棒性的缺失会给基于深度学习的智能系统造成严重的潜在安全威胁。因此，深入了解对抗噪声的存在原因和内在特性，研究有效的对抗防御策略以增强深度学习模型对抗鲁棒性具有重要且深远的意义，同时也能够为下一代可信深度学习的发展带来机遇。报告首先介绍对抗噪声的主要生成机制及代表性的对抗攻击算法。针对对抗噪声的恶意干扰，报告从对抗训练、预处理和后处理等角度呈现不同的对抗防御策略，以提升深度学习模型的对抗鲁棒性，促进可信人工智能的构建。参会人员对报告内容引起极大兴趣，并就相关问题与王楠楠教授展开热烈讨论。此外，王楠楠教授还结合自己的人才培养经验，就研究生和青年学者如何开展相关研究等问题，给出一些宝贵建议。
王楠楠，西安电子科技大学教授，博士生导师，空天地一体化综合业务网全国重点实验室副主任。近年来从事图像跨域重建与可信鉴别方面的研究，在IEEE TPAMI、IJCV等国际学术期刊和CVPR、ICCV、ECCV、ICML、NeurIPS等国际学术会议上发表论文200余篇，授权国家发明专利30余项，其中7项实现专利技术转让，软件著作权3项，相关成果获教育部自然科学一等奖、陕西省科学技术一等奖、中国人工智能学会优秀博士学位论文等荣誉。主持国家自然科学基金优秀青年基金、联合基金重点、面上、青年项目，科技创新2030-“新一代人工智能”重大项目子课题，装备预研-教育部联合基金等。担任国际期刊《Visual Computer》的副主编（Associate-Editor-in-Chief）。
