上海交通大学黄晓霖教授做客学术沙龙

文:|图:信通学院| 发布时间: 2023-07-04 09:51:25|

7月3日,由教师发展中心主办、信息与通信工程学院承办的“学术沙龙”,邀请到上海交通大学黄晓霖副教授,为学校师生带来精彩的学术讲座《利用低维动态空间的深度神经网络训练加速与扩展性提升》,相关师生参与讲座并进行互动交流。本次讲座由刘翼鹏副教授主持。

B034FF49D37658044F88E8DC6260756D

深度神经网络的参数量极大,产生了很多冗余的特征,这也是神经网络存在对抗样本的根本原因之一。找到有效的低维结构、有效地去除冗余有望很好地控制神经网络、提升其稳健性。通过分析神经网络的动态特性,黄晓霖副教授提出了神经网络动态低维结构,发展了新的降维方法,第一次证实了深度神经网络超低维动态空间的存在性。进一步,黄晓霖副教授围绕超低维动态空间的机理和实际工业应用展开研究,发展了低维高阶算法、历史组合可训练权重方法、局部优化方法等,提升了训练性能并从新的角度解释了对抗攻击样本的存在性。相应成果近期相继发表在IEEE TPAMI, ICLR, CVPR等期刊和会议上,并通过与华为的合作研究在实际应用展现出了良好的性能。

BB64036E4A7C245E9EABC966BAA5D474

讲座结束后,黄晓霖副教授和与师生进行了热烈交流和讨论,解答了关于神经网络动态低维结构的算法细节以及实际场景适用性等方面的问题,拓展了我校师生的科研视野与思路。

本次学术沙龙由教师发展中心主办,信息与通信工程学院承办。

相关链接:

黄晓霖副教授,本科毕业于西安交通大学、博士毕业于清华大学,博士后工作于比利时鲁汶大学,并在德国埃尔朗根-纽伦堡大学任洪堡学者,现为上海交通大学电子信息与电气工程学院副教授、博士生导师,研究方向为机器学习理论与算法,特别是核学习与深度学习中的稳健性。发表论文五十余篇,其中十余篇发表于领域重要期刊《Journal of Machine Learning Research》《IEEE Transactions on Pattern Analysis and Machine Intelligence》《Applied and Computational Harmonic Analysis》,并在《Nature Reviews Methods Primers》发表综述一篇。近年来,主持国家自然科学基金面上项目、JWKJW创新专项、上海市科技创新行动计划项目;参与“2030新一代人工智能”重大专项和“人工智能前沿基础理论与关键技术”上海市科技重大专项。2017年入选国家特聘专家(青年项目)。

清水河校区地址:成都市高新区(西区)西源大道2006号 电子科技大学清水河校区科研楼B区

邮编:611731 Email: xintong@uestc.edu.cn

电话:028-61830156 传真:028-61831665

学院官微

分享