报告题目:基于球面均匀性的归纳偏置
报告摘要:在机器学习中,归纳偏置(Inductive Bias)起着至关重要的作用,它决定着一个模型泛化性的强弱。在深度学习中,归纳偏置直接决定了一个过参数化神经网络的表现。那么,如何在模型中引入合适的归纳偏置呢?为解决该问题,本次报将会介绍一个新的正则化概念-- 球面均匀性(Hyperspherical Uniformity)。基于该概念,设计了多种能让神经网络保持良好泛化性的新训练方式,并在各类监督学习任务中验证了其有效性。
报告人简介:刘威杨, 剑桥大学&德国马克斯普朗克智能系统研究所研究员,博士毕业于美国佐治亚理工学院,导师是机器学习领域知名学者Le Song教授。刘威杨曾在谷歌研究院、英伟达研究院从事研发工作。目前已在ICML、NIPS、ICLR、CVPR、ICCV、IEEE T-PAMI等顶级学术会议和期刊上发表论文30余篇,被谷歌总引量超5000余次。
报告主持人: 曹晓锋副教授
报告时间:2022年7月11日(星期一)下午1:30
报告地点:腾讯会议:438-106-490