学术活动

斯坦福大学叶荫宇教授应经管学院之邀做学术报告


  • 620日与21日,斯坦福大学叶荫宇教授应经管学院之邀,为师生带来两场学术报告。


    叶荫宇斯坦福大学管理科学与工程系及计算数学工程研究院的杰出终身教授,国际运筹和管理科学协会(INFORMS)会士。主要研究方向为优化、复杂性理论、算法设计与分析、数学规划应用、运筹学以及随机与鲁棒决策等。叶荫宇教授获得过重要研究奖项。2009被授予约翰·冯·诺依曼理论奖,以表彰他对运筹学和管理科学理论的持续贡献2012年,他成为国际数学规划大会(ISMP) Tseng Lectureship奖的首位获奖者;2014年,成为美国应用数学学会(SIAM)三年一度的优化大奖(Optimization Prize)的获奖者。根据谷歌学术统计,目前叶荫宇教授的文章被引用总计超过53000次。


    6月20日的报题目题为“Online Linear Programming: Applications and Extensions”。叶荫宇教授首先以AI对优化领域的冲击开场,勉励大家做研究首先要把基础打好,解决理论或者实际中的一些问题,不要过于看重自己的出身。接下来,叶荫宇教授分别从Auction market, Bandit market以及Price-posting market三个方面介绍了在线线性规划的应用场景。对于Auction market,商家需要将有限资源分配给不同时刻的客户以最大化其收益。在离线状态下,商家事先知道所有时刻客户的需求和出价,此时该问题可以写为一个线性规划。而在在线状态下,商家在客户到达时才能获取到其需求和出价且需立即做出决策。为了求解该在线问题,叶荫宇教授提出了一种Learning while Doing的在线算法策略:在每个客户到达时都求解一个对偶问题“学习”得到一组影子价格,如果客户的出价大于影子价格就满足其需求。通过考虑历史剩余资源和有限客户类型等,该算法策略可以达到对数遗憾界(Regret bound)。对于Bandit market,商家要先决定卖给哪个客户(或者拉哪个老虎机),然后才知道客户的需求和出价,该问题的离线版本仍然可以写为线性规划。叶荫宇教授提出了一个两阶段在线算法来求解该问题的在线版本,该算法可以达到对数遗憾界。实验结果表明,在有限客户类型下,单纯形法只能找到角点解,对某种客户不公平,而内点法可以找到更加公平的分配方案。在Price-posting market中,决策者希望能够找到产品的一组均衡价格使得市场出清,而其恰好为一个凸规划的影子价格。叶荫宇教授设计了一个动态定价算法来迭代均衡价格,该算法可以达到对数遗憾界。最后,叶荫宇教授展示了在线线性规划的未来发展方向,如考虑非平稳数据、同预测模型结合、分布式鲁棒在线线性规划和可信机制设计等。


    IMG_3098.JPG

    叶荫宇教授6月20日做报告


    6月21日的报告题目“Recent Developments on Optimization Algorithms and Applications”。本次讲座中,叶荫宇教授聚焦于非线性优化特别是二次优化中加速算法的最新进展。牛顿法是求解非线性优化问题的最常用的方法之一,但牛顿法计算一次牛顿步的复杂度较高,当样本维度较大时,牛顿法会耗费大量计算资源。为此,叶荫宇教授介绍了一种基于齐次下降方向的二阶加速算法,来替代牛顿法。信赖域方法通常需要利用牛顿法求解二次优化问题,通过将目标函数二次齐次化,原问题就变成在球面上极小化一个二次齐次函数,而最优解就是矩阵对应的最小特征值,因此相应的下降方向就是最小特征值对应的特征向量。在合适选取参数的情况下,该方法能够以较小的复杂度得到一个很好的下降方向。该方法可以应用到在强化学习中的策略优化以及传感器网络定位(Sensor Network Localization),数值结果显示,该方法比常用的信赖域策略优化方法以及牛顿法的训练效果更好。此外,叶荫宇教授介绍了一种降维信任域法(Dimension Reduced Trust-Region Method)来求解无约束优化问题。在梯度方向(Gradient)与动量(Momentum)方向所形成的子空间上利用牛顿法,可以很快找到一个很好的下降方向。该方法可以用在神经网络以及深度学习的训练过程中,实际数值结果说明,该方法比常用的训练方法Adam、SGD等方法有更快的收敛速度。最后,叶荫宇教授介绍了一个具有统计性质的预训练切割混合整数线性规划求解器。数值实验显示,在多背包问题、集合覆盖问题以及机组组合(Unit-Commitment)问题上,该求解器的求解速度比Gurobi以及COPT 更快。


    1.jpg

    叶荫宇教授6月21日做报告


    每次报告结束后,叶荫宇教授都与在场师生进行了热烈的讨论和交流,大家都表示叶荫宇教授的报告对日后的科研很有启发。

    责编 :