编者按:微软亚洲研究院“铸星计划”旨在发掘和助力新一代青年学者,使其成为科研创新能力突出、走在世界科技前沿的学术带头人。无论是与领域内顶尖研究员合作的机会,还是最新、最丰富的数据集和强大的支持资源,抑或是产业界独有的实际应用场景,都吸引着青年才俊们来到微软亚洲研究院探索领域内前沿新知。
年轻、开拓、探索,是铸星计划的关键词;合作、创新、成就,是每个学术新星发光闪耀的必经之途。通过“铸星计划”,来自中国科学院计算技术研究所的姚迪老师,在微软亚洲研究院完成了一段成果丰硕的“铸星”之旅。
来自中国科学院计算技术研究所的姚迪老师,作为“铸星计划”访问学者,在微软亚洲研究院完成了为期三个月的访问,并收获了丰硕的科研成果——一篇学术论文被 KDD 2022 收录,还参与了 WSDM 2022 的 “时序链接预测”竞赛获得第二名。
每天十点到达研究院,规划一天的研究任务;午饭后,和团队成员们进行常规的会议同步研究进度;晚上,开始梳理一天的研究成果撰写论文,有时会忙到深夜——这是姚迪三个月访问期间的日常。他的勤奋和专注,加之与优秀年轻研究员的互相激发、优势互补,让他完成了“做顶天立地的研究”的科研志向。
在 MSR Asia 做顶天立地的研究
“要做顶天立地的研究”——这是博士期间,姚迪的导师、中国科学院计算技术研究所毕经平教授对他的教诲。“顶天”是要面向世界的科技前沿,需要“技术领先”;“立地”则是要聚焦社会需求,需要“用得上”。姚迪一直铭记在心,并将其作为自己开展研究的指导原则。
这也是姚迪参与微软亚洲研究院“铸星计划”的重要原因之一。姚迪一直深耕时序数据挖掘方向。时序数据的应用场景非常明确,这是一个可用、可落地的研究方向。同时,通过和微软亚洲研究院研究员杜仑、高级研究员韩石、付强的多次探讨,姚迪结合了研究院的优势方向,将“轨迹长时依赖建模”作为“铸星计划”访问期间研究工作的重点。
确定了方向和重点,姚迪和合作研究员就迅速开始着手进行研究工作。在三个月的访问中,“顶天立地”的研究目标得到了很好的实现。被 KDD 2022 接收的工作解决了长轨迹相似度计算效率的问题。在学术层面,姚迪与合作研究员发现了一个原来轨迹表示学习的共性问题,即长轨迹相似性计算准确率低,并提出了一个基于图神经网络的方法即通过建模轨迹的长时依赖来解决它。
在实际落地层面,这项工作的应用场景非常广泛。一方面,在智慧城市、共享出行应用中,有许多移动目标分析任务如异常检测、位置预测等都需要用到轨迹的相似性计算。姚迪的工作为这些分析任务提供了一个高准确率、高效率的轨迹表示工具,它不仅适用于较短轨迹,在长轨迹上也有不错的性能表现。另一方面,他们提出的方法也很容易扩展到通用的时间序列数据,用于长时间序列的表示学习。通过简单地修改模型结构,该方法也可能应用于金融序列、事件序列、日志序列的分析任务。
整个研究过程并非一帆风顺,也攻克了许多困难。初版模型设计出来后,团队在进行实验时却发现训练过程很难收敛,并且测试效果也不好,就连表示学习最大的优势即效率方面,模型表现得也不尽如人意。这个原因导致项目停滞了整整两周的时间。在项目停滞期间,姚迪和“星搭档”杜仑不断在代码上找原因,在确定代码实现正确的基础上,逐层分析每一步的梯度,最终确定效果不好的原因是在轨迹数据到图的转化时有信息损失,导致得到的轨迹图没有区分度。找到原因之后,姚迪和杜仑带领团队通过加入节点预训练与考虑顺序特征的位置编码等手段,最终将模型的性能提升达到预期。
相互激发的年轻学者,优势互补的最佳拍档
姚迪的“铸星之旅”成果丰硕,与姚迪的最佳搭档、微软亚洲研究院研究员杜仑分不开。姚迪和杜仑之前就在活动中相识,并发现彼此的研究兴趣出乎意料地契合。“铸星计划”恰好为他们提供了将“合作意向”转化为切实研究工作的机会。
姚迪和杜仑的科研方向非常互补——姚迪擅长时序数据建模,杜仑擅长图模型。通过优势互补,他们分别探索了图模型增强的时序数据建模和动态图模型的研究两个问题。两人的合作模式也非常高效,两项研究课题都以“一人为主一人为辅”的方式进行协作,很好地发挥了彼此所长。最终,姚迪主导的课题收获了一篇 KDD 2022 论文,杜仑主导的课题则斩获 WSDM 2022 “时序链接预测”竞赛获得第二名,可谓是一次“1+1>2”的合作。
姚迪和杜仑的性格也非常相像。在学术研究中,他们非常专注严谨。杜仑说,在科研讨论会中,他们经常会进行激烈的头脑风暴和讨论,以至于忘记时间;姚迪也会非常犀利地指出目前工作中的不足。但在生活中,他们会切换为随和谦逊的另一面,能够和团队成员、学生打成一片,每到周末,他们还会一起打游戏、约饭、玩桌游。
整体指导了姚迪几项科研工作的韩石这样评价两位的合作:“杜仑研究员和姚迪老师作为优秀年轻学者,在分别深耕各自研究领域的同时,就像不停流动的新鲜血液、以及快速生长的神经突触一样,在他们的勤奋努力下,一定会在合适的平台和时机相遇,从而帮助原来各自所在的领域和团队进行营养的交换、信息的传递与融合,激发各自更大的潜力以及放大共同的合力。”
携手更多青年学者,未来可期
姚迪认为,微软亚洲研究院的关键词是“自由”和“高效”。在这里,年轻学者有非常大的自由去探索自己感兴趣的科研方向,也有机会与志同道合的伙伴进行科研合作,并建立长期的合作关系。这里的工作效率也让姚迪震撼。疫情新常态下,通过线上协作,科研工作的进度并未受到影响。
在微软亚洲研究院三个月的访问中,姚迪不仅收获了学术上的突破,结识了一批优秀的科研伙伴,他还探索了新的研究方向,接受到更多新颖的研究思路。同时,韩石、付强等资深研究员的指导和帮助,也让他的科研视野更为广阔。
这也许就是“铸星计划”的魅力,它能促进不同背景的研究人员开展交流合作,给予年轻学者更多的资源。正如韩石所说的那样——“铸星计划”为青年学者提供了一个与更多学者合作交流的平台以及展示自己的舞台。
三个月的访问对于姚迪仅仅是一个开始。目前,姚迪还正与合作研究员进行多个科研课题的持续探索。同时,带着丰沛的收获和对于未来科研的养料,他也已推荐中科院计算所的多位年轻老师申请“铸星计划”,希望他们也能来此获得有价值的合作机会。
“我们有非常多有潜力、并且能成长为像杜仑研究员和姚迪老师这样的优秀年轻学者,这也是我们所有科研从业者和科技领域的幸事和希望所在。“韩石说。“铸星计划”期待更多像姚迪一样对科研有着饱满热情的学者加入我们,在微软亚洲研究院各自发挥所长,做出有价值的科研工作!
微软亚洲研究院铸星计划 2022
火热报名中!