探寻SIST教授的故事|屠可伟:探索与“re”+“search”

发布时间:2023-04-20浏览次数:1984

图片



写在前面






对于大学生而言,常常会感觉到对未来的迷茫和不确定,也非常希望能得到老师、前辈的指点,或者从前辈们的故事中得到借鉴和经验,从中汲取未来继续前行的力量。于是,“探寻SIST教授的故事”栏目便这样推出了。我们在匿名问卷中收获了大家的推荐。首期,我们将采访的是屠可伟教授。









教授简介

图片

屠可伟

上科大信息学院副教授、研究员、博导


研究领域:自然语言处理、机器学习、人工智能

求学经历:屠可伟于2002和2005年在上海交通大学计算机科学与工程系获学士和硕士学位;2012年于美国爱荷华州立大学获计算机科学博士学位;2012至2014年在美国加州大学洛杉矶分校统计系与计算机系从事博士后研究工作。

学生培养:现有12名学生(6博6硕),已毕业14名学生(5博9硕);

研究生毕业出路:

出国深造:美国麻省理工(博士)、美国马里兰大学(博士)、英国爱丁堡大学(博士)、美国南加州大学(博后offer)、新加坡国立大学(博后);

国内就业:阿里巴巴达摩院(阿里星计划两人)、腾讯、百度、网易、初创企业(乐言、小马智行)等;北京BIGAI研究院、国防科大。

图片

KEEP MOVING

Chapter 1




“我希望我研究的东西在人工智能很多方向上都能够用的上,而不是局限于某一个小的角落里。”






Q:请问您是如何选定自己的研究方向?


A:我现在的研究领域是自然语言处理(NLP),但是研究方向的选择也是一波三折。进大学之前我就在考虑今后从事人工智能,但那时我并不真的了解人工智能,只是觉得这个方向蛮有意思的。真正的人工智能研究生涯开始于硕士求学期间,当时我主要跟随导师课题组的方向,研究知识工程,这是符号主义人工智能的一个分支。


图片


后来我去美国读博,我导师给了我足够的选题自由,于是我真正开始考虑一个长期的研究目标。我的想法是希望所研究的东西在人工智能很多方向上都能够用的上,而不是局限于某一个小的角落里。于是我花了一两年的时间去探索各个方向,最后选择了研究文法(grammar)。大家可能以为文法只是与语言相关,但实际上文法可以看成是一种建模复杂结构的方法,它不光可以应用到语言上,也可以用于图像、视频、动作或者其他类型的数据上。当然,语言上的文法是最基础的,因此博士期间,我专注于研究自然语言处理领域的文法学习。


博士毕业之后,我在加州大学洛杉矶分校(UCLA)从事博后,但却转向了计算机视觉。这是因为我按照最初规划的长期目标,希望把博士期间所研究的语言文法技术扩展到视觉等其他人工智能领域。在加入上科大之后的前两年,我也主要是继续在这个方向探索。


但是,从2012年开始的深度学习革命对我原先的研究路线产生了很大冲击。在一番思考之后,我决定又回到了自然语言处理领域,在这个文法的起源领域,探索文法和深度学习的结合。这是我过去七八年的一个主要研究方向,也和我的学生们一起取得了不少有趣的成果。没有料想到的是,自然语言处理领域在这段时间里变革不断,从Transformer到预训练大模型,可以说引领了人工智能近几年的潮流。在这个背景下,我也在不断调整我的研究重点,但依然还是围绕最初的目标,即使用文法或是更新的技术手段,建模和利用数据背后的复杂结构,从语言领域出发,希望最终能拓展到其他各个领域。




Chapter 2




“科研就是‘research’,所谓‘re’加上‘search’,就是不断地探索”。






Q:您能否分享一些您在科研过程中所遇到的一些印象深刻的事件,比如说有没有哪些瞬间您感觉到灵感迸发,或者是在哪个阶段您取得了振奋人心的突破性成果?


A:在我读博期间,有一天晚上我入睡前照例在盘点当天所思考的研究,就在半梦半醒之间突然脑海里浮现出一个idea,然后一下子兴奋地清醒过来,当即起床开始推导,很快发现这个idea是可行的。基于这个idea的研究论文最终发表在一个顶级国际会议,这是我个人比较得意的成果之一,也是我印象最深的一个灵感迸发的时刻吧。


图片


Q:其实在科研道路上,我们不可避免地会遇到很多阻力。您能够分享一些应对阻力的经历吗?


A:确实,科研肯定不是一帆风顺的。所以我常跟我的学生讲,科研就是‘research’,所谓‘re’加上‘search’,就是不断地探索。我个人的科研其实也是碰到过很多困难。在我博士期间,曾经花了近一年的时间去钻研一个很复杂的技术路线,做了各种各样的尝试,最后都失败了,最终导致几乎一年都没有任何进展。但好在最后转变了思路,放弃了钻牛角尖(现在看来那个路线的确是不可行的),转向其他技术路线,很快就有了很多进展,从而能够顺利博士毕业。






Chapter 3




“ChatGPT的出现是风险,也是机遇”。






Q:面对“孔乙己脱下长衫”这个话题,您认为AI技术不断突破与工作岗位减少导致就业困难之间的矛盾该如何走向?


A:ChatGPT这类人工智能大模型的出现是有可能会取代或是减少一些工作岗位,譬如听说AI绘画已经导致了一些企业缩减美术相关从业人员的队伍,长期来看确实会对就业市场产生巨大的影响。但一方面,这种变化和影响仍处于开端,还有时间供各个层面考虑缓解负面影响的办法。另一方面,参考前几次工业革命,譬如蒸汽纺织机的出现会使大量纺织工人失业,但同时通过极大地提升生产力又催生了许多新的职业,会去吸收多余的劳动力。也许这次革命也会出现许多我们意想不到的新的职位。因此,ChatGPT的出现是风险也是机遇。


图片


Q:您认为上科大的同学们如何在这波浪潮下去做弄潮儿?


A:自ChatGPT发行四个月以来,仍然存在许多的不确定性。我对同学们的建议是:一方面要打好基础,对于有志于信息科技发展方向的同学,要打好扎实的数学、编程等功底,为应对将来技术发展的各种可能性做好准备;另一方面也要拥抱新的技术、新的工具。拿编程来说,首先要有独立的不使用辅助工具的编程基础能力,在此基础之上也要学会现在这些基于大模型的辅助编程技术。这类比于小学生学算数时不应该使用计算器,但完全掌握算术之后可以使用计算器提升工作效率。



KEEP MOVING


#4

彩蛋环节


Q1:您面试研究生的时候,最看重研究生的哪些品质?


A:我比较看重学生的数学和计算机基础,但学生表现出足够强的主动性可能比基础更加重要。至于科研经历,这对于本科生是一个比较高的要求,因此我不会有硬性要求。

 

Q2:您对于研究生有什么样的要求?


A:我希望硕士生至少能够完成一到两个完整的科研项目,包含方法推导、代码实现、实验分析,再回头改进方法,形成完整的闭环,最终得到成果;对于博士生,在硕士的基础上至少完成三个科研项目或更多,并且各个项目能够形成有机的整体,综合形成一篇完整的博士论文,最终这位学生在博士毕业的时候对于自己选择的方向应该是全世界最了解这个方向的专家之一。

 

Q3:您认为如何培养科研创新性呢?


A:首先要有扎实的基础,对所研究的领域有深入的理解,来支持产生可行的想法。可以多看文献,了解别人提出的想法或技巧,有时候触类旁通,可以将这些想法和技巧应用到新的地方。科技发展中,完全产生一个开创式的想法是非常罕见且困难的,但是实现相对小的创新也是有益的。另外,大家在看文献的过程中也可以多思考一下,换了我会怎么做,以及别人是怎样想到这个想法的。

 

Q4:在我们收集到的问题中,有一位同学表达了对您的仰慕之情。他非常希望能够成为一名像您一样的老师,所以他决定先从助教入手。请问您觉得达到怎样的要求可以称得上是一名优秀的助教?


 A:优秀的助教首先当然要对课程内容有很好的理解。所以我一般招助教的时候,都希望他这门课程应该是A或者A+。在此基础之上,助教应该有足够的耐心和沟通能力,需要认真负责。


探寻SIST教授的故事将不定期更新,如果你有感兴趣的教授,有想要咨询的问题,请通过下方链接/点击文末“阅读原文”向我们留言!

链接:

https://www.wjx.cn/vm/tUtrIX8.aspx#




图片