NeurIPS 2025 之旅的一些随想
引言
我的 NeurIPS 之旅是我人生中的第一次学术会议之行,一段我永难忘怀的经历。这是我生平第一次感到与学术界如此紧密相连。那些研究者不再只是论文上的名字,而是拥有鲜活灵魂的人。
这一点在海报展示环节尤为明显。我不再只是阅读论文(其中充满了为发表而做的掩饰和选择性呈现,而非传达真正的技术洞见),而是能够与作者面对面交流,并即时获得我问题的答案。会议上的这些交流更为真诚,因为大家的论文都已获接收,不再需要掩饰。
这令人振奋,我必须将其记录成一篇博客。
AI 领域的谱系
当前 AI 的研究是如此丰富。它可以被描绘成一个谱系,两端分别是:应用 AI 和理论 AI。有些工作之间的差异如此之大,以至于它们仿佛是不同领域的研究。
在应用 AI 这一端,大部分论文聚焦于大语言模型、强化学习和智能体,通常是三者结合。另一个热门主题是具身的、真实世界的场景应用,如自动驾驶或机器人学。此外,还有将上述技术应用于更具体场景的研究,比如将大语言模型用于编码、数学,或从社会公平的角度进行应用。
在理论 AI 这一端,出乎我意料的是,同样有很强的代表性。这里的论文是纯粹理论性的,充斥着令人眼花缭乱的数学公式,专注于边界、优化、泛化能力、分布偏移和统计机器学习。
当然,还有大量研究位于这两端之间。我会将事后解释和神经人工智能归入谱系的这一部分。研究在谱系上的位置通常由其实验规模决定。有些研究使用少于5层的玩具模型,那么他们会更侧重于理论洞见,因此被归类到更靠近理论端的位置。有些研究则使用大语言模型,解释大语言模型和大表示模型的部分行为,这会更偏向应用端。
牢记我的目标
这种清晰的认识转化为两个承诺:
-
从微观视角,我必须保持精力充沛和高效,并保持良好的工作与生活平衡。我的健康和持续的创造力是一切的基础。
-
从宏观视角,我必须牢记,我想推动人类知识的进步,哪怕是最微小的一步。这绝非易事。发表论文是不够的。我试图不愤世嫉俗,但当前 ICLR 论文反驳环节的闹剧证明,噪音过多的论文和评审并非个例。论文只是工作的广告,并且仅当你没有更好的能力证明时,它才是一种凭证。 但如果工作本身空洞无物,又有何意义呢?
因此,虽然我的游戏规则仍以论文为中心,但我的视野必须更高远。目标是洞见的品质,而非论文的数量。我将参与必要的游戏,但不会把游戏误认为目标。
所以我告诉自己,切勿迷失。
保持前瞻
我需要保持前瞻性,关注最新的论文和工作。这意味着要有意识地留出时间阅读论文,不仅是前沿工作,也包括多年前发表的其他有价值的工作。
广泛探索,明智利用。 站在巨人的肩膀上。
放下自我,携手合作
这一点来自 Yejin Choi 的特邀演讲,瞬间击中了我。当前学术界的结构存在问题。我们很大程度上仍在以封建式的生产关系运作——小实验室和个体导师制。这有利有弊,但从生产力角度看,这是一种限制。论文通常以少于10位作者发表,第一作者承担大部分工作。这导致了学术研究的原子化,研究者之间缺乏沟通与合作。
这就像用蒙特卡洛树搜索训练一个象棋引擎:如果我们只是独立地随机探索所有可能的走法,智能体学习得极其缓慢。我们需要一种方法来汇集我们的努力,将集体的时间和精力集中在最有希望的方向上,而这几乎总是更有回报的。
尽管如此,这仍然是一个乌托邦式的愿景。在学术界形成大规模、普遍的合作从根本上来说是不可能的。但在工业界,这并非不可能,甚至正在发生。观察在商业可行的领域,工业界的模式是否会完全超越学术界,将会很有趣。
关于我的雄心
从人生哲学的角度看,我们最终需要的是“快乐”。唯一的不同在于我们如何获得快乐。许多人会赞扬那些说“我只想过平凡、宁静生活”的人,因为这似乎是一种通向幸福生活的、具备美德的道路。在这次会议之前,我也将自己归为此类。
但是,我扪心自问,这真的是我想要的吗?我真的没有梦想过成为一名被邀请在 NeurIPS 发表演讲的科学家吗?我真的没有梦想过让自己的工作脱颖而出并为社区做出贡献吗?我真的没有梦想过与杰出的人们共事,做一些改变游戏规则的事情吗?
不。我有这样的梦想。但在学校里,这梦想离我如此遥远。我必须应付无意义的文书工作和作业,迷失在琐事之中,雄心壮志被慢慢侵蚀。欺骗自己很容易,扮演一个不渴望那些高度的人。
但是,通过这次旅程,我感受到了我内心的梦想。现在,我必须面对它。