【学习笔记】RSI 是 NeoLab 的机会、教授与夜店男模、灭火器还是砖头:谷雨的 10 个 AI Aha Moments

28 min

上一篇整理了《十字路口》年终复盘第一期庄明浩的 10 个 Aha Moments,这一篇是同系列第二期——《RSI 可能是 NeoLab 的机会、PA 真的有用、创业要造灭火器还是砖头?|对话谷雨》(全长 41 分钟,小宇宙链接,系列导读)。素材同样是节目音频的全文机器转录,专有名词按公开信息与官方文字稿做了校正。

先介绍嘉宾。谷雨是 NeoCognition 的联合创始人,31 岁,INTP,天蝎座;南京大学本科硕士、俄亥俄州立大学计算机博士,曾在微软研究院实习做语言智能体方向,也是播客 Ungrounded 的联合发起人。NeoCognition 是一家硅谷 AI 研究实验室,做 Continual Learning(持续学习)方向的自主学习 AI 智能体,2026 年 4 月走出隐秘研发阶段,官宣 4000 万美元种子轮(Cambium Capital 与 Walden Catalyst 领投),CEO 是俄亥俄州立大学教授苏煜(Yu Su);目前团队 17 个全职加 4 个实习生,很快开始 A 轮。节目里他一句话介绍公司:「我们做 Continual Learning、NeoLab」。他所在的 OSU NLP 组还是 benchmark 名门:多模态必测的 MMMU、2023 年 5 月发布的 Mind2Web(LM 时代最早的 computer use / web agent benchmark)以及与清华合作的 AgentBench 都出自这个组。

Koji 的开场点评是:谷雨提前发来的 10 个 Aha Moments 和多数人的都很不一样。听完会发现,前四个全是「模型的快速进化颠覆了我自己之前的判断」,后六个则关于随之松动的世界——学术体系、社会地位、创业环境。整期的题眼可以浓缩成他自己的一句话:aha moment 的意思就是你感到惊讶——你原来的认知被改变了。

一、RSI:大厂的创新者窘境,反而成了 NeoLab 的机会(01:13)

第一个瞬间就是大型打脸现场。上个月谷雨还在说「我搞不懂为什么会有创业公司做 RSI 这件事」,最近发现确实被打脸了:Recursive 跟 Mirendil 的发布给了他很大惊喜——创业公司做 RSI 真的有一条逻辑。

他原来的逻辑很粗暴:第一,做 RSI 本质是模型叙事,要追最前沿的模型厂——别说新的创业公司,除了 OpenAI 和 Anthropic,其他模型厂这么长时间还在后面赶呢;第二,要 recursive 得先有起点,起点是自己的模型。两条加起来,创业公司做 RSI 不靠谱。但 Mirendil 一个人搞三个多月,训出的 pre-training model 比 Kimi K3 还要强,实在刷新认知。

为什么现在成立了?他的解释是大家渐渐达成的共识:AI 的研发能力越来越强,你可以想象最后有一天,AI 写 training infra、写 training recipe 的能力会超过人——当这一天到来的时候,大的模型公司之前积累下来的 infra 和 recipe 反而可能成为一种累赘。他举了一个特别具体的例子:他在国内某家模型厂的朋友说,大家都知道 OpenAI 的 Score Centering 有用,用了可能提一两个点,但要把它适配进自家 infra 的代价太大,所以不愿意做。而对一个从零开始的创业公司来说没有这种负担:反正都是 AI 去搜一套新的 recipe、搞一套新的 infra,随时可以迭代它、随时可以丢掉它。Koji 总结:正因为一切还在不断变化,infra、SOP、团队组织一旦成型就难调整,NeoLab 反而有更大的加速度——当然前提是融到钱(走模型叙事、做 full stack 的模型训练需要大量资源,Recursive 跟 Mirendil 确实拿了很多钱)。除了这两家,他还看好 Jeff Dean 的 Discovery Loop,国内也出现了一些,可以再观察观察。

二、Computer Use:Opus 5.5 一升级,我们几个月的活白干了(04:28)

第二个瞬间来自自家业务:团队在做 computer use agent,今年发现computer use 这个事情快解决了——它真的泛化了。去年大家聊 computer use,最大的问题是泛化性和可靠性;从去年年底到今年年初,操作层面的问题基本解决完了,很大一个原因是 coding 的训练规模上去了,泛化到了软件操作和网页操作。下一个待解决的是 cognitive level(认知层面):模型往往知道该怎么处理之后操作完全能做对,难的是不知道一个事情该怎么处理——比如每家公司内部都有一套自己的业务流程、convention、审批链路。

这个瞬间之所以 aha,是因为公司刚成立时花了几个月就想解决操作层的 reliability 问题(做一次对、做一次错),当时的方案是让它做几次、把做对的挑出来封装成 reusable skill,专门搭了一套 pipeline——现在完全不需要了:让 Opus 5.5 自己实现一下这个流程很快,还会在过程中自己纠错。Opus 5.5 一升级,我们几个月的活白干了。

顺着这段聊了他们刚发布的 ApprenticeBench:市面上没有一个现成的 benchmark 能很好地评估「agent/模型部署到生产环境之后怎么持续迭代自己」,所以他们自己定义了一个。场景非常垂直——建筑行业的会计报账,100 道题,每道题背后是不同的公司规则、workflow 和审批流程;最特别的设计是这 100 个任务不是独立的,要一个接一个 in a stream 连着做完:做前面题目得到的反馈和知识,是做后面题目的前提——它评估的是一个边干边学的持续学习过程。这也是他们对 long-horizon 的看法:现在的 long-horizon benchmark 都有个 bias——找一堆特别难、一个 agent 要做半天的任务,既难找又难 scale up;而他个人认为 long-horizon 的终局是 lifelong intelligence——真正的 long-horizon 不是会计报一个星期的账,而是一个菜鸟员工变成公司老员工的那几个月、一两年,这种任务 scale up 起来才能到达终身智能。目前第一版最强的模型能做到近 80 分(榜单上当前第一名 Fable 5.1 是 72%,API 榜最高 70%),提分的关键维度就是 continual learning。至于刷分:题目没公开,没法对着刷;而且就算把这家虚构公司的会计规则背下来也没意义——他们测的是 meta level 的能力(持续学习),你真把 meta level 刷上去了,「也算积德了」。

三、为什么 Scaling Law 永远值得你相信(13:10)

第三个瞬间关于数学。前沿数学问题被 OpenAI 一个接一个解决:2024 年的时候大家(包括他自己)觉得数学能做成,是因为有 formal verification、有 Lean 这种形式化系统给你信号;结果去年光靠 informal 的方式就拿了 IMO 金牌,已经很 aha;没想到今年更进一步放大了 50 倍、100 倍,前沿问题基本都能用 informal 方式解决。两年前大家觉得没有形式化系统的信号、让 LLM 嫁接自己有点「左脚踩右脚」,上限不会太高——现在看还是认知不足,还是某种 bitter lesson:我们还是应该相信 scaling 可以解决更多的问题。

Koji 说很多做数学的人因此陷入了虚无主义——本来是实际上最聪明的一群人,做的是世界上对智力要求最高的一件事,结果智力突然变得不重要了。谷雨很能理解,但他更认同另一个说法:解决问题本身的目的不是解决问题,而是在解决过程中探索到的方法和积累的 know-how 比结果更重要——就像运动员追求身体极限,你也没有机器快,但这本身对人有意义。数学后面 maybe 会像棋类运动一样,成为人自己去挑战自己智力极限的活动。这段的轻松注脚是谷雨最近发现的神奇业态「拼豆自习室」:一个大自习室里每人一个小隔间,面前放着几百种颜色的拼豆素材和图纸,按小时收费,大家付费去劳作,画面很像一个安静的工厂——「这个模式不错,我们公司可以引进,拿付费来上班」。

四、Continual Learning:我公开说过 Memory Notes 不行——被打脸了(16:18)

第四个瞬间最尴尬也最诚实。今年上半年谷雨还在到处 talk,说用写 memory notes 的方式做 continual learning 肯定不靠谱——通过 rewrite memory notes 并不是一个 reliable 的 optimization algorithm,所以它就是不行。结果发现 scaling 下来、训练上去,它还是能行。和 computer use 到临界点一样,基于 memory notes 做 continual learning 的上限被低估了。他维持的技术判断是:它确实还不是一个可靠的优化算法,之前很大的问题是写 memory notes 被模型自身的能力 bottleneck 住了,现在模型越来越强,这个上限可能相当可观。但他要声明:so far 真正在这方面强的只有 Anthropic 和 OpenAI,其他家做的都不行。前四个瞬间连起来的教训是一致的:今年感觉还是要更加相信模型的 scaling——而且迭代更快了。

五、学术会议体系快要坍塌了,然后呢(17:55)

第五个瞬间不太「好」:从 2023 年就有这个趋势,到 2026 年他真的发现临界点到了——评价体系、投稿系统、会议系统彻底崩塌了。拿他自己举例:已经一年半没投过任何一篇论文(不想投,优先级不高),半年多没审过稿、没当过 AC——「感觉对我的时间并不是很尊重」。当 AC 一个 batch 16 篇文章,真正拿得出手的可能就一两篇;大量 AI slop 灌水之下,数论文已经完全没有任何相关性了。他们招人也不看论文了:更多看聊——问一个人做过的事情、看他对你们正在做的事情的理解,再加一场 research presentation,「presentation 很体现一个人的综合能力:逻辑表达、QA 时候的反应、对问题的理解」。

那什么体系会重建起来?他觉得学入方面最好的评估是真正的同行评议——不是现在这种没有门槛、谁都能当审稿人的评议,而是像美国院校招人那样:candidate 来给 job talk,院系里有 taste 的 senior 教授们给意见来判断这个人本身怎么样。但体系的建立肯定有滞后性,中美学术圈现在都还在按惯性走,导致的结果就是进大学当教职的优先级越来越靠后(尤其对 AI 方向的人)——原因很现实:机会跟钱。AI PhD 去 Frontier Lab 或者 NeoLab、Star Lab 可以赚很多钱,在学校待遇差很多、资源少很多,很多事情做不了,同时还叠加评价体系的问题。

六、大学教授与夜店男模:十年后,谁的社会地位更高(21:37)

第六个瞬间是全期传播度最高的一句玩笑——Koji 追问这是夸张还是真实观点,谷雨说:我真的这么觉得。逻辑是:当你的智力不再稀缺,可能你的长相跟身材更值钱。人类智力领先于世界并不是很长的事:人类历史上大部分时间,尤其是进入现代文明之前,体力都是更值钱的;机械时代到来后强壮变得不那么重要,数字世界时代脑力变得重要;而 AI 就是数字世界的机械,它来了,脑力就不那么值钱了——那有可能会有些新的东西值钱,比如情绪价值,短期内机器很难取代。配套新闻:现在全世界卖得最好的两种减肥药的收入,大于这些模型公司的收入。

如果现在一个 PhD 过来问还值不值得念,谷雨的回答是「我不给建议,自己开心就好——我又不知道你追求什么」;那什么样的人今天还适合读 PhD?「想读就可以,不需要非常多理性的论证。想做一件事去做,就是一种理性。」顺着这个话头他讲了自己的创业动机,三条都挺纯粹:第一,他一路读计算机但从头到尾没有过大厂的想法(原话:「我这辈子没有一秒钟想过去大厂」),因为不喜欢固定的上班作息,需要灵活性,不需要工作跟周末的边界;第二,创业对做的事情的方向有更大的 ownership,可以做想做的事而不是完成别人给的使命——「我很难为别人工作」;第三,他对风险没有任何概念,想做就行,不计代价。家庭也给了安全感:父母对他没有世俗层面的要求,人生节点、什么时候结婚,这些都没有。

七、创业做 NeoLab:火烧起来的时候,该造灭火器还是先卖砖头(25:34)

第七个瞬间是创业快一年的自我反省。他们整个团队在导师苏煜老师带领下,在学校时口碑很好,很大程度上是因为大家觉得这个组的 vision 和 taste 不错:学术界典型的问题是「拿锤子找钉子」——先想一个算法再找问题套上去写篇 paper——而他们从来是从 fundamental 的技术问题本身出发,这也是为什么这个组在 LM agent 时代做了一系列开创性工作。但放到创业上他发现:我们成了那个拿锤子找钉子的人,所谓 SISP(solutions in search of problems)。原因是做学术研究只要在一套技术体系内闭环、自洽就行;但做 startup 光自洽不行,光自洽是自娱自乐,你需要和 market 一起闭环——continual learning 确实是 AI 的 fundamental problem,但把它放到市场里、放到产品里,应该是什么形态、解决别人什么问题、带来什么 business value?这是过去一年交的学费。他自己的总结很妙:「说的跟没说一样,但自己做的时候才发现纸上得来终觉浅——一旦进入做事状态,你可能会局限在自己的 bias 里跳不出来。」

YC 有个理论帮他把这事讲透了:当一个人头上着火了,他不会等你给他造一个灭火器——他手头有个砖头,就先把火拍灭了。学术团队做事 solid,一直想着要造一个好的灭火器,但可能灭火器造出来之前,卖砖头的已经卖了 100 个。具体到业务上:他们对发布的标准太高,总想 release 一个自己特别满意、特别 solid 的东西;但站在公司层面,有时就该先发布不那么成熟的东西,先把闭环跑起来,甚至先把牛吹出去都行——「我们这方面太本分了」。做得最好的人是谁?马斯克,硅谷 fake it till you make it 的极致。

顺带聊了「高中毕业不读本科直接工作」的趋势:他觉得合理——在教育资源丰富的地方,高中就能去做真正有价值的事情;但他也承认这不会大众化,对教育和环境的要求太高了。

八、教授和 PhD 们创业,怎么成了随大流的事(30:44)

第八个瞬间关于创业环境:过去很长一段时间,创业是非主流路径,是想法和大家不太一样的人才会走的路;但过去一年他频繁听到身边人说「大家都创业,我周围都创业,我也想去创业」——什么时候创业成了一个随大流的事情?原因还是趋利,钱是真的多,投的实在太多了。他今年六月才知道国内会投这么多钱:硅谷一个 agent startup 拿 4000 万美元种子轮已经算挺大(最常见的种子轮就是 500 万、1000 万美元),过去国内很厉害的老师创业也就拿这个数;但今年上半年国内一些所谓 new lab,直接就是 20 亿美金估值起步,对他来说非常非常震惊——他猜可能因为房地产的钱没了去处,这个科技老师看得更清楚。他的态度是:鼓励创业创新 in general 对社会是好事,让掌握最前沿技术、最有想法的一群年轻人没有压力地拿到足够多的资本去尝试,肯定也是好事——而且大家多数不签回购、不对赌(他自己也不会签),所以压力不是个人财务上的,是「我会不会浪费几年时间」的压力。

九、AI 电影:我居然在 B 站看入迷了,忘了它是 AI 拍的(32:47)

第九个瞬间是最近几个月视频生成达到了他之前没想到的高度:真的能做一段两个小时左右、前后非常一致的电影。他前阵子在 B 站看一个叫龙小胖的 up 主做的香港僵尸片——他小时候很喜欢林正英,而林正英去世比较早,这个视频相当于把他「搬回来」拍了一部新的僵尸片,两个多小时,人脸、情节、衣着从头到尾完全一致,七八个角色都不带变的。要知道大半年前做一段几分钟的 AI 视频,人的脸都在不断变。现在你是可以沉浸式把它当故事、当电影看的——「我是真的把它当电影看」。更妙的是弹幕都在讨论剧情:B 站会标注 AI 创作,大家都知道是 AI 做的,可是大家不 care 它是不是 AI 做的,大家 care 的是这个电影拍得怎么样。大家最终在乎的是 deliverable 长什么样,而不是它怎么产生的。这个时代真的很利好创作者——像 Alex Wang 说的,人人都可以把自己想做的东西做出来。

这段还有两个彩蛋。一个是 Koji 的好朋友前两天写了部科幻小说,idea 是他的、写作 AI 帮了大忙,主题相当悲伤:未来算力越来越贵、人已永生,想获得更多算力来享受生活,只能用记忆去换——因为记忆是数据,模型的进化仍然需要吃掉更多人的记忆数据(谷雨顺手植入了:「关于怎么更好地做记忆,可以关注苏煜老师组后续的工作」)。另一个是行情价:去年拍 AI 短剧的朋友,60 分钟的剧本报价 7 万人民币;现在 AI 一天能写 100 个。所以又绕回那个问题——人类智力值钱这件事本来也不是很长久的事,那 AI 时代什么会变得值钱?谷雨给了一个非常粗暴的结论:未来人只需要两件事,一个是审美(决定正确的方向、前进的路线在哪),还有一个是美(情绪价值)。

十、你可别说,Personal Agent 还真的挺有用(36:25)

最后一个瞬间:Personal Agent 突然起来了。谷雨强调这不是技术真的到了什么临界点——当然和 coding 更强、computer use 能在后台操作软件网页有关系,但更多的还是产品设计上的两个关键设计。第一,要真的做成 personal assistant,就不能是 ChatGPT、Claude 那种 session-based 的会话管理——不能跟助手说一件事开一个窗口、再说一件事再开一个窗口,而要有一个 persistent 的单独会话,从头到尾,像在微信上跟人聊天一样,每个对象一个窗口——这样才有「人」的感觉(Muse 就是这样一个单独的会话)。第二,要让它更有人的感觉——这就是为什么这些产品都要搞卡通形象,比如 Muse 那个毛绒形象做各种各样的 PR,一定程度的拟人化。至于大家常说的 proactiveness,他觉得很早就不是什么新技术了:OpenClaw 一出来就有这个 feature,ChatGPT、Claude 的 schedule task 一样能做到定时看邮件给推送——本质还是产品跟交互体验。

他自己在用 Muse 和 Instinct 两个,分工其实都是帮看邮件、看消息——国内的服务平台连不上,外卖、订酒店机票这些都不太好用,所以主要就是看邮件。而看邮件这个事还真挺关键:邮件很多,它真的能帮你挑出需要 prioritize 的重点推送给你。最终会不会收敛到只用一个?会——现在装两个很大程度上只是尝鲜,当生活中真的形成依赖之后,一个就够了。

尾声:明年会发生什么

按惯例预测明年。一定会发生的事,谷雨先开了个玩笑:「我们公司被高价收购了。」然后是认真的:明年我会再老一岁——AI 不能让时光倒流。他给了一个对职业规划很有参考意义的框架:每一年都有一个关键词——2024 到 2025 年是 language model、VL、multimodal;2025 年底到 2026 年是 coding;2026 年到明年,得做 Continual Learning。最后一个他强调是预测、不是一定会发生:可能明年真的会有一个来自 RSI 创业公司的最强模型——至少是前沿的、SOTA 级别的模型。我们拭目以待。

下一篇是系列第三期:SGLang 核心贡献者、RadixArk 创始成员赵晨阳的 10 个 Aha Moments——用 Kimi 加速 Kimi、评估是 RSI 的核心,以及从《大明王朝 1566》里读出的权责对等。