
在手机上保存,获得更好体验
本字幕由TME AI技术生成
嗯
Ai
Hello
大家好
我是小俊
我们此前访谈过谢赛宁
洪乐彤
他们分别是来自于欧洲和美国的new lab
但是今天的这个现象已经不止于海外
二零二六年
中国也涌现了一批新型实验室
这些有研究背景的老师或者学生正在成为一级市场的新宠儿
他们普遍很年轻
有名校科研背景
第一次创业在还没有产品的时候就能以估值数亿美金融资
当下资本涌入最活跃的方向是世界模型和auto research
Auto research 就可以叫做af ai
哎呀
我很好奇这个现象的现实与成因
那这期节目呢
我邀请了清华大学人工智能学院助理教授
上海七智研究院pi 刘子明
他毕业于北大和mit
是看网络的一作
在今年三月份刚刚回国到清华任教
同时参与创建公司圆环智能
他用太疯狂了来形容这股新的资本潮
我们聊了聊中美new laabse 的兴起与成因
以及他所探索的一条非典型的ai for ai 叙事
那接下来就是我对刘子明的访谈
对
我是三月份回的国
然后大概是四月底入职的清华啊
然后五月底开始参与融资
然后这个过程我的体感是就太疯狂了
怎么说
但
但反正不管是af science 还是世界模型
还是这个af ai
我觉得都是一个就一级市场
是一个非常formal 的一个状态
确实就是说大家都在这个相互打探消息
然后大家都投项目的动作就做的非常的快
Hello 子明
先给听众朋友们打个招呼吧
嗯 Hello
大家好
能不能先做一个简单的自我介绍
聊聊你的工作和你现在的一些状态
嗯 好的 好的 对
首先感谢小金的邀请啊
然后我是
呃 刘子明
现在我是清华大学人工智能学院的助理教授
同时呢
这个我们节目录制也是在这个上海汽车研究院
也是在上海汽车研究院担任这个建筑pi
然后同时也是参与到了创业当中来
然后在圆环智人担任这个首席科学家
然后我之前的经历呢
本科是在北大物理学院读的本科
然后后面去了mit
接着是做这个ai 和物理的交叉
之后短暂的在斯坦福做了半年的这个脑科学家
Ai 嗯
然后我博士的导师
比较学家
这这个max techmark 他是从二零一二年就开始去宣传这个af physics
然后包括二二年底二十年初
他也是最早的这个宣传这个mechanistic interpret ability
就这个机制科解释性啊
这个最近也是这个唐杰老师说要制服要投资百亿的这样的一个方向
也是anphopic 在做的方向
对
这个我们是二二年底二三年初就开始布局这样的一个事情
对
你是怎么从物理走到ai 的
我觉得很多
包括尧舜禹是吧
我觉得很多做物理的人都会有这样的一个经历
就一开始做物理是觉得啊
物理它是一个很美的
在智力上非常challenging
就是非常困难的一个事情
所以就被物理这个学科所吸引啊
但是后面慢慢的就感觉这好像不是的
Parties over
就 就是啊
这个也是高能你们经常说的一句话
就是说盛
盛宴已过啊
就是感觉就是给年轻人留下的那些问题其实没有那么多了
但是ai 呢
它是一个相反
反一个给我们这些些的人有非常多机会的领域
嗯 啊
然后我大概是
呃 具体来说
我是大二那那会儿
应该是一七年
我就是关注到了这个干网络
就是那个generity adversial network 生成对抗网络啊
那个时候我就觉得哇
这个东西特别重我的兴奋点
而且它好像在数学上也没有那么难
他做的东西就非常的fancy
然后那个时候正好被理论物理和实验物理双重毒打
那个时候就不知道自己要做什么
因为理论物理又非常的困难
也比不过尧舜禹
对 尧舜舜 拜德
Way
就是也是我们一直以来的一个偶像吧
因为在本科期间他就发了两篇这个prl 的论文
你们是一级吗
啊
他比我大一些
我在
我在本来是在清华
对对对对
是的是的
所以一直就是听
听说他的传说
然后实验物理那边我也在想
Ok
那我理论做不行
那我去做做实验
然后发现实验做起来就更差
就有点像那个
我不知道奥维海默还有杨振宁
好吧
我少在这里给自己贴金了
就是我感觉到就是我进了实验室只会把这个事情变得更加的混乱
就我其实也参加过一些实验物理的一些科研
比如说之前做过一个磁流体
结果搞得满手和满脸都是
然后后来我就觉得
哦
那我好像也不太适合做实验
所以那个时候就是比较沮丧嘛
就感觉理论物理跟实验物理都不是我所擅长的
那接下来我要干什么
然后正好那个时候就结到我干这样的一个东西
我就觉得哦
那这个东西非常重我的兴奋点
那我要开始做它
对
但可能一开始还是比较谨慎一点
就是觉得啊
我不想轻易的放弃自己的物理的这个背景
所以呢
一开始我们还是这个做ai for physics 比较多啊
一开始这个for physics 主要做的是这个高能维像
嗯
就是high energy phenomenology
这个其实和我们现在的一些研究physics of ai
就是所谓的ai 的物理学这个方法论其实是有挺多相似之处的
它既不是完全的理论
它也不是完全的实验
它是一种为象
它是一种能够嫁接理论跟实验的这样一种桥梁
Ai for fixes 的本体就是你服务对象是physics
但是你physs of ai 的服务对象是服务对象是aiok
对 是的
这个也是后面为什么从一七年做到二二年
我做的都是ai for physics
其实那个时候我们就已经开始在谈ai 科学家
Ai 物理学家这样的一些概念
嗯
但是也是到了二二年的这个时间点
就是恰tgpt 出来了
我是觉得物理里面没有那么多像chat gp 一样那么sexy 的东西可以值得去做对吧
所以我就把这个ai 跟物理的这个角色给它换了一个位置
就是不再是这个ai for physics
而是physics for ai
更具体的就是physics off ai
这个ai 的物理学就是我要用这种物理学的这种方法论
用物理学的这种思想去帮助我们更好的去理解ai 和设计ai
所以你本科就已经开始接触一些ai 的内容
你做了吗 Ai
对
本科就开始做ai
就是我的第一个项目就是拿干网络去做高能物理里面的一个任务
但是和很多人一样
第一个项目就是很显然是不成功的
但是呢
就是在这个过程中我自学了很多ai 的东西
然后在这个过程中慢慢的就觉得就还是学习ai 能够给我带来的这种愉悦吧
给我带来的这种成就感是比物理要多很多的
所以我就学着
学着学着我就慢慢的就是
就是说我基本上所有的时间都投在ai 上面了
所以你到本科中毕业的时候是一个什么状态
我本科毕业的时候状态
那个时候我是发表了三篇就是ai for physics 的文章啊
有两篇是就是和高能物理相关的
然后还有一篇是可能算是physics for ai 吧
就是我们用量子里面的一些想法去设计了一个带来的一个海样的一个东西
一个exampler 啊
一个优化器
所以那个时候的状态我觉得还是偏物理这边的
包括后面去深请这个博士
Mitmit
对
现在也是物理的这个项目
但是max 他就是不拘一格降人才吧
就是说可能整个mit 物理系除了他
可能还有marry subgestion 啊
就是另一个做光学的一个老师
但是也是af 光学的一个老师
他们两个是非常好的好哥们儿
可能整个mit 那个时候是二零年
Alphhasize 还是一个有点过于遥远的概念
我记得我当时申请博士
就是我在我的这个研究计划里面写的
就是说我接下来要做alphone physics
比如只有max 看到了我的材x 啊
然后他说我要招这个人啊
然后他就把我招进去了
嗯
他是因为喜欢你的研究方向招的你
他是喜欢我的研究方向
然后他也跟我说
就是他看我的个人网站也觉得非常的厉害
因为我当时就是在我个人网站上面画了一个类似于八卦图的一样的东西
我会去画我的这个
呃
Research interest
就我的这些研究兴趣他们是怎么样相互关联的
然后他就觉得说其实和他的思维模式非常像
就是max 也是一个就是思维有点发散的一个人
就是你跟他聊
可能我们就聊一个小时
可能会涉及到比如说五到十个topic
因为他是经济学的本科
然后后面他才是去做了物理
然后后来在二零一二年的时候
他就开始说ai 说physics 了
这个是一个非常非常早期非常非常超前的一个做法
我
我觉得都是因为他这个人的兴趣点也是非常的广泛
然后他能够就是看到不同事物之间的联系吧
这个他是比较典型的这种所谓的鸟人
这就是freeman dyson
他会把科学家分成这种鸟人和蛙人
鸟人就是说简单来说就是每个领域都懂一点
然后他能够看到不同领域之间的结构性相似
因此他们能够把一个领域的一些方法给搬运到另一个领域
鸟人的好处就是说他能够鸟瞰整片领域
然后他能够去集中精力
他主要的时间是花在去找到一些更high level 的一些更高层级的一些啊
比较和抽象上
但是挖人另一方面呢
就是说啊
他们会把一个领域做的非常的精细
那是研究的非常的深刻
那在这点上
我跟max 其实都是非常典型的鸟人
嗯嗯
哎 你是intj
我感觉intj
哦
P 人比较像你说的这种
呃
鸟人队发散性
对 他是
他是entp
对
Max xentp
然
然后我其也ttp 有点不分了吧
就是因为我感觉很多事情
不管是研究还是生活
其实很多事情不是自己所能控制的
所以渐渐的也就也变得更屁了一些吧
你在博士的研究探索上有一条主线吗
其实中间换过几次方向
就是在二二年之前就还是af physics 做这个ai 物理学家
嗯
然后二二年底恰的gb 机出来
然后max 说
Ok
我们怎么组都要换方向
我们从现在开始要来做机制可解释性
为什么呢
因为大语言模型太危险了
那我们要保证它的安全
我们就需要理解它
它内部是到底是怎么工作的
所以这个大概是啊
二三年
二四年ai 就是这两年我们主要是围绕的机制可解释性by the way 看
其实是我自己的一个side project
就是一开始max 还不同意我做这个项目
但是后面我大概做了两周
做出了一点初步的成果
然后他说 哦
这个东西还有点意思
那你就接着去干吧
为什么他开始不同意
这个是你只是一个很有影响力的看的
呃 看的网络
这个也是一个呼应
就是我是因为干入的这个ai
哦
然后我们后来二四年又提了这个看的网络
对
就是他为什么一开始不同意呢
他就甩了我一篇一九八九年的一篇论文啊
那篇论文是那个tomasso pogio 写的
Tomomasapogio 也是我们mit 的一个就是很有名的一个教授
然后今年应该是九十岁了
然后他在八九年的时候就写这个
这两位苏联科学家数学家commomograph 跟arnoal 的两个人提出的这个数学定理
他没有办法被变成真的算法
然后他们当时的一个说法就是说
他们就就是找到了一个worst case
就最坏的情况啊
这个最坏的情况里面呢
他们是没有办法找到这种严格的两层光滑的这种commoggraph arnoal 的表征啊
这个
这个听起来很冗长
反正就是前面加了一系列这个限制性的条件
我是 我呢
就是感觉作为物理出身的人吧
可能有的时候并不那么care
并不那么关心这个最坏的情况是什么样的
我关关心的是一般的情况
我们关心的是他能不能在某些场景有用
他能在某些场景有用
那它就是一个好的一个东西
对
这个可能跟另一个想法就是all models around
But summer 有所就就所有的模型都是错的
但是有些模型它是有用的
所以也就是这种想法
对 我就在想
那你数学上告诉我这个东西最坏情况不work
但是物理上我们要关心的东西都是有很漂亮的结构的
那这些东西其实它不是最坏的情况
就是我们人能生活在这个宇宙里面
我们这个宇宙就不是最坏的宇宙
我们就一定是一个还不错的宇宙
我
我们才能够演化出生命出来
我们才能够在这里问这个问题
我们到底是不是在这个最坏的宇宙里面
所以说就是基于这个
就是因为这样的一个乐观性
让我暂时的忽视掉了max 的这个警告
就是说一九八九年编制说这个东西不work
我就是花了两周的时间把这个原型给做出来了
然后我去找max 说
你看我
我把这个网络给训练出来了
但是max 呢
一开始还是不是很满意
他就是说
但是我并不知道你这个网络这个内部到底发生了什么呀
你还是造了一个黑盒子出来
这个也是这个机智可解释心知道他这还是个黑盒子
然后max 说
那你能不能想一下去我这个把这个网络给它做一个可视化
然后我就大概花了一周的时间
Bad way
那个时候我还是一个不相信coding agent 的人
当然那个时候coding a 现在确实也还没有现在这么厉害
所以那个时候这些代码就还是一一行一行手搓的
所以那个可视化还是花了我一周的时间
但现在可能一个小时就够了
对
就我花了一周的时间把那个可视化给做好了
然后把这个可视化做好了之后
Max 说 哇
This is awesome 啊
因为max 是一个超级的视觉动物
其实我也是
就是我一定要看到一个东西我才会相信它
我如果不看到一个东西
我就总觉得很难受
就是我脑子里有个图像
我没办法把它倒出来
我就会很难受
对
所以说我把这个看的这个结构图画出来之后
Max 就被说服了
他说 哇 这个
这个东西它太有趣了
我们居然能够看到这个网络他的脑子里面到底在想什么
而不仅仅是说他最后端到端
他的这个端到端的他的这个预测是什么
对
所以这个是通过这个方式就说服了max 吧
然后后面其实就是一个一些很正常的一些
呃
Research 的工作
对
但是确实早期
呃
我觉得还是蛮有意思的一段经历吧
你当时为什么想到要做can 的这个网络
对
我觉得这个也是是我一直以来的一个执念吧
就是我会觉得ai 和物理这两个学科的哲学差的太远了
就是ai 的哲学
至少我们现在的ai
它是一种基于连接主义的
它是一种神经的东西
但是物理呢
它是一种基于符号的东西
那我就会觉得两个东西不统一就很不好
就这个可能也是来自于就是受过物理训练之后
会有一种冲动
想要去系统化
想要去做统一的这样的一种冲动
所以呢
我其实很早就从二零二一年我就在思考这个问题
就是我怎么样构建一个网络
它同时是一个网络
它同时又是一个符号公式
这个其实有一点像玻璃二项性
就是我们量子物理中说的一个例子
它既是物理
它同时又是波
那我能不能构造一个网络
它同时是一个神经网络
同时它又是一个符号公式
然后就是基于这个探索
我就写出了这样的一个方程出来
其实我是事后我才知道
大概过了几天我才知道
我写出来这个方程其实就是一九五七年科mo graph 和arnote 写出来的那个方程
但是我是从另一个角度
我是从神经网络和符号公式玻璃二项性的这样的一个角度我写出来这个公式
然后我后知后就意识到
哦
这个东西一九五七年的两个数学家就已经经出出来
而且且们证证了了这个东西是有这种万能逼近定就
就相当于就给我们这个模型有了这个理论的背书
就是这样的一个表征
它能够表示任意的函数
啊 那
那这样一来的话
这个 对
就相当于是把我一直以来的这样的一个执念给它
就是给他close 掉的
嗯 对
在看之后的探索是怎么延续下去的呢
后面跟这个工作还有关系吗
对
就是看对我来说它更像是一个例子
一个什么样的例子呢
就是我人通过拍脑袋
我能够去设计出一个新的架构
我觉得我这个人思维模式有的时候有点偏抽象吧
或者有点偏high level
就是看成功之后
我想的不是说怎么样把看去应用到不同的场景
而是说我在想
嗯
我怎么样复现我能提出新架构这个事情
对
所以这也是导致了我后面这个physics of ai
就是对ai 的物理学的探索
就我觉得设计模型本身应该是一门科学
它不应该是像我们现在这样transformer 拍脑袋拍出来的
干拍脑袋拍出来的
Reass net 拍脑袋拍出来的
干拍脑袋拍出来的
那这个就非常的不scalable
就是我觉得我们不应该scale 就是compute 或者data
我们应该compute 这种ai 模型的设计
但是这个东西怎么去scale
那这个又是一个巨大的一个research 的问题
所以就是在看之后
其实我觉得它对我来说是一个出发点
就是我
我会更多的去思考一些meta science 层面的东西
某种意义上就是我是怎么样思考出来的
然后我想把我的思这个思考过程给蒸馏到一个模型当中去
嗯
所以就成了我的一个新的执念
这个也是我现在参与创业做的这个afai 想做的一个事情
就是把我自己或者把这个世界上这种顶尖的ai 研究员的这种脑回路给蒸馏到这个模型当中
甚至不是蒸馏
甚至我觉得能够产生一些最顶尖的人类的科学家和研究员更好的一些东西
但是大家说transformer 的时候
也会说它是抽中了gpu 的彩票
就是它跟芯片它是更适配的一种模型结构
那如果基于不管是physical ophii 还是afai 设计出一种新的模型结构
那它跟当下的这个硬件它能适配吗
嗯
这是一个好的问题
对
其实是更加说明了
就是transformer 其实在算法上也没有那么厉害
他是中了这个硬件的彩票
就
我其实挺挺同意就是
呃 赛宁
就是之前赛宁和你的采访里面赛宁的一个观点啊
赛宁就是说大语言模型它是反bit 来真的
就大语言模型它能成功
它成功的点在于语言
它成功的点不在模型
就是因为语言是我们人类演化了百万年
相当于自然给我们的一种馈赠
然后我们把这个礼物
把这个馈赠拿过来
然后在上面其实你做什么样的模型
只要这个模型能够把这些馈赠给吃下去
那它就是一个好的模型
它可能是transformer
但是平行宇宙里面它可能是另外一个模型
它都是有可能的
其实我们现在已经有了各种各样的变种了对吧
比如说这种
这种leineer attention 这种模型
所以说 对
所以说对于语言模型来说
我觉得这个地方的架构设计还相对来说没有那么精巧
是因因语言本本是是一个已经被我缩的很好的一个模态ai
但是对于很多其他的模态
比如说像视觉
嗯
我觉得这个也是很多现在世界模型公司想要解决的问题
它这些模态并没有被压缩的很好
所以这个时候很重要的一点是我们怎么样去构建一个可以压缩的模型
这个模型它不仅仅是是说像transformer 一样我去把所有的知识给记下来
而是他能够去学到抽象的表征
这个其实也是人我们最擅长的嘛
因为我们人这个世界的变量实在是太多了
但是我们人要我们的祖先
我们要能存活下来
我们需要去理解我们存活最重要的要素是什么
我们最重要的要素是
哎
那个地方有个果子
我要把它摘下来
我吃下去我今天就不会饿死
然后那个地方就是有一只老虎
然后不能被他发现
就是人因为这个进化的原因
我们不得不去特别擅长就是识别海量信息里面最重要的部分
但是这个恰恰是现在的ai 还不具备的这种抽象的能力
对
所以这个我个人是觉得为什么模型设计会变得更加的重要
在后lm 时代我觉得会变得更加的重要是因为l 门的成功
不是因为模型
当然了
我说这话也也有点马后炮的意思对吧
就transformer
就比如说它这种attention 的机制
是能够让信息在上下文方向上很快速的进行传播
这个是像之前的模型像rn 或者者stm 那一代模型所不具备的
嗯
那这个确实是它的一个创新点
但是可能只要我找另一个模型
另一个模型它也能够让我们在上下文上面有很高效的这种信息传播
那对于那种模型来说
可能跟transformer 是一样好的
就是说它牛不是因为它叫transformer
它牛是因为它能够在上下文上有比较高效的这个信息传播
以及renenet 也是
它牛是因为为叫reresnet
它牛是因为它能在深度方向上有很高效的信息传播
有很高效的这种梯度传播
你自己觉得你自己是一个什么样的研究的风格呀
嗯
从你的本科到你的博士
我觉得我其实是有一条很清晰的主线的
但这个其实也是我后知后觉
就是有很多人问我说
感觉你东坐一下西坐一下
然后后面我再慢慢的总结出来
从点连成线
是的是的
就是这个主线
说的就是如何去嫁接神经和符号这两个世界
对对对
或者更具体一点就是如何去嫁接ai 和物理
或者更一般的就是自然科学
对
因为我们人所居住在的这样的一个宇宙
居住在这样的一个自然的一个环境里面
我们是非常擅长这个这种符号
就是虽然我们不一定能够显示的写出来牛顿方程
但是我们却非常擅长就是能够去
就比如说我抛弃一个东西
我非常擅长去预测它下意识别会出现在什么地方
那这个其实是就又是神经这一部分带给我们的一个能力
对
所以说我整体的研究是想要去嫁接ai 和科学这两只
那ai for science 说的就是说现在的science 它太symbolic 的
我想用neural 的东西去补足这个symbolic 的东西
这是af ciscience
为什么科学是符号主义的
因为它有很多多方程式
对
我觉得至少物理它是一个非常符号主义的一个东西
嗯 那化学
生物可能也有一些不少的这样的一些经验性的东西
然后这个个是ff science
Science of ai 呢
就是说我不不满意与ai 是一个黑盒
我不满意于ai 它就是一个神经的东西
然后我要用符号的东西
我要用science 的东西去描述
去理解
去改进
去设计我的这个神经的东西
这个是science of ai
所以包括afai
其实我说的afai 其实和大家现在说的afai 也有点不是完全一样吧
大家现在说的afai 可能是说我拿一个coding agent 去写paper
或者说我提升自己的这个这个训练的这个pipeline
那这个就还是说从神经到神经就没有闭环进我的这个symbolic 的部分
所以我的afai 我是想用自动化的方式去做ai 的物理学
就是用ai 来辅助我们更快的去理解ai 本身
然后这个事情最后又能够闭环到不仅仅是理解
而是去提升ai
为什么一定要引入符号学呢
就是没有符号主义也很好啊
只要你能afai 就可以了
嗯 对
这个地方我觉得有一点取决于你的belief
就是我的belief 是ai
它是一个半物理半偏生物的这样的一个东西
那物理它是一个
我觉得可以这么来讲
就是用elios discover 说说过的一句话就是intelligence
Compression 啊
或者反过来
Compression is intelligence
就是我觉得符号是一种极致压缩的体现
就是当我们能够把一个东西符号化
这个东西意味着我们能够对眼前的数据做极致的压缩
那这个其实是像物理学这样的场景
我们是有这样的一个
呃 Luxury
就是我们是能够去给它压缩成符号的
但是可能对于像化学或者生物或者一些更呃社会科学
可能我们确实没有办法把它给符号化
所以我觉得这个也是我认知的一种演化吧
就是比如说你如果在去年问我这个ai 的物理学怎么做
我觉得它最后一定是符号化的
但是我做的越来越多了之后
我会意识到哦
可能我做一个预测器出来就好了
就是说因
因为物理最后的目的也是预测
我不一定非得用一个符号的理论去做预测ai
那现在我都做了一个预测器了
那这个预测器其实可以是一个神经的东西
它可以就是一个new new network
它可以不一定是符号的
只要它能够有用
只要它能够在某些场景预测的还不错
就
我特别同意你说的
就是它不一定得是afai
它不一定得是一个符号的东西
它可以是一个神经的东西
但只不过符号的东西我觉得还是so 发还是我个人的一个执念吧
就是因为啊
符号的东西它更可解释一点
符号其实是把它从一个经验科学变成理论科学的过程啊
是的 对
而且这个地方符号其实它也是有不同的level 的
它也是有不同的层级的
这个我我特别喜欢举的一个例子
就是说对应到天文学
天文学是有三个阶段的
第一个阶段是地谷
他这个人去大量的关心
他会去记录什么星星在什么时候在什么地方
这是第一个阶段
这是一个数据的阶段
然后第二个阶段是开普勒
开普勒他会去你和这个行星的这个轨迹
然后他会发现哦
行星的轨迹是椭圆
然后这个时候就已经有了这个经验公式
然后第三个阶段再是牛顿的阶段
就是牛顿他会去把开普勒的这些经验公式拿过来
这个这个开普勒的这个三大定律拿过来
他说你这三大定律仍然不本质
它还需要三个定式
我给你写个盈利公式
我可以把你三个定律我全部给你预测
所以这就是一个典型的一个压缩的过程
就是在低谷时代
你需要把整个数据表给记录下来
它就非常低效
但是你到了开普勒时代
你一个椭圆方程
然后再加上一些这个开普勒三大定律
就可以把这些数据很好的归纳进来
然后再到牛顿时代
牛顿时代说你
你开普的仍然麻烦了啊
我可以给你压缩的更小
我可以给你把这个这的东西压缩的更小
对
那对应到现在ai 其实我们大体上是处于一个
就看我们怎么衡量了
有的时候会说我们现在是处于第一点五个阶段
什么意思呢
就是我们其实有了大量的实验
但是呢
我们的经验规律其实还不是很多
就比如说像scaling law
其实是我们为数不多的吧知道的几个经验规律
它跟开普勒定律的这个地位是类似的
我们现在还远远没有到这个ai 的牛顿这个状态
嗯 对
当然有的时候我又会说我们其实更悲观一点
我们可能现在是零点五
就为什么这么说呢
因为地谷他好说歹说
他把望远镜对准了星空
他会去测各个星区的星星在什么地方
但是我们现在过度的聚焦
在过早的收敛到比如说像transformer 这种类型的架构上
我们似乎已经失去了探索其他类型架构的这样的一个motivation
所以就有点像是低谷
他就盯着一片新区
然后过分的沉迷于这片新区
哇
这片新区实在是太美妙了
然后就忽视掉了对其他新区的一些观察
所以从这个意义上来说
我们现在可能可能连低谷时代都还没到
可能连数据
大数据的时代都没到
就是说我们这个数据它是只针对transformer
只针对很少的几份这种模型有效的
我们还远远没有到能够看到整片星空的这样的一个阶段
我要给大家解释一下
因为子明现在的创业的方向
参与的创业公司的方向是afai
所以刚才我们在讲他所相信的afoi 是什么
我们刚才吃饭的时候你也聊到
你当时在mit 的时候其实没有想过要创业
还是想着要当教授
然后去了stanford 才想着要创业
能把这段经历给大家讲讲
嗯 对
我觉得mit 和stanford 还是挺不一样的两所学校
在mit 呢
大家就还是比较学术
比较偏保守一点
就比如说二四年啊
那会儿在mit 这个大家就是我的同学学吧
都觉得弯曲那些人搞的a 检这都是在骗钱
对 所以说呢
就是说一直到可能就是二五年五月
那个时候拿了清华的offer
我的mininter 都还是说我要就我要在学术界然后做出更有影响力的工作
我不要跟你们工业界那些人同流合污
对
但是现在看来那个时候就太拿义务了
就是我者就是太理想化了
或者用比较流行的话就是说
还没有脱下这个孔乙己的长衫类
所以mit 的人的信仰是什么
Mit 的信仰仰是我们比如说用五年的时间就能写出ai 的物理学
有了这个ai 的物理学之后
我们会发现现在我们投入这么多资源完全就就是浪
浪费
所为我们可以从低一信原理去推导出最优架构构是什么样子的
所以我可可理理解就是我什么么那个时候特别看不上工业业
因为我觉得你们
你们就是有钱对吧
其实从这里也能看出
你理解的af 和ai 和大部分人理解的fi 也也是不一样
也是不一样
这个你的理解的afai 还是蛮脱胎于mit 的那个文化的
我觉得因为你还是在想最优的模型结构
是的是的是的
对
但是我现在创创业呢
我觉得就是参与到创业当中来呢
我
我觉得我是有一个比较interesting 的一个历程
就是我是比啊工业界的那些人都更
某种意义上更学究
或者说啊
更理性一点吧
也许也不能说他们不理智
而是说他们看到了一个可行的路径就快速的推
我觉得也是可以理解的
但是就是从
呃
学术的角度会比他们更理性一点
但是我又比学术的那些人老学究们更疯狂一点啊
那处在中间
对
我处在中间
然后我的疯狂就使得就是老学究们就会觉得
那可能ai 的物理学就是需要做几百年
就是需要慢慢的做
但是我现在意识到了可能如果还是靠我们古法科研
就是我这个怎么估出来我
我就
我不是凭空说的对吧
因为物理学从亚里士多德时代到现在就是两千年对吧
从牛顿到现在四百年
那我们现在到没到亚里士多德时代
我其实也不确定
这就是对于ai 的物理学来说
对
当然在mit 的时候
那个时候我是特别乐观
乐观的意思就是说我相信在学术界靠几个聪明的脑子
我们就可以把ai 的物理学写下来
然后就可以save the world 啊
或者kill the world
我不知道 对
但就是不需要那么多的试错
我们就可以把这个模型就是给他设计出来
给他训练出来
对
那个时候其实我的实验已经做了很多了
就是已
已经有大量的这个
这个是做什么实验
我这个这个实验就是ai 的实验
对
但是慢慢的后面呢
我觉得一方面是我
我们这个就
就是ai 的理理学这条路径上面起起来发现没有那么的顺利
是 这让你绝
绝望了
没有绝望吧
吧
我仍然相信
信最终终能够做成的
但是我是是觉
觉得个个间线线是
是我在有生之年可以看到
就是如果我们不是用ai for 这个physics ai 的办法
而是用古法科研去理解physics ai 啊
最多我说我招十个学生
就是我招一百个学生
但是我
我仍然觉得这个不是特别scale 的一个方向
对
所以这个也是我现在参与到创业中要做的
是要去scale insight
就是因为我觉觉得ai 物理学学追求的是understanding 和insight
对
当然有了understanding 和insight 之后
最后还是会闭环到他告诉我们应该怎么去提升模型
但是第一步是understanding and insight
就是我们不能够跳过这一步直接到提升模型
当然了
你能直接提升模型
那是最好的
但是现状是
可能你想一百个想法
可能有一个想法somewhat work
但是如果我们不跳过中间的步骤
我们先有了这个understanding 的insight
他能够更快的帮助我们去去更好的设计模型
从那个不想跟工业界同流合污的你到stanford 以后决定要创业的你发生了变
什么变化
你在stanford 多久
你在stanford 其实只待了六个月
对
但是我觉得对我来说是像开智了一样
对我
我觉得也不想就是说哪边更好吧
但确实stanford 就是我身边有很多人都在创业
就是有一个是我一个很要好的朋友
叫高文浩
对
他在湾区那边现在也在创业
做的是af chemistry
哦
他跟我一开始也也都是在mit 去读博士的
所以我们一开始我们的画风还挺相近的啊
这都是瞧不起这个创业前为史大厂
但是去了stanford 之后呢
我们是同时开始做博后的
然后他就在那边大概两周
就跟我说 哦
怎么样
我创创业 对
我们之前是每周饭饭嘛
如说吃饭
我们就是聊的学术
聊的什么
然后他那了创业之后
他就开始教我这个创业应该怎样创业
他的变化来自于什么
才两周
他的变化
可能他也有类似的朋友
也给了他这样的一个刺激
我不知道他让你受到刺激的是什么呢
就是在你们吃饭的过程中
我觉得主要还是就是你特别相信你的peer
就尤其是你觉得跟你风格很像的peer
当你看到和你风格很像的peer
他做出一些改变
他做出一些你之前觉得很危险
你之前觉得你做不到的事情的时候
你就会去想
是不是我不够激进
是不是我太在舒适区里面了
这个是一个
然后另一个也是我在stanford 待着那个组里面
我在stanford 博士后
我做的是neuroscience 加ai
老板也是特别有名的这个andreastalious
它是也是全球做neuroscience foundation model 最顶尖的几个人之一
啊
我虽然只有六个月
但是弯曲的这个节奏确实非常快
就是我刚去的前两个月
呃
他们那个start up 还可能在秘密的筹划吧
也是个new lab
算是new lab
但是他们更偏neuroscience 一些
他们是希望能够从newer science 一些principle 来去解决ai foundation model 的问题
就更像neurfor ai
对神经科学
就比如说猴或者说老鼠
他们脑子里面的一些表征能不能够猴用来去约束我这个artificial neural network 这这种人工神经网络中的这些表征
嗯啊 然
然后人脑子中的一些结构能不能用来去约束这个人工神经网络中的一些结构等等等等
大概做这样的一个事情
然后我也是就目睹他们从筹划到最后announce 的这样的一个过程
然后基本上我觉得对我来说也是一种教育
基本上我刚去的时候
他们可能在开始筹划
然后当我离开之前的一个月
他们就announce 了
对我觉得对我触动也是挺大的吧
就是因为我觉得andreas 他也是一个特别pure scientitist 一个人人
然后我目目睹了他也是从这个pure scientist 往entrepreneur 转的这样的转变
嗯 对 然后当时
当时我跟他说我有创业的想法的
时候他也说
哎
那你就在我们公司好了
反正我们公司也想做这个air scientist
也想做afai
对
但是后来想了一下呢
还是觉得就有点寄人篱下的感觉
为什么
嗯
这我觉得我们的路线也不太一样
就是我们approach afai 的路线也不太一样
就是我还是希望能够至少早期的科研rnd 这方面按照我的意愿按照我的想法去推
后面这个东西怎么去做产品
怎么去商业化
这个我觉得就我也open
但是他的dna 得是你的这个方案
是的是的
但是是原生的想法
是的是的
他这个技术
他的这个想法得是我原生的想法
对
这个可能也是学术术院的人会有一种控制欲吧
会有就是会有一种就是很强的
就是说这个想法得是我原创
这个想法得是我提出来的
当然这个也还是我现在的想法
或许我过段时间之后会发现这个也是一种厂商
你的那个导师他有跟你说他为什么要从一个scientist 转成entrepreneur 吗
其实答案很简单
他跟我说
答案很简单
就是因为他们要做大量量这种种老鼠猴子的实验验
那这实实验他是真的需要去更到很贵的仪器
所以他在
呃公司做的事情其实跟在学校做的事情是差不多的
只不过就是说啊
公司那边会更多的去思考就是这个东西要怎么去商业化
当然他说的是他们的投资人
跟他们说
三年之内你们不用考虑商业化这个三年你就安安心心的做rnd
因为确实你做这些猴子的实验
你确实这个东西急不得
你去踩数据
你就是需要人去养猴子
嗯 你就是
这个周期你是避免不了的
H 也说到了一个我们今天很想聊的话题
就是今年出现特别多的new lab
你年初的时候可能还是在硅谷经历这一波new lab
包括也亲身的经历了他们整个的筹备到发布的过程
然后回国你又组建了自己的new lab
为什么在今年这个时间点
中美两边都出现这些new lapse
他们大量涌现背后的本质可能是什么呢
我觉得这个地方就是一个人才选择的问题
就是对于顶尖的人才
你的选择无外乎就那么几个嘛
就是要么在学界
当然现在ai 其实在学界的人其实绝大多数也会在业界跨一下
就你要么就去大量模型场
可能做一个大头兵
那你要么你就自己出来单干
我
我觉得这个也是就是能有这么多新的new lab 也是就是现在的这个范式逐渐收敛的一个过程
就是现在的人才他不太希望去大厂里面去当大头兵
也是下一个范式
下一个transformer 会是用我的这个路线
还会有下一个transformer 吗
我觉得它不一定是transformer
它不一定是一个新的架构
我觉得它可能是一种新的范式
就像我们刚刚聊到的
就是其实现在ai 不管你是transformer 还是什么架构
它最大的一个问题是没有办法做抽象
所以它就只能够说
要么你喂给它的数据就已经足够的抽象了
比如说像语言
要么你就是给它喂大量的数据
强迫让它涌现出抽象
像vra
像世界模型
其实就是这个样子
但是so far 仍然不是很work
是因为抽象实在是太差了
对
就对于视觉来说
这个抽象实在是太难涌现了
我的意思说还会有下一个transformer 嘛
我觉得当然肯定会有
但是我想说的是它这个时间周期的问题
嗯
就是为什么不是就是已经有transformer 架构
已经有了现在这样已经你未涌现的模型型不是就应该在这个模型基础上去做工业化
嗯
就是把它推到应用场景里
还是说我们要继续在这里探索新的范式
然后涌现出新的一种结构也好
或者创新也好
就是为什么大家现在的选择是出现了这么多new lab
而不是一门心思就往前面推进
就是基于现在这个范式之下的这个应用
嗯
我觉得是对于一些方向是还是需要一些research
但是不是完全已经路径清晰的事情
嗯
就比如说我们这里在做的这个research
就af research auto research 这个事情
它不是一个完全已经完全清晰
甚至说在非常早期的这样的一个事情
对 当然了
就是说coding 其实已经非常成功了
就af a coding 也非常成功嘛
那下一个范式其实自然而然的就是afora research
但是我是认为research 和coding 有很大的不同
就是coding 它是一个高度结构化的
这是第一点
第二点是它是有大量的数据的
就是我们已经有了github
它github 这个上面的这些数据是远比其他互联网上其他的部分要更高的质量的结构化更强的多的
但是对于research 来说
Research 它不是一个被结构化很好的这样的一个数据结构
就是我们现在还大量的在说我们需要研究的直觉
我们需要研究的这个品味
就是当我们说这些词的时候
其实就默认了研究它不是一个可以很好被结构化的东西
就是一旦当一个东西可以被结构化
可以被标准化
可以被规模化
大家就应该会对这个东西去魅
但是我们现在还没对research 去魅
说明它还没有被结构化
被标准化
被规模化
那我们要做的就是我刚刚说的三步
第一步是首先要结构化research
因为我们有的时候我们自己做resech 好像是乱的
我们脑子里是乱的
就是我这里蹦一下那里蹦一下
那这些数据其实是没有被沉淀下来的
那未来我们要沉淀下来的这个关于research 的结构
就比如说我们先观察到了一个什么东西
观察到了一个什么现象
这个现象预示着这个系统里面可能有什么样的问题
然后关于这个问题我有什么样的一个假设
然后这个假设告诉我们下一步我们应该去做什么样的一些操作
然后我下一步做的这样一个操作是不是真的能够对我带来训练的提升
就是这样的一个闭环
这个是我们
呃
应该最近会release 的一个博客
就是我们会会讲我们的这一套方法论以及它的一些初步的一些结果
那我们这一套方法论呢
缩写叫做office
就是ophis
这个o 呢
就是observation
P 就是problem
H 它是hypothesis
I 是intervention
S 是speed up
就是我们认为所有的research paper 都应该按照这种结构去对它进行结构化
然后我在做科研的过程中
当然了
它所有的科研不会是说那么顺里的我这样的一个思维链就下来了
我可能是在不同的节点当中来回的去跳
但没关系
但是所有的东西至少我们要对它结构化成它是o
它是p
它是h
它是i
它是s
然后有了这样的一些结构化的东西之后
我们相当于创造了一门研究的语言
但是这个说的有点玄学啊
就是我是认为研究的语言它大体上是基于自然语言的
但是它背后的结构是需要我们自己去做抽象
自己创造出这样的一个结构的语言
那一旦我们有了这个research 的语言之后
我们就可以像训大语言模型一样
我们训一个research language 的一个language model ai
那那个时候这个research 它就能够被自动化
能够被规模化
但是首先第一步是我们要结构化这个research
就是你现在说你现在在做的事情对吧
是的
我的意思是说
为什么现在出现这么多new lab
你有没有一些观察
嗯
就我觉得new lab 也是就是找到了现在主流的范式的一些痛点吧
然后auto research 是其中的一个例子
嗯
就是说现在用coding agent 的这个范式接着往下去做
其实它会有一些missing part
就像我刚刚说的
它这个结构还没有被structure 的很好
然后还有一些痛点
就比如说世界模型
那世界模型它就是需要设计一些比较新颖的架构
那对于这样的一些方向
它也是现在的这个范式所达不到的东西
就是以简简来说说
我觉得new lab 的出现就是因为当前的范式啊
一个是你不想去做大头兵
第二个就是说啊
当前的范式有一些明显的一些痛点就是明显打击不到的地方
而且那些地方呢
有的时候可能需要一些早期需要大大量的research
而不仅仅是说我
我上来
我去对资源
我去对工程就可以做成的
对
然后我刚刚举了两个例子
就是说啊
Auto research 和这个world model
我觉得是我认为两个
呃
我能看到的比较重要的就是现在的当前范式不能立马解决的问题
嗯 简单来说
Auto research 或者说afai
它其实都在讲一个事儿
对 我
我们要训练一个ai research
对
把它训练成一个ai research
能够自主的去做研究
然后世界模型的本质是在说
它要给机器人训练个脑子
它其实是for robotics 那个赛道的
对
这个也是当下所谓的new lab 融资
资本涌入最活跃的两个方向啊
是的是的是的是的
你们实际融资感受怎么样
在今年这个市场上能不能给大家说一些体感
也是三月份回的国
对
我是三月份回的国
然后大概是四月底入职的清华啊
然后五月底开始参与融资
然后这个过程我的体感是就太疯狂了
怎么说
就是我觉得像世界模型
当然更大的还是af for science
我觉得很多投资人会把我们归类到af science
其实就是因为afai 最后它for 的还是一个要for 的一个东西
它可以是afaf 世界模型
也可以是afaf sscience
但你们for 的是science 吗
可以for 是science
但是我们现在是science
对
但就是说其实很多投资人会把我们去画在af science 下面
然后按照af science 去聊
但
但反正不管是af science 还是世界模型
还是按个afai
我觉得都是一个就一级市场
是一个非常formal 的一个状态
嗯
有多活猛
因为我也没有一个比较吧
对
所以我也很难说
但确实就是说大家都在这个相互打探消息
然后大家都投项目的动作就做的非常的快
嗯
因为closs 也非常快
而且从种子轮到后面就是种子轮加加轮
再加轮再再加轮
可以无限的加下去啊
这个是现在融资的一个比较常见的一个策略吧
就是说上一轮的投资人没进来
对
那我下一轮
那我就要开一轮
但是我开了一轮之后
下下一轮投资人又没进来
然后就相当于是一个连续的融资的一个状态
对
你当时为什么没有想在美国创业
你为什么做着这个回国的动作
就是我觉得我auto research 这个事情是需要比较多
然后高质量高智商
就是高人才密度的这样的一个
对
因为我就去观察嘛
因为我在mit 其实也带过二三十个本科生
我的体感是其实平均水平是远不如清北的本科生
对
那我要做的这个事情
我是要带小天才的
就是我们这个事情是需要小天才加入的
对
然后我要需要很多的小天才啊
但那就回到就加入清华吧
也不叫回到
因为我之前是北大的
就是就加入清华
然后顺便也能从北大那里好一些学生过来
但是就相当于能聚集我觉得不是全国
而是全世界最聪明的学生
得偿所愿没有
呃 对啊
就是现在我在汽车研究院
我带的十几个学生就是跟我在汽车研究院这边
哦 啊
就都是我觉得是非常非常顶级的学生
嗯
当我们说afai 和new love 的时候
我们自然的会想到田园洞在谷谷那家公司
对
Gr si recursiy
你跟他的方向有什么不一样吗
就是我当我们在说afai 里面在做的是一个事吗
嗯
我的的理解我基于对他们最近他们最近发布了一篇博客嘛
对
他们博客就是显示了他们的第一步的一些努力
嗯
感觉他们做的更多的还是说偏coding agent 的改进
就是我的理解是
Coding agent 的这个路线更像是说把做一个更勤奋的af ai
Ai 就是我有超强的行动力
我可以不停的在这里迭代啊
但是我们这里想做的是afai 是一个更聪明的afai
比如说我提三次想法
可能你们有一个就work 了
之前的话
你coding a ation 的
可能是你提一百个想法
他里面只有一个能work
对
当然最终呢
这个勤奋
更聪明都是需要的
所以我觉得我们是两个正交的方向
嗯
然后印运n 最终我们会在某一个地方去对两个prosh 进行一个整合
因为他们也聊过对吧
在回来之前
对
我跟田园栋也聊过
嗯 当然
田园栋其实他本人是挺支持science of ai 的
所以这个我其实
嗯 之实的话
我
我也有一些危机感吧
就是如果说他们的路线最后会变得和我比较相似
那就一定是田园栋做的
对对
因为
因为我跟田运栋就是关于science of ai 啊
关于
以及就是说就之前那个他做的那个grocking 的研究
我们之前也有研究嘛
对
所以我们taste 其实还是非常相近的
对
但是之前的话
就是怎么说呢
我觉得还是吧
就是不完全一样
所以我还是想按照我的意志
按照我想象的这个东西去推这个事情
对
我发现了你的这个原生的想法非常的在意
你这个研生的想法来自于哪刻
就afai 或者是fixs of ai 的这个想法诞生于哪一刻
我觉得最近afai 的想法诞生于我把自己当成一个模型去做训练
这个是我从今年年初开始做的一个事情
就是我每天会随机的去拉一个数据集过来
随机的拉一个模型过来进行训练
然后呢
我会在我做做实验之前
我去问自己
现在你来预测这个训练曲线会长成什么样子
我就日复一日的做这个我
我大概做了六十天
就是我每天做
然后这个你如果去看我个人网站上面
我个人网站上面是有个博客专栏的
然后你会发现我早期是跟的非常频繁
我每天都跟
甚至有的时候一天两更
就是因为我在那段时间里面我基本上就是闭关
然后把它自己当成一个模型在做训练
就是我今天做了一个实验之后哦
我就去训练我的大脑这个场景
然后我把这个模型
这个数据集这个优化器
它会产生这样的训练曲线
然后呢
我做这样的一个训练
我发现我一开始预测能力非常差
我可能连趋势都预测不对
但是我大概自己训练自己训练了四五十天之后
我发现我开始变准了
就是我在做实验之前
我大概能预测他这个实验的结果是什么样的
甚至可能有的时候我我前几天做的是language 相关的实验
我今天做的是一个vigion 相关的时验
我也能给他预准准
这个是为什么呀
怎么预测的呢
我不知道啊
就是
就是我只是训练我的脑子
我就是我现在还没有办法把我脑子里的东西给它给写
写成自然语言
它可能是一种视
视觉的reasoning
然可能还有一些就是可能它在浅空间有些reasoning ing
但我其实说不清楚这些浅空间reasoning 是什么
但就是somehow 我自己突然获得了这种可以预测的能力
就是我在做实验之前
我就能够部分的去预测这个实验的结果是什么
然后就是因为这样的一个在自我身上
在自己身上这个人体体验
让我相信存在的原模型这个东西就德beway
原模型就是说我的输入是一个模型
以及可能还有些其他的数据集是什么
优化器是什么
然后输出就是这个模型的训练曲线
所以我在今年年初那两个月时间里面
基本上就是把我自己当成一个原模型在训练
训练到四五十天的时候
我突然grock 了
我突然顿悟了
然后是因为这样的一个我觉得是这样的一个近似于苦行僧似的一种修行
让我意识到原模型是可能的
你为什么想来去做这个事儿
我觉得motivation 还是ai 的物理学
就是说如果我能够去预测清楚接下来会发生什么
那相当于我脑子里其实是有一个世界模型
其实是有一个关于ai 的世界模型
或者关于ai 的这个物理学
因
因为物理学就是说我拿来我的物理理论
我不用去做实验
我就能够通过simulation
通过计算
我就可以预测出来之后会发生什么
对 所以 呃
相当于是一种先知的能力
就是你只要能够预言之后会发生什么
你就一定是掌握了某种世界模型
基于你自己做这个人体实验
你相信是存在原模型的
然后呢
但是呢
这个问题就是说我没有办法把我的这种逗号写下来
因为so far
我的这些知识都还是
嗯
以某种脑电波的形式存储在我的脑子里
那我下一步很自然的我就要想
我要把这个东西外化
就是我要把自己给拷贝一份
就我要做一个原模型
它能够取代我
就是因为我每天最多就做一个实验
把一个实验做的非常的仔细
这是人的band with
这是人的带宽
最多做这个
最多做两个吧
但是一个模型它其实可以一个败起
你就可以建到几千组东西
对
所以这个还是回到我之前说的
如果我日复一日把我自己当成原模型去训练
我可能要训练一千年
我可能需要训练几千年
但是我活不了那么久
所以我要去加速这个过程
我要去做一个原模型
这个原模型它不像我一样需要睡觉
它不像我一样需要吃喝
会有情绪
它的任务就是去看各种各样的实验
然后去预测他们的结果
然后在我自己的人体实验上面
我发现四五十次就基本上能开始有grock 的迹象了
那对于原模型来说
当然可能原模型没有我那么就是抽象能力那么强啊
所以他可能需要四五百次
但是可能无所谓
可能这个地方多消耗一点这个
呃
计算资源也无所谓
对
所以这里想法主要还是说
我想把自己给外环
对
我想把自己的脑子给外环ai
他跟afai 的关系是什么
我觉得原模型是afai 的一个一条技术路径吧
就一旦你有了原模型
它可以做很多事情
比如说你现在有一百个想法
你不知道该是哪一个啊
更具体一点的吧
你有一百个架构
你不知道该是哪一个
那么你原模型说的是你把架构作为我原模型的输入
这个原模型就能够预测这个模型它的性能是什么样子的
嗯
那么你现在就不需要做一百次实验
你就只需要用原模型全传一百次
做一百次预测
那这个是非常便宜的一个事情
当然了
最后我们还是要真的去做这个实验
但就是对于筛选想法这个事情
就是个个原模型能够帮助迭代的这个fi 的这个迭代的系统更快的去迭代想法
就之前你如果没有这种好的直觉
你如果没有原模型做辅助
你可能需要比如说一百个想法你需要都尝试
但是现在的话
这个原模型它能够给你在你事前就去做一个排序啊
就能告诉你哪个想法比其他的想法是更promising 的
然
然后这个地方的想法更多的还是说做ai 的research
所以是一个afai 的一个东西
我
我觉得afai 可能有的时候有点bus words
有的时候我会也会管它叫做auto research
嗯
但是因为这个地方我们auto 的research 是ai 的research
但后我们这个地方的auto 也是用ai 去做的这个auto
所以auto research 它其实也也就是一个afai 的概念
对
世界模型说是预测下一个state
语言模型是预测next token
你们这个算是预测一个实验结果
对
我们是预测next curve
我们的实验结果就是一个训练的曲线
那你们的训练语料是什么呢
你们知道是自己的模型吗
需要多少多种算力
就是怎么开始做这件事情呢
对
我们会先从demo 做起嘛
因为这个事情我觉得是一个三到五年比较长期的一个事情
对于我们原模型来说
我们的数据是模型
那这个地方有点绕啊
因为我们这个原模型它是一种关于模型的模型
嗯
或者说关于模型的世界模型
所以我们这个地方的训练数据是模型
所以我们是要训练这些模型
拿到这个模型的训练曲线
这样我们就获得了我们的一个data point
然后我们再生成另一个模型
然后另一个模型它会有有有条对应的练曲曲线后
然后有了这样的一个pair 之后
模型和训练曲线的pair 之后
我们去训练这个原模型
就是用这个监督的方式
就是我的输入是这个模型的时候
你这个原模型应该预测它的这个训练曲线
对
用这种监督的方式去训练我们的这个原模型
那这个它贵的点
就是说我们也是需要挺多的计算资源的
但它不像大模型一样需要一个很大的集群
需要卡之间communication 做的很好
因为我们这个地方我们是要做大量的这种小模型
但是这个地方呢
我们小模型不是说就是transformer 的小模型
而是我们强调的是多样性
我们强调的是要让这个原模型见过这个人看起来非常奇怪的架构
但或许就是这个架构能够帮助我们去跳脱出这个transformer 现在的这个local minimum 目标是什么呀
目标是发现下一个模型结构
这个是一个终极目标吧
最终我们是希望下一个transformer 不是人发现的
不是人拍脑袋发现的
对对
而是说通过我们这个原模型
这个原模型给我们预测出来的
那中间呢
中间要实现的是什么呢
中间阶段
因为你说下一个模型结构
也许最终终标标
那最终的目目是是什么
对
中间目标还是就是我们刚刚聊到的
去结构化research
然后去收集这种结构化的数据
然后训练一个我们自己的这个research 的这个模型
就是为什么我会这么去划分
因为好像中间目标听起来它也是要训练一个模型
嗯 对吧
原本一个是一个模型
我可能借用这个rate sudden 的这个bitter lesson
嗯
Bitter lesson 说的就是说在短期当你数据不够的时候
你需要去引入结构
但是当长期当你数据特别多的时候
你就不需要结构了
对
所以说我觉觉得在短期因为研究的结构化数据还是偏少的
对
这种情况下我们需要去引入结构到我们的这个整个框架当中来
对
所以这个是短期我觉得比偏偏就务实的一一事情
但是长期这个原模型它是一个端到端的东西
我觉得这么说或许没有有点像我们现在是要做一个世界模型
就是短期中
短期是要做一个世界模型
长期是要做一个vra
我
我觉得可能
我觉得可能有点和这个趋势反过来了
但是
但是我觉得可能不重要
重要的是我们最终要做成fai
那至于中间的路径是什么
我觉得这个就看着办呗
就是就边探索着边往前去拱吧
为什么短期是word model
中间是voa 就是world model in the sense 就是它
它有更多的结构
然后vla in the sense 就是它更端到端
然后现阶段你们还不去训练自己的模据
现阶段其实更重要的是结构化
结构化research
嗯
然后以及收集相关的就是结构化research 的数据
怎么结构化research 呢
因为你也说你们的目标并不是说去做一个paper agent
你是说我就训一堆的论文
让他比如说发现下一个科学原理
因为论文其实是整个研究探索的结果过程中的灵光一现
或者它它的曲折
然后它的连点呈现
草舌灰线都是没有被记录下来的
你这个怎么来做这个结构化的
因为论文都只是最后的一个结果
或者你可以说它是某一种公式
但是它可能还没有那么的被符号化
是的
我可以这么说啊
可能百分之一的ai 论文其实结构化做的不错
举个例子就是
呃
著作员他们做physics of fiarms
但这这phphyss sf 就就是结构化比较好的
就是说我关察到了什么事情
我决定做下一件事情
他的这个做实验的这个所谓的channel faut t
就这个reasoning chain 配语链是非常清晰的
但是可能百分之九十九的paper 吧
他可能就不会包含这么清晰的这种研究的思维链在里面
我感觉在很长的一段时间里面
大家把展现思维链当做一种耻辱
为什么你要显示你很厉害
你就要让别人觉得不可琢磨
对
你就要直接把这个公式写下来
就是说
就是我梦到的是我梦到的
不是我推出来的
这是我梦到的
那这样别人觉得你最牛
然后
当然我写paper 我觉得也是受那个max techmark 这个的影响
就是我们写paper er 个是很平平直直
嗯
第二个是会把思思链链写进来
对
但是毕竟这会包包思维维的文章章虽然不多
我没有也不少
Ok
因为本来论文的基础就已经挺大的
第二方面呢
是说我们会收集我们自己的一些数据
就我之前比如和学生去讨论project 的时候
我会经常有一种感觉
就是我们的思维链其实并没有被很好的一些下来
而
而正是这些数据是我们做auto research 所需要的
那之所以现在auto research 还做的不好
其实可能跟架构跟这个路线没有太大的关系
其实就是这个数据现在还没有保留下来
对
那我们第一步是
首先我们要构造一个device
或者说是一个software
这个时候我们最近在就是在做了一个东西啊
就是他能够更好的去采集
就是说我们整个思维链采集就是说话啊
比如开会讨论
这个是思维链
对
最后要做的这么正能
现在还就是说我在做下一个实验之前
我必须要强强迫你去写一段话
去评价你之前干了什么
然后你得出什么结论
你才能进入下一个实验
嗯
是一个很流程化的系统
目前来说还是个偏流程化的系统
这要多大规模的数据呢
如果只采集你们这几个人的
肯定太少了吧
我觉得这个地方分几种
一种就是说paper 是有大量的
但它质量不一定高
然后人的话就是说这个是我瞎说的啊
因为我们还在构建这个采集系统
就我们还没开始采
但是我预计比如说我一天采十条ai 二十个学生加员工可能每个人每天也能采十条
这个一天就能采两条
然然后个月就能采一万条
我觉得就是差不多可能开始够用了
就是可以开始训练这个模型来来针馏我们自己某的是个然是如果完数据
接着你要做的下一步是什么
下一步就是训练一个这个模型
原模型吗
它不是原模型
原模型是一个特别终极
我们可以把它当成是一个北极星翼的一个目标
这个模型它就是去预测我的下一个动作是什么
就是我们这个数据收集器
其实它不仅是个收集
它也是个环境
就相当于是我是在类似于一个我的世界科研版
我可以在我的世界里面做各种各样的操作
记录下来我的这些操作之后
会有一个next action prediction
就是他就会预测如果是子民
就比如说我学生目前做了这些动作
然后卡在这个地方了
它就可以调用子民model
如果是子民现在做
他会怎么去做
它就能够不需要我在场
就能够获得我的这个同样水平的这种反馈
但这样的话
就是需要去训练一个子名模型
然后每个人都要训一个model
或者说把所有人的东西混成一个model
就是要训那个model
对
当然这个也是我们在探索过程中不断的在period 吧
因为就是一旦开始做一个事情之后
其实想法以及这个路线每周都在改
甚至每天都在改
甚至每个小时都在改
就是只要你迭代的足够快
嗯
就比如说这个采访如果是上周发生的
我就不会讲这一趴
因为这一趴是我们这一周在迭代的事情
那如果你下周在采访
可能我们这个东西就已经做出来
就你开始说数据就已经开始有一些初步的结果了
嗯
还有什么人有一些其他的afoai 的路线
还包括现在的模型公司里
他们也会说自己在做afai
或者说他们觉得就是ai 训练aii 的时候会是一个比较标志性的时刻
就是现在主流的绝大多数人做的还是说基于现有的coding agent
我不觉得我的路线跟他们是矛矛盾的或者怎么样
我觉得是互补的
就是如果戏分的话
可能有些人更偏就是说找到下一个架构
就比如说我的梦想
说用ai 能找到下一个架构
我相对来说不那么care 生产物
因为我在博士期间我就是个pappaper machine
然后我也知道这些paper 写出来其实真正有价值的可能就那么几个点
对
但是写paper 呢
也是有它的价值
但只不过就是paper 是一个我觉得是一个研究的一个副产物
低性原理就是研究的第一性原理是拓展自己的知识图谱
Paper 只不过是说当我的知识图谱足够大的时候
我溢出了
就是我的脑子里装不下那么多东西
我必须要把它写出来
我必须要把来和我的同事去进行分享
嗯
不然我憋不住
就是我觉得我很多时候写paper 并不是说我真的需要一个paper 毕业或者怎么样
我真的需要一个paper 干嘛
而是说他在我的脑子里
我就想把它给扔出来
我就想把它给dump 出来
但是有一afai 的公司
他们更像是paper agent
但这个就不太是我们的的标标
我们的目标还是说积累尽可能多的这个ai 的物理学的insight
这些inside 它不一定是paper
当是我们想也能写成paper
但就是说这些inside 它能形成这个ai 的物理学的知识库
能够帮助我们系统和科学的在未来帮助我们去设计更好的模型架构
这个是我们的目的
我看到你把finissh of ai 拆成三个架构
空间上更细
实间上更细
平行宇宙间看的更细
这三个分法是怎么想出来的
我是喜欢从我们所居住的这个宇宙的角度来思考很多目目
这个你尝尝试来解释ai 这黑的是吗
这是你的解释方法
是的是的
在空间上看的更更细
指的就是说我不仅仅是关注这个模型它端到端的行为
我也会去关心它这个模型内部的某些神经元
然后它的内部表征会有什么样的一些特性
这个是空间上看的更细
就有点像是我们去做解剖
他们不仅仅是去看表面上什么样的
我们也去看它内部它的这个工作方式
工作模式是什么样子的
这个是第一个就是在空间上看的更细
在时间上看的更细呢
这个就是说我不仅仅只关心这个模型它最后一个时刻它的表现
它的这种性质
我也关心它是怎么样演化来的
这个其实在生物上面有一个对应
叫做nothing in biology make sense except in light of evolution
他说的就是如果你不从进化的角度来理解生物
其实在生物里面没有东西是可以理解的啊
就是是是make sense 的也是黑盒
也是黑盒
就是因为生物也是黑盒
但是你从演化的角度来说
你至少能有一些理解吧
对你
你可能会看你的这个祖先
他可能在某一时刻它没有上陆地对吧
然后他就一直在水呆着吧
就你就通过这种历史
通过这种自然进化
你会有一些启发
看设备环境
对 第三个呢
这个平行宇宙
我为什么这么叫吧
我觉得还是因为我的博士导师max
Tegmark
他是平行宇宙理论它是提出者之一
当然这个地方平行宇宙说的很玄学啊
其实就是控制实验
什么意思呢
就比如说我有两个培养米
都有一些细菌
然后这些细菌可能在不同的环境里面
那对于一个培养米里面的细菌
他就觉得另一个操养数它就是一个平行宇宙
那这个对应到我们人的科学上面做实验
那其实就是去做一些控制形态
在一个环境里面我能训出来一个什么样的模型
这个环境可能指的就是比如说我的超参数该怎么调
调成另一个超参数
我就能得到性质不一样的模型
这个其实是朱泽源他的这个physics of rom 里面其实很重要的一种方法论
就是他会去扫一个像图出来
就是face diagram m
那这个图图其实也是物理学中其实比较常见的一个概念
像图说的就是说物质它可能有不同的形态
它在不同的状态下
它可能有这个不同的像
同样的物质都是hro
都是水
但是可能不同的的强
不同同的面它可能就有不同的像
这个ai 里面也是有很同的像的
不管是训练动力学还是什么
那对于烟里面也是有非常多的像的
那我们很多时候会有一些know how
就是说什么trick 它work
什么trick 不work
其实很多时候是针对这个项而言的
就是只有当你的实验是在这个项里面的时候
它才是work 的
当它出了这个项
当它进入了别的项
它这个trick 可能就不work 了
那可能另一个trick 才work
但我们现在之所以很混乱
是因为所有的人都在说我的这个trick work
但是没有人回答我的这个trick 在什么时候work
我的模型
我的这个系统要在什么项里面它才work
所以这个其实也是这个science of ai 或者physics of flash 想要解决问问题
是因为我们知道no free lunch fefem 告诉我们
没有一个模型
没有一个trick 能够在所有的数据集在所有的任务上都比其他的方法更好
Physics of fei 的任务就是去理清楚每一个trick
每个架构它的适用条件是什么
嗯
这个才是一种做科学的态度
而不是说你做出来来一个东西就在在那里去
这 这个 哎呀
我们
我们这个东西好
但是全个忽失掉了
可能它好是有一些这种条件的
嗯嗯
Physical 悲哀
其实你想做的也是ai 的可解释性
您试图把它的原理搞清楚
是的
就是我会比较警惕可解释性这个词
因为可解释性现在就是不同的人可能有不同的这种诠释吧
我们认为物理其实就是在解释我们的这个自然世界
那么是的
就是我是在做可解释性
Physics 悲i 是在做可解释性
但是我们的这个可解释要解释到什么工作
嗯
我们不一定要像efopic 一样解释到neural level
当然
我们其实二二年底二三年二四年初
我们其实做了大量的这种工作
嗯
因为我们自己做了大量的这种工作
去解释神经网络背后是在做什么算法呀
去理解一些neural
我们自己意识到这样的一些故事其实有的时候没有那么多robust
就是你可能换一个随机数种子
它这个故事就完全不对了
或者说我们解释的有点过于微观了
好处是说它非常的具体
嗯
坏处是说它不一定母棒
我觉得大体来说可以说是可解释性
但不一定就是我们要非得做到像ephopic 那种机制机制可解释性的那种level
嗯
我有一点矛盾啊
你一方面在做fixes of ai
我理解它是试图理解ai 的原理理论化
我不知道这个理解的不对
那是的是的
另一方面你要做的是afai
这两个是怎么联系起来的呀
就是你做afai 需要去理解ai 的原理嘛
Ai 更像是一个它自己能够自动化去做的事情的一个系统
一个机器
这中间需要人去把它的原理搞清楚呢
我觉得这个地方有一个gap
就是说之所以ai 能够帮助我们去做一些自然语言相关的事情
是因为我们已经有大量的自然语言的语料
但是我们才创造ai 几十年
我们其实并没有太多关于ai 的语料
嗯
这个地方可能稍微有点confusing
就是说怎么建模型
这些我们都是知道的
但是关于模型
我们训练一个模型
那拿到他的训练曲线
这样的一个映射关系目前还非常不清楚的
所以也就是说连这样的一个语言我们现在都还没有把它进行规模化
嗯
Ai for x 它能成功的前提是x 得有大量的数据
但是ai for ai
根据我刚刚的逻辑
或者说phya i research
其实ai research 它其实没有大量的数据
至少没有大量的这种结构化好的这种高质量的数据
而结构化这个事情本身就需要physics of ai
对
这里可能稍微有点绕
而且我需要显示的去说明我的这个想法是挺非主流的
就是用afai
绝大多数都在想的是我直接用ai 去提升ai 就好了
但我说stop
就中间其实还有一步
我们是先要做physics of ai
这个东西能够帮助我们去设计ai
但是人做physs sai 太慢了
古法科研做physics ai 太慢了
所以我需要用ai 来帮助我们做physics of ai
嗯
所以的physs s offi 太慢慢aai physics of ai for ai
我有了ai 的物理学
它能帮助我ai
这其实就是我一开始问你的
就是连接主义的过程中需要符号主义吗
就你说你是连接主义和符号主义中间
是的
因为物理学相对来说是更符号主义的
那如果ai 能够资金化的话
它需要中间有一个符号主义
或者是短期是需要的
就是这个短期我指的可能是一百年以内
那更长期或许不需要
我觉得这种地方还是一个datlelesson
更长
数据量大了就不不要了
更长期就是当ai research 已经被结构化好了
已经有大量的ai search 的数据了
就不需要了
但是像刚刚说的
我们现在连这个ai research 怎么样最好的去结构化都不需要了
更别谈谈说a 个数据量有多大了
嗯
所以在这种情况下
我们需要很多的人的鲜艳或者说这种symbolic 的东西去做约束
那更某种意义上就是把这个接主义义要符号主义义符拉了一点嘛
更长期所谓的harness
就是说你不能太自由了
对对
我要给你一些约束
嗯
某种意义上
我觉得coding agent 它其实是在说明这个符号主义把连接主义又往符号主义回拉了这样一点
嗯
但是我们做的这个auto vision 这个事情
我们是希望比较低性的从偏符号主义
为什么我要讲偏符号主义
或者我之前自己也捏造过一个词叫做结构主义
就是我会认为看它就是一种结构主义
就是我为什么不讲符号主义
是因为太多符号主义的haater
就我一讲我们是符号主义
大家就说没意思没意思
老古董
哈哈 呵呵
但是这个事情我觉得符号主义跟连接主义其实在历史上也是不断的在摇摆的
我们需要跳出零次机
呃 对对对
这一步ai 是连接主义非常的厉害
那或许下一步我们又应该是往符号主义回摆一点
其实像我刚刚说的agent 已经是代表了这样的一种趋势势
嗯
Anthropic 做的模型的可解释性他们现在一做到什么程度啊
啊
Anthropic 就是比较极端的
比较激进的
就是说我能理解单个neuron 他在干嘛
可能这个单个neuron 它是一个比如说说脏话的neuron
那我把这个neuron 给它shut off
那他就不会说脏话了
那像我刚刚说的这种例子
其实非常的不稳健
就可能你在一个例子上面找到了有这样的一个neuron
你可能换一个随机数种子
他在那个网络上面可能就没有这样的一个行为
Anthropic 他们做的一系列工作
包括sparse auto encoder
包括transpoder
其实都是基于这样的想法
就是说我能够把模型内部的那些混和的表征
Superposition 的一些表征给它升到一个高维但是很sparse 的东西
这样的话
他能够把里面的一些原子的一些概念给它抽取出来
但是这个我个人觉得是有一些wish for thinking 在里面的
嗯
我仍然很尊重他们
因为我二二年底二三年初我们做机子可解释性其实也是同样的故事
但以我们知道这个东西里面有什么样的一些水分吧
包括他们可解释性team 的像呃
Samuar
Marx
Wescar
Knee
然后以及我之前那个mit 带的一个本科生
最后都去anpropic
也是最早从我们组做出来的
就比如west cor knee 去anpropic 做的那个怎么做加法
Cloud 怎么做加法的那个任务
其实也是我们组的一个paper 后面的一个衍生
嗯 对
所以当我脱下长衫之后
我会觉得这些东西就都是很有趣的故事
但是what's beyond that
这个其实我也一直在思考
但是最近我其实又开始再重新在思考基子可解执行这个事情
嗯
我觉得还是因为到了一个新的这个afai 的这样的一个框架下
我突然又觉得机制可解释性没有那么飘渺了
我觉得这个跟我之前的对于ai 的物理学的判断是类似的
就是机制可解释性
其实有一点像百奥的个gia i
就是ai 的生物学
就是我之前也会觉得生物学我们发展了挺久的
医学我们发展了这么久
那ai 的生物学机制可解释性也是需要发展几百年的呀
嗯 Again
就是回到了afai 的这个框架下来
我觉得之所以需要几百年
需要几千年
是因为我们没有办法自动化的
那一旦我们能自动化了
这个进展其实是可以是很快的
嗯
就是最近看到那个唐杰老师说要制府要投万亿级别的资源到机制可解释性上
就如果半年前的我看到
我会觉得这是在干嘛
嗯 对
但是现在就是放到了这个afai 的这个框架下
我觉得机制可解释性它确实是一个好的目标
但之所以之前我觉得不promising
是因为它实在是太难了
那这个跟ai 的物理学是一样的
就它是一个好的目标
但是因为它太难了
所以之前会觉得会很frustrated
但是现在有了这个auto research
就是至少我们在build 吧
就是现在还没有
但是有了这个auto research 系统之后
我觉得这些之前看起来非常莫名其妙非常遥远的这样的一些北极星的东西
其实是有可能能在三到五年之内达到的
你觉得auto research 或者说afai 的一个关键的节点会是什么呀
它的一个标志性的路标可能会是什么
我觉得是提出一个在一个垂直的领域它都不需要很通用
就是在一个垂直的领域能够提出一个新的架构出来
不仅能够碾压现在已经有的架构
而且能得到人的这个endorsement
就大家都说啊
他这个架构很精妙啊
哦
那或许也不需要
就是可好用就行了
嗯 对
甚至不需要你看见
对 是的
我还是在想
凯明就是凯明的resonant 大家为什么会用
有人说是很优美
但是我们不要忘了
当时凯明在image net 上面是比第二名高百分之十的
所以我就在想
你要么就是用拳头把敌人打晕
你如果没有办法用拳头把鞭打晕
你这个时候就是需要一些口舌去说服别人
以理服人
这个afai 的系统
它能在一个垂直的领域提出一个新的架构出来
嗯
然后这个新的架构能够去刷榜
而且这个刷榜不是说我就涨百分之一的点
而是我能涨到百分之十的点
那这个out research 或者afai
它是aj 路线图上的一个什么样的坐标
它是必经点吗
Ai
我觉得这里所有的词汇都都有点模糊
我觉得是necessary 的
但是还不是充分的
我会觉得还缺一个东西
就是我们刚刚其实也一直在聊的
就是对数据去做抽象
因为我觉得我们么抽象很重要
因为人是有持续学习能力的
然后人有持续学习的能力是因为人会做抽象
但是现在的ai 仍然不会做抽象
如果说他能做抽象
最多是因为我们的数据本身已经被抽象好了
比如说像自然语言
所以我会觉得就是要达到真正的agi
除了afai
还需要有一个做抽象的能力
然后做抽象的能力是做持续学习的能力的一个必要的能力
就取决于这个
我们对afai 的定义是说它需不需要具有持续学习能力
就因为听起来你这个ai 的字迭代了
他足疗踩右脚他就上天了
嗯
就是说我说需要持续学习能力
可能是我对af ai 的定义可能更务实一点
就是说他能够在一个垂直的领域他能提出一个好的架构出来
为了达到这个目标
其实不需要解决持续学习的能力
但是要解决agi
它是一定要解决持续学习的能力的
但有一种说法也是说就是大模型的第一幕是拆bot
第二幕是coding agent
第三幕就是afoai
所以说其实afai 可能也是就是在这些模型公司的这些延长线上的
你觉得作为一个new rape 和这些模型公司的竞争来看的话
竞争优势是什么呢
我觉得就是better different thing
就是因为我的思路是从physics ai 来的
然后这个思路其实在学术界其实也是非常先进的
但是比相对来说比较早期的一个东西
但是我比就是学术界的那些人就更加激进
就是我是相信ai 是可以加速这个phyyics of ai 的这个事情的
从模型厂的角度来说
是一个过于risky 的一个路线
嗯
但这恰恰是我们的机会
就是说因为我相信这条路线
而且我们其实有很多小天才在我们的这个组力和在公司里面
我能把这些问题去做一些拆解
然后拆解完了之后是这些就是小天才能够很好的去把他们给进行完成
我们是有自己的一个非常快速的一个迭代的一个东西
我们在迭代
但是我们的这个东西可能一直到做出我们的gpt 三之前
可能大厂都觉得我们是在胡闹
嗯 对
所以我觉得某种意义上是一种基于不同的信仰吧
我们相信这个事情
我们就会让他发生
大厂绝大多数人不相信这个事情
那就不会往这个方向投入资源
Basis of ai 是afa 的手段是吗
可以这么说
就是我的afai
它就是一种automated physics of ai
就是自动化去做physics of ai
就是我的这个afai
这个physics of ai 的physics 到底要理解到哪一层
我们是不是真的要写出牛顿引略
就是牛顿公式
我觉得是不一定的
而且这个很可能也是需要几百年的时间
嗯
投资人问你最多的问题会是什么呢
在你跟他讲你的这个技术路线的时候
我实也都问到了了
是说这个语言模型要花多少算力
投资人可能也关心的是这个东西怎么样去最后去做商业化
我觉得也是说在跟投资人交流的过程中
我们逐渐的清晰了这个产品它最后是什么样子的
嗯 对
因为原模型
不管是原模型还是physics of ai
说了半天其实都是技术
那是最后这个技术是一个什么产品背后的技术
嗯
我们最后要做的一个产品
它是一个training auto pilot
如果说短期点
它会是一个trainining o pilot
这个是什么意思呢
就是说我们现在并不是所有人都掌握着训练的能力的
但是未来所有人都可以去训练它自己的私有模型
这个私有模型也不一定是lm
但或许是lm 微调过去的
这个用户他就只需要和我们的这个系统说我的需求是什么样子的
然后我们的这个系统它就能够端到端的去给你设计模型
训练模型
部署模型
然后交付给你
你就可以直接去用这个模型
然后很重要的是
这个用户说我这里只有一百块钱
我这里只有一百块钱
你要在这个经费允许的情况下
尽可能的去deliver 一个好的模型
嗯
最终这样的一个系统它要是能够做这样的一个端到端的事情
那这个其实和现在的像cloud code fib coding 其实很像
但只不过现在是说这个对象是程序员
就是我要去做一个什么样的任务
你给我code 出来
但是未来的话
它会是一个更加闭环的一东西
嗯
我都不需要告诉你这个技技术路线怎么去做
我不告诉你你要用transformer
我不告诉你你要怎么去训练
我只告诉你我的需求
嗯
然后我就能够端到端的去给你去设计训练部署这个模型
其实也有投资人会问大家为什么要训练自己的模型
对 我在想
Chrster clock cold 是让不会写程序的人也能写程序了
对
那你这个是让不会做air search 会开开始做air search 了对吧
对
就是不会自己训模型的人也会自己训模型
但是我觉得你这个是一个很大胆的想法
因为你这意味着模型未来
那我不知道多少年以后的未来
它不止掌握在几个巨头手里
是的
这个巨大的模型对吧
每个人
人人都可以因为你们了一个训训练练
然人人都可以训练一下
然后呢
我能干什么
对
那这个地方的点就是说
现在大家不会训自己的这个模型
是因为它的门槛还太高了
那之后有了这个能力之后
我们把这个性价比弄得足够高之后
其实大家都会有这个需求
就比如说我买了一个机械狗
让他来陪伴我
那可能我就是需要把我的一些数据
把我的一些语音的数求每我的一些跟他对话的数据啊
给存下来帮助去训练
不管是微调吧还是怎么样
那
那会这这个机械狗
让这个机械狗能够能够让我更开心
比如说它不是只天天在那里汪汪汪的叫
但还能说些话来安慰我
那这样的一个事情
现在不会有人说我为了做这样的一个东西
我要去自己去学怎么去训练东西
当然了
现在可能会有一些啊创业公司可能会做类似的想法
对
但是未来我们想的就是说
有了这个系统
我们不是自己做一家open i
它是能够孵化各行各业各个垂直领域的open i
当我说垂直领域的时候
我已经是谈论的比language model 更高一个层级了
就是说我们的这个原模型
当然它也不一定是原模型吧
就是说最终的这个终极的系统
它能够去设计出各个垂直领域的这种transformer
就是可以这么讲
就如同是lm 它统一了nlp 自然语言处理里面的各种任务一样
那我们现在造不同的模型还是不同的任务
造世界模型的人
造世界模型
造lm 的人造lm
造这个epscience 模型的人
造emphascience 的模型
嗯
但是这些领域现在大体上还是不互通的
对对
但是未来会有这样的一个god
就是vib training 的一个东西
就现在还是vib coding 嘛
未来会是vib training
Vib training
未来会是vib training
呃
就是你把你的需求说清楚
它就能够给你端到端的去设计训练部署这个模型
好的好的 对
那有了这个能力之后
好吧
我实话实说
我也没有想太清楚
就是有了这样的一个
就是每个用户训自己的模型能有什么样的需求
但是很多时候是这样
就是当你技术便移到一定程度的时候
有些需求它自然会涌现
嗯
只不过我们现在还没有到这个时间点
好像很难去想象这个事情
你这个是电脑从啊
对啊
就是怎么会有好凑的会想要在家里面放一台巨大的电脑啊
到了一个每个人人手可用的笔记本
对呀对呀 嗯
你这个倒是一个挺有意思的方向
当模型人人可用的时候
我们用它来干啥
对
不仅人人可用
人人可训
当然我们需不需要人人可训现在是一个大问号
哦哦哦哦哦
是就是说这个时候可讯也不是说你是作为一个research 去训它
而是说你就是作为一个用户
你给他提需求
它能够端到端的去给你返回一个你想要的模型
当然你可能不需要一个ai 模型
模型能类比成脑子
我需不需需要那么多聪明的脑子在我身边会提供情绪价值
提供情绪价值
呃 提供智慧
我觉得是这样的
我觉得是这个聪明的脑子它能produce 一些东西
它能够生产出一些东西
这些东西能给你提供情绪价值
而不是聪明的脑子本身会提供情绪价值
嗯嗯啊
事实上聪明的脑子很多时候会让你很恼火
我觉得ai
所以你对未来模型的生态有什么样的构想
你觉得模型会是垄断于巨头手中
或者是会模型吞噬一切
你觉得有着应用公司的生态位吗
会从一个垄断的局面慢慢的变到人手可用吗
你就你对模型的未来的一切有什么样的想法
终极的目标
如果我们能deliver 那个vib training autopilot
嗯
那就相当于是平权了
就所有人都能够去训自己的模型
但是这个地方的问题是
呃
还是需要钱
Yeai 嗯
因为你现在训一个大约模型都这么的贵
你要人人可训
我觉得这个地方也是
当physics of ai 理清了之后
其实训练的成本也是会下来
就是因为我们现在不是最优的一个recipe
很有可能还有很大的优化空间吧
我们也很希望为我们的听众能够提供一些就是行业新鲜的动态啊
就比如说除了你在做afai
我们刚才也提到田文栋老师他的recurcy 他们的那家创业公司也在做afai
国内还有一些其他团队在做afai
能不能很像给大家做一个梳理
就是大家各自路线是什么
嗯 好呀好呀
其实afai 这个在国内还是一个相对来说比较新鲜的概念
嗯
就我觉得还挺有意思的
就我从五月份开始去融资
融了几天
发现recursive 就announce
然后国内就开始火起来了
目前来说其实还没有那么主流啊
当然孙天祥是很早他们就开始在做了
嗯啊
然后最近去百度做
然后最近去百度做大的模型了
对对对
孙天祥是一个特别符合你们工作室名字的这样的一个想法
就他之前的一个采访说的是language
基本上就是整个世界
嗯
所有的东西都能够被language 描述
嗯
这是他的一个belief
他们之前做的像farch 那个系统
就也是自动生产paper 的一个系统
就是一个paper agent
嗯
然我们ai 院还有另一位老师叫程永超
他最近也是在做这个afai
他的路线呢
就也是更偏这个早期的路线了
那么我今天这个更像是这个paper agent 能让ai 自己去写一些ai research 的一些文章
Rsi 那边
这个我们其实也无从得知吧
但是从他们的这个博客里面能够窥到一些技术路线
嗯
我们大概猜测他们会强调这个auto research 系统需要维持一个比较好的memory
就比如说我昨天做了五次实验
我都是在调这个学习率
然后五次实验我全部得败了
那么我今天就会记住我昨天做过这些实验
那我今天就不会接着去调学习率
但是again 就是说那维持一个好的memory 系统
但是你不理解他背后为什么学习率会失败
你之前的经验也不一定是对的
就是可能你之前学习率失败是因为失原因
但可能我第二天做实验的时候
我这个时候其实是弊原因
所以这个时候调学习率可能反而是对的
对
所以这个地方还是存在一个到底我只是一个经验驱动还是一个这个机制驱动的
当然
我看他们的官网上
然后以及因为田园东老师也在里面
所以我相信他们也是会在science of ai 上去有一定投入的
嗯
但是目前来说还不是特别清楚他们science of ai 的路线到底是什么样子的
嗯 对 唉
说到研究啊
就是研究中所谓的动物时刻或者研究的直觉
这个怎么训进模型
嗯
首先模型他得拿到这个数据
你告诉他你的思维链
这就是让他拿到这个数据的过程吗
是的
就是我们要强行的强迫自己把思维链写下来
每一个顿悟时刻都是有思维链的吗
一定是有的
如果没有的话
就是你问自己问的不够深
因为我自己的经验是这样的
就是我一开始也挺相信研究品味研究直觉这回事
我其实现在对这个事情有点屈媚了
就我觉得研究品味研究直觉其实是一个遮羞布
就是说因为我们聪明到可以提出一个想法
但没有聪明到可以去用语言说出来我是怎么提出这个想法的
所以我们把顿悟这个事情给他说成是所谓的品味
所谓的直觉
所谓的灵光一现
还有一句话叫善战者无呵合之功
嗯
就是说最牛逼的人
他提想法对他来说就跟呼吸一样简单
他能够把别人觉得
哇
这个太神奇了
他是怎么想到的
他能把这些事情系统变成他的系统
而那些不是最顶级的人
他们也能提出一些很好的想法
但是他们可能并不知道自己是怎么提出这个想法的
嗯嗯
我其实一直在有意的训练自己
就是我不仅是要提出好的想法
我还要去追问我是怎么提出好的想法的
然后在这个过程中其实尝试把我的想法语言化
其实这个事情对我来说非常难
因为我不是一个通过自然语言沟通特别顺畅的一个人
就我的思维模式可能更偏
就是max technok k
就我博士的老板
就我们都是非常偏视觉的偏视觉
偏
偏视觉的意思就是说我们会在脑子里面会有一个图像哦
我会特别想我把它画出来
但是我美术又不行
所以这个就很尴尬
对
所以有的时候我只能够通过我真的把这个东西做出来
把
把这个东西现现在的眼前
这个是我沟
沟通的式式
嗯
所以我觉觉思思链这个东西一定是能或多或少的被说出来
Ai
当然还有一条路径
当我们的脑科学发展的足够完善了
以及我们没有一些道德的问题
就比如说我们去检测一个人的脑电波
我们可以用一些侵入式的方式去检测他的脑电波
或者我们有些更高级的方法
不用侵入式我们也能够检测到比较清晰的脑电波信号
到了那个时间点
我不需要用语言
我直接去测这个人脑电波就行了
但是这个时候我需要这个人的脑电波
但是因为现在我没有办法获取这个人脑电波
我们只能够去拷问这个人
或者拷问我们自己
就是我刚刚到底是怎么想出这个想法的
嗯 啊
你如果说不出来
说明你还没有拷问的太深
你只要拷问的足够深
你总能说出点什么
Ai
但他不一定完全可以取代
就是脑电波的价值
但是至少他能说出点什么
你刚才说你当时做博后的那个实验室
他们当时创业的时候
投资人跟他们说你们三年不用盈利
国内投资人也跟你说啊
那 那是
那是完全不可能的
国内投资人恨不得你现在当天就能盈利
能吗 能吗 你们
呃
当天还是不行
嗯
为什么说能有产品
什么时候能商业模式啊
你们这个road map 是什么样的
呃
我们这个六个月之内还是侧重rnd
就是去做一些demo 呀
然后以及就是说做一些产品的出形
六个月之后根据我们这六个月的一些成果去决定这个之后到底要怎么去做
肯定是在一年这个时间节点肯定是会开始去产品化跟商业化的
但是比如六到十二个月这个
我觉得六到十二个月的这个research and development
这个对于一个new lab 来说是非常重要的
嗯
不能过早的去投入到一个其实不是那么好的一个方向
只是为了短期能够去调查
短期能够去做商业化
就要六到十二个月的探索去找到一个更好的方向
New lab 的本质你觉得应该是lab 还是公司啊
它之所以我们起了一个新的名字给他
就是因为它既不是lab 也不是公司
它就是应该像我说的
你六到十二个月去按照一个产b 的形式
按照一个research yes c 这的方式去运转
嗯
但旦grock 一旦顿悟了这个事情
就要应该按照公司的方式去运转
就是前open up i 时代和后open 的时代
是的
感受是的是的
对
那会不会给他做的时间不够长
Laopen one 毕竟慢慢做了很多年
你觉得现在这个生态或者机坠有那么长时间的探测器吗
它有这个包容度吗
还有你们的现金流够吗
现金流肯定是我们会也是持续会募资的
我个人是觉得就是现在的路线已经相对来说比较清晰了
六到十二个月我觉得是能够画上一个逗号
然后开始去做产品
如果说你一年前问我这个事情
我可能觉得我们需要做三到五年的research development
我觉得也是我在不断的思考我自己意识到这个原模型的可行性之后啊
我说我要快速的推推进这个事情了
那之之我确实实是挺犹豫豫吧
就是因为我没有找到一条清晰的路吧
对
当然这条清晰的路线在做的过程中实际上也是会不断的进行调整
你们这个路线也可以描述成原模型
也可以描述成afl
Auto research
可以描述成physical 索菲亚
你觉得哪个词是最精准的
如果只选一个
我觉得auto research 是最接近的
但是我觉得我们得创造一个新的词汇专门给我们这个路线起个名字
但是我们sofar 还没有太思考这方面的问题
我觉得未来是需要
就比如像ai 的物理学这个东西就是我们自己起的名字嘛
因为现在所有mual lapse 都是他说
他形容他在做一个什么事情
那创业者和投资人脑子里都就不是一个事儿
不是一个事
对 但是对
不是一个事儿就之所以用这些clcliction word
是因为投资人他要得听懂
对
你看你们也被投资人描述成ff science 对吧
他是跟你你心目中的构思也是不同的
但是你现在心目中构思其实也没有找到一个最准确的词来描述它
所以也在套一些词汇
是的是的
从投资人的视角
我的理解是他们投的方向其实也蛮广的
在他们接触到的广度里面
Af science
Ch ffai
Auto research 其实都算一堆
对就
呃 计算模型
世界模型都算一堆
嗯
你觉得今天处于一个ai 发展的一个什么样的时期
他收敛清新了已经
我觉得对于大语言模型
它收敛已经比较清晰了
嗯
但是新的机会是来自于就是其实我们一开始也聊到
就是关于世界模型
然后关于auto research
嗯
这两条赛道我认为还处于相当早期
大语言模型可能辐射不到
辐射不到
但辐射不到的原因我觉得我也不是说transformer 的heater 啊
我觉得更多的还是说model
Model 那边其实我觉得更像是说要找到一个更全新的架构
它能够更好的去抽象和找到这个物理世界真正的latenn ace
Auauto sesearch 这边
我觉得更多的还是说大语言模型没见过这种数据
所以第一步是首先要去结构化
然后第二步是收集这种结构化的research 的数据
这个是最重要
那有了这些数据
其实大模型也能吃
其实它做的其实可能也不赖
当然了
这个原模型的这个路径
它是一种关于模型的模型
大模型也是因为没有见过关于模型的这种数据
没有见过太多关于模型的这种结构化数据
所以大模型也做不好
你这创业几个人什么感受啊
对对
节奏非常快
都快
基本上就是除了睡觉都是在工作吧
对
但是我觉得也是一种挺薪的体验吧
一方面是你有了更多的资源
你认识了更多的人
你好像就是突然接触到了一个更大的世界
但另一方面
技术上的事情
研究上的事情还是得踏踏实实的去做
嗯
是一个技术上的一个挑战吧
因为之前的话就仅踏实实的做研究
但是现在的话
不仅是做当下的研究
你还要和很多的人去做交流
而且你还要去想
不仅去去当当下事事情
你还要想当几年后的的事情
根据几年之后的目标去导究那们这个路径到底该怎么去走
嗯
所以这个我觉得这个有一点diout of my distribution 的东西也是我在学习的事情
嗯
如果只能选一个
做professiy 和做企业家entrepreneur
你会选哪个
对对对 嗯
我都要
就是我现在都是我都要的状态
如果非要
非要选一个
我觉得这个再看吧
看做做看做做看
嗯
对
今天这个创业的时代好像跟以前跟特别的不一样
因为很多都是学术背景
或者是你像你是有了教职以后也创业
那也有的是学生开始创业
就是好多都是research 背景人在创业的
对
我觉得还是取决于做的事情它是一个是否需要早期去研究驱动的
对auauto search ch worle model
我觉得至少需要六到十二个月研究驱动的时间
嗯
那这个时间是不能够被跳过的
嗯
那至于比如说六到十二个月之后
当我把我脑子里的这个东西给它down 不出来
嗯
比如说当不成一个雏形
它摆在我的眼景
或者是比如说在引入一些有这个产品经验
有这个商业化经验的一些联创进来
帮助去把这个东西的影响力打出来
而不仅仅是一个小而美的一个东西
但是我觉得还是需要
就是说啊
六到十二个月的时间是首先把这个原形打出来
嗯
所以理想状态是六到十二个月这个研究探索的成果及某个产品
是的是的 嗯 对
那我最后几块问快答
全球范围内
你一个你喜欢的食物反正我不管在哪里去读书还是旅游
我都是会想吃这个热干面的
一个全球范围内你喜欢的地点
只要有江河的地方我都挺喜欢的
包括武汉
包括上海这边
就是在这个黄浦江边上
在mit 就是在波士顿那边就是查尔斯河
我喜欢没事就去河边走走
一本影响过改编你人生的书
人类简史吧
就是我其实就一直都比较的就是不是很懂这些nersocial science 的事情
然后我有的时候会觉得
哎
这个事情明明不合理
但是为什么大家都相信这个事情啊
然后读了人类简史之后就知道
哦
我们的这个社会其实就是故事驱动的
所以叙事非常重要
不仅仅是技术重要
这个背后的叙事也是非常重要的
在你心目中影响ai 进程的几篇论文
这个太常规的就不说
就比如说像skallow 呀这些文章
就我觉得对我个人影响来说最大的就是干这篇文章吧
因为它相当于是为我打开了这个ai 世界的大门
基于你当下的认知
一个关键的重要的but at 什么
可能就是我
我们刚刚一直讲的就是ff coding
下一个会是alphone research
但是是需要用physics of ile 的方式去做
So
好了
今天的节目就是这样
这里是商业访谈录
是一档由语言及世界工作室出品的深度访谈节目
你可以到公众号关注我们的工作室
获取更多的信息
我们的公众号是语言及世界language is world
也欢迎你在小宇宙的评论区与我们有更多的互动
我们希望和你一起从这里探索新的世界
Will lestort the new way