本字幕由TME AI技术生成
大家好
欢迎来到bass blocks 早报播客
我是吉诺
今天是四月九号
星期四
今天的内容特别集中
两个关键词
长跑和解耦
智朴开源了grm 五点一
这是目前全球唯一能连续工作八小时的开源模型
他们直接抛出了一个新指标
叫有效工作时长
Meta 超级智能实验室也教出了muse 系列的第一款mu spark
预训练效率比拉四almmemoric 提升了一个数量级
Anthropic 工程团队也讲了他们怎么把智能体的大脑和双手分开
背后是一次老派但彻底的架构重构
听完这期
你大概能拿到三个东西
第一
模型能独立工作八小时到底意味着什么
真实场景是什么样的
第二
Meta 怎么做到预训练效率十倍提升
以及为什么会出现一个叫思维压缩的东西
第三
把智能体从宠物做成深处之后
首次延迟为什么能直接调到原来的十分之一
除了这三条精讲
素懒还会带过dhh 的转向
Matn floer 的反馈
飞轮irn vvy 谈企工智能体
两场关于多智能体编排和沙箱安全的实战分享
开始吧
第一条
质朴发布了glm 五点一
这是他们迄今为止最智能的旗舰模型
也是现在全球最强的开源模型
先说一个我觉得最有意思的提法
过去两年
整个行业衡量模型靠benchmark
谁刷分高谁就更聪明
质朴这次抛出一个新指标
直接叫长程任务
因为是long horizon 任务
核心问题变成了模型能独立工作多久
他们给出的答案是八小时
期间无人干预
全程自主规划执行
自我进化在metr 这套评估标准下
Glm 五点一是唯一达到八小时级的开源模型
全球范围内除了clode opops 四点六
也只有它具备这个能力
在最硬核的软件工程基准
也就是sw bench 的pro 级测试上
它也刷新了全球最佳成绩
超过了gpt 五点四和cloud opens 四点六
质朴放了三个场景来证明这件事
第一个场景
八小时丛林
构建一套linux 桌面模型
白天画好架构草图
睡前扔给模型
早上醒来就是一套完整的桌面
包括窗口管理器
状态栏
应用程序
Vpn 管理器
中文字体支持和游戏库
整个过程一千二百多步
提交
再到一次人为介入
这型甚至给自己写了回归测试
而且全部跑通
这服m 这件事起了一个很精准的干以
睡觉的八小时是模型上班的八小时
第二个场景
向量数据库优化
这个任务有明确的数值指标
查询吞吐量
Sgg lm 五点一做了六五五轮召代
自助完成了从全库扫描切到ivf 分筒召回
再到半精度压缩量化粗排两级路由的整条优化链
最终吞吐量被推到了初始版本的六点九倍
第三个场景
最能体现创造力
机器学习内核优化
在kernel bench 三级难度的五十个真实负载上
Glm 五点一跑了超过二十四小时的持续迭代
几何平均加速比是三点六倍
模显高于pattele 只自带compile 模式的一点四十九倍
过程中他自己写try 和和itooda 内核
用到couplus out
融合共享内存分块
Cudi graph 这些微架构及优化
过去这是高度依赖专家经验的领域
现在能端到端由模型自主走完
我自己读完的感受是
这次开源事件真正的信号不是分数
而是范式迁移
过去我们把模型当成代码生成器
现在他开始承担系统优化器的角色
但也别急着浪漫化
质朴自己也承认
上下文焦虑和场任务一致性才是真正需要突破的方向
第二条
Meta 超级智能实验室发布了muse 系列的首款模型muspark
这是一个原生多模态推理模型
支持工具使用视觉思维链和多智能体编排
对应的是mata 现在非常明确的新叙事
个人超级智能
我挑三个角度展开说
第一点
十倍预训练效率
Meta 过去九个月从头重建了预训练技术栈
包括模型架构
优化器和数据对照
他们按规模化定律的思路训练一系列小模型做算力对照
结论是用比拉玛斯meric 少一个数量级的算力就达到了同样的能力水平
这不是小幅优化
是一次工艺级别的升级
第二点是沉思模式
英文叫contemplating 模式
Muspark 通过并行多个智能体推理的方式
对标germany 的deep sink 和gpt pro 这类前沿推理模型
用号称极限推理考验的人类中极考试基准上拿到了百分之五十八
在前沿科学研究基准上拿到了百分之三十八
多个智能体同时推理在合并结论
好处是能在延迟基本不变的情况下换来更高的准确率
第三点最有意思
思维压缩matter 在强化学习里加了一个思考时间成罚乘罚
模型说话啰嗦
结果出现了一个有点反直觉的阶段转变
模型一开始靠想的更理来提升成绩
然后长度惩罚起作用
模型开始压缩推理步骤
用明显更少的token 解同一道题
这意味着同样的智能水平可以用更便宜的推理成本提供
放到面向数十亿用户的场景里
这是决定商业可行性的一个关键变量模型值得一提的是
Apollo research 做了一次第三方评估
发现muse buk 在他们观察过的模型里评估意识最高
意思是这个模型经常能识别出自己正在被测试
然后主动切换到更诚实的模式
这件事meter 的态度是谨慎
先放出来
这也提醒后续需要持续研究
这是一个典型的对齐备器一型越聪明
评估本身的可信度就越需要被重新审视
第三条
Anthorc c 工程团队发了一篇重新容器
讲他们的托管智能体是怎么设计出来的
标题就要把大脑和双手解口
第篇我建议议做i 基础设施或者智能体开发的朋友仔细读一遍遍
先说问题
Anthpipic 一开始把智能体的绘画
日志
控制框架和沙箱全部塞进一个容器
好处是简单
文件编辑是系统调用
没有服务边界要设计
但问题很快就来了
整个系统变成了一只宠物
取名字精心养护
坏了就没了
一个容器挂掉
绘画就丢了
调试更麻烦
五s cate
事件流是唯一的窗口
你根本分不清到底是控制框架的bug 网络丢包还是容器掉线
表现完全一样
他们的解法是把大脑
双手和绘画三者彻底解耦
大脑是cloud 加上它的控制框架
双手是执行动作的沙箱和工具
绘画是事件日志每一个都变成独立接口
互相不做假设
任何一个坏了都可以单独替换或者重启
这就是经典的宠物和牲畜的比喻
每个组件都从宠物变成可替换的牲畜
这么改之后
有三个收益特别实在
第一个是性能过去
每个绘画哪怕不调用沙箱
也要先把容器配置好
因为大脑就住在里面
解耦之后
沙箱只在模型真的发出工具调用时才配置
首次延迟的中位数降了百分之六十
百分之九十五分位降了百分之九十以上
这个数字用户是直接能感觉到的
第二个是安全过去
容器里同时放着用户凭证和close 生成的代码
一次提示词注入就能把token 泄露出去
解耦之后
所有凭证放在沙箱之外的保险库里
Cloud 调用mcp 工具是通过一个代理走的
代理负责拿凭证
代之外根本接触不到token
这是一种结构性的修复
不依赖模型
乖乖听话
第三个是持久化和恢复
因为绘画日志独立存储
大脑或者双手任何一边挂了都能恢复
新开一个控制框架
拿到绘画id
从最后一个事件继续跑
他们还把上下文窗口和绘画本身做了概念分离
上下文只是绘画的一个视图
模型可以回去重读任何一段事件流
这是长程任务能跑下去的前提
Ananthpic c 自己把这个架构叫元控制框架
意思是他对未来任何具体的智能体框架实现都保持中立
这一篇和今天第一条任l 五五一一八八小时长程任务其是呼应的
这一是模型型变聪
一一边基基础设施要跟上
两端一起才撑得起真正的自主智能体
接下来是今天的速览
七条内容快速过一遍
第一条素览
P ragmatic engineer 放出了一期和dhh 的访谈
Dhh
Rails 框架的作者
过去对ai 编程工具态度一直比较保留
这次他公开承认自己变成了ai 优先的开发者
理由是cloud 这一代模型已经具备资深工程师该有的推理和代码质量
他抛了一个有点扎心的判断
说程序员薪资的巅峰可能已经过去了
为实现能力被商品化
品味和产品直觉变成新的稀缺资源
三十七秒opignurse 的设计师角色也跟着变了
从纯设计转向具备技术能力的产品经理
第二条素来
Deep learning 最新一期
The batch
吴恩达语音界面定位位传传统ii 的自补充而不是替代品
彭鹏还梳梳立了几行行业态态
C
Lococode 内部运行机制最近被泄露
Open ai 拒传
战略性放弃sora 和视频方向
长上下文高效推理有新进展
Google 在gmi 和youtube 里都集成了ai 音乐生成能力
这期信息量密集
适合快速建立这一周的行业地图
第三条素览
Mrt
Fwler 亲自写了一篇叫反馈飞轮的文章
他观察到一个普遍现象
团队引入ai 编成助手之后
个体开发者积累了很多直觉
但团队层面没有机制把这些经验沉淀下来
他的建议是建一套反馈飞轮
把上下文指令
工作流失败案例这些信号捕获下来
回流到预设文档和团队标准里
做法是把轻量习惯嵌入战会回顾会这种已有节奏
而不是强行搞新仪式
核心观点是团队的ai 基础设施要和模型生态一起演进
第四条速览
Info q 有一篇偏工程的文上
主题是ai 智能体的状态化延续
作者提提了一个形象的的比喻
叫飞机问题
无状态http 每次调调上上文文都要重发
带宽受限场景很容易超试基基于open ai 推推的responses api 里的web soore cit 模式做了基准测试
把会话历史缓存在服务端之后
客户端发送量降了百分之八十以上
客到端执行时间最多缩短百分之二十九
代价是供应商锁定加深
可观测性变难
他基对做站的生产落地的朋友比较实用
第五条速览
Agr 十六z 请了box 的ceo
也就是aroon levy 做了一期对谈
他的核心观点是软件必须从面向人类转向面向智能体
通过apicli 和mcp 暴露能力
因为智能体的数量很快会超过人类用户
他还讨论了几个企业落地的硬问题
系统集成脆弱
智能体权限和人类角色边界难以维护
共享上下文理的提示词注入风险
他还提到token 消耗正变成销售成本的一部分
会颠覆传统软件利润模型
但同时也带来巨大的生产力杠杆
第六条素览
Ai engineer 大会有一场分享
Sn dipon bmak 把多智能体系统从提示词工程重新定义成分布式系统工程
他劝监管行业的团队别用事件驱动的carreal graphiy 模式
推荐集中式的orchestration 核心模式
包括不可变状态快照
严格数据契约熔断器和saga 模式
他给了一套基于data breicks
Langraph 和unit catalog 的生产及参考架构
落地性很强
第七条素览
同样来自ai engineer 大会cloud flared 的harsh o graphh 做了一场沙箱主题的分享
它的定义很直接
Ai 生成的代码本质上就是来自互联网的不可信代码
三条主要威胁是幻觉
过度执行
提示此注入
它主张用能力安全思路
从零权限开始
只授予任务所需的最小权限
而不是靠拦截
视频里对比了v 八isolate 和容器两种沙箱方案的取舍
还给了构建安全ai 应用的八项核心原则
比如密钥代理和严格的用户间隔离
值得做ai 基础设施的朋友收藏
好
今天就聊到这里
今天信息量不小
我个人最推荐第一条glm 五点一的八小时长城任务那篇
还有第三条antharpic 关于托管智能体的长文
两篇一起读效果会更好
一篇讲模型变聪明
一篇讲基础设施要跟上
拼在一起就是下一代智能体的完整图径
所有链接都在简介里
明天见