本字幕由TME AI技术生成
嘿 大家好
我是吉诺
欢迎收听best blocks 周刊播客
今天聊的是第八十七期周刊
主题是自我进化
读完这周的精选内容
我脑子里反复出现的就是这个词
或者是模型在进化
工具链在进化
基础设施在进化
连我们对智能的理解本身也在被重新审视
这期内容量很大
我挑了几个我觉得最值得深聊的话题
咱们一个一个来
先说本周我觉得最值得细看的一篇
Miniax 发布了m 二点七
这个模型做了一件很不一样的事
他开始深度参与自身的迭代过程
以前模型迭代是什么样的
训练完成
部署上线
然后等下一个版本
但m 二点七不一样
Minmini ax 在m 二的早期版本中就开始把模型引导成一个研究型agent
让它能和不同研发项目组协作
这个系统覆盖了数据流水线
训练环境这个基础型设式
跨团队协作和持久化建
研究员在每一层参与具体构建
模型在每一层参与具体构建
过去这些工作往往需要多个团队协同完成
现在研究员只需要在关键决策和讨论时介入
据他们的说法
M 二点七已经能够胜任百分之三十到百分之五十的工作流
更有意思的是它自主迭代harness 的部分
Harness 你可以理解为一套agent 的运行脚手架
包括工具调用
记忆管理
评测这些能力
Minax 的内部harness 会自主收集反馈
建立评测集
并基于评测结果不断迭代自己的优化机构
一个是实现和记忆机制
他们做了一个实验
特别有意思
让m 二点七去优化一个内部脚手架上的软件工程开发表现全程自主运行
它自己分析失败的执行轨迹
规划改动方案
修改脚手架代码
运行评测对比结果
然后决定保留还是回退
这一整套循环跑了超过一百轮
在这个过程中
M 二点七自己发现了几个有效的优化方向
一个是系统性搜索采样参数的更优组合
比如温度
频率惩馈
存在惩罚这些
另一个是为模型设计更具体的工作流
指引他们修复一个bug 之后
自动去搜索其他文件中有没有相同的问题模式
还有一个是在agent 循环中加入死循环检测
这类工程优化最终效果提升了百分之三十
他们还做了一个更激进的测试
给m 二点七的agent 二十四小时
同它在二十二个机器学习任务上自主迭代进化
Agent 每完成一轮迭代后
会形成短时记忆文件
同时对当前轮次进行自我反馈
给下一轮提供优化方向
三次测试中
最好的一次拿到了九枚金牌
五枚银牌
一枚铜牌
得牌率达到百分之六十六点六
从基准测试看
M 二点七在swa pro 上得分百分之五十六点二二
逼近opice 的最佳水平
在端到端项目交付场景的y pro 上得分百分之五十五点六
几乎和cloud open 四点六持平
在terminal bench 二上得分百分之五十七
说明它不止擅长写代码
还能深入理解软件系统的运行逻辑
在办公文档处理方面
M 二点七在一个覆盖四十五个模型的评测中排名第四
仅次于oppo 四点六
Sunt 四点六和gpt 五五点四
博客中分享了一个金融研报的案例
M 二点七
可以自主阅读台积电的年报和业绩沟通会纪要
交叉比对多篇研报
独立设计假设并构建营收预测模型
在基于模板产出演示文稿和研究报告
从业者的评价是产出物已经可以作为初稿直接进入后续工作流
这篇文章真正打动我的地方不在于分数本身
而在于它展示了一种新的模型迭代思路
模型不再只是训练完成后就被定型的产物
而是一个可以在部署后继续参与优化的系统
当模型开始改进自己的运行环境
并进一步改进自己的表现
这个循环一旦跑通
先代速度就可能比纯靠人工更快
说到工具的自我进化
科瑟发布了composer 二
这个升级也很代代表性
先看数据
Cer binch 从三十八月升到六十一点三
Tr mino binch 二点零从四十升到六十一点七
三代产品的迭代节奏值得注意
Composer 一到一点五还像是在起步
一点五到二的后升幅度就明显点更大了
Cssbin 从四十四点二直接跨到六十一点三
一步拉开了十七个百分点
提升的核心来自他们首次将持续预训练与强化学习深度结合
持续预训练是什么意思呢
就是在通用大模型的基础上
用特定领域的数据继续训练模型
科尔选择在自己积累的编程数据上做这件事
而不是只依赖上游基座模型的升级
这样他们先得到一个更适合编程场景的基座
再在这个基座上所强化学习训练模型
去解决需要数百个步骤的长路径编程方务
这意味着什么
过去编程工具的天花板基本取决于底层大模型有多强
上游模型升级了
你就变强
上游模型没升级
你就只能等
科尔团队用持续预训练打破了这种依赖关系
开始主动决定模型的进化方向
从这个角度看
这本身就是编程工领领域自我进化的一个典型案例
顺便提一下这周模型领域的其他动态
Anththropic 全面上线了cloud 百百token
Ken 上文文任取消消了文本的额外收费
Opens 四点六在mrcrv 二测试中以百分之七十八点三的准确率排名第一
塞进一百万token 后依然能精准检索细节
Open ai 发布的gpt 五点四nano 则以每百万输入token 仅零点二美元刷新了性价比记录
Se 盟walilson 实测用他描述七万六千张照片仅花费五十二美元
抢上下文和低成本推理正在变成标配
小米发布的m mo 二pro 也值得关注
One e 参数百万万下文
在代码和agent 场景下表现逼近cloud opps 四点六
当api 价格仅为其五分之一
当agent 的使用成本进一步降低
更多长尾场景就会被打开
换个话题
说说基础奢侈层面的进化
C 劳的flair workers ai 这周正式引入了大模型推理
首发搭载跃至暗面的kimik 二点五
支持二十五万六千token 上下文
多轮工具调用和视觉输入
Cloud flair 过去两年一直在做ai 推理
但主要跑的是小模型
原因不难理解
过去开源大模型和闭源前沿模型之间一直有差距
Kemk 二点五这类模型改变了这个局面
但要把它真正跑在边缘网络上
推理战还需要做不少改造
Cloud flaer 团队为他定制了推理内核
在自研的infire 推理引擎上做了数据并行
张量并行
专家并行等多种优化
还把预填充阶段和生成阶段拆到不同机器上跑
以提高gpu 利用率
他们在博客里分享了一个很有说服力的内部案例
Cloud flaer 有一个做代码安全审查的agent
每天处理超过七十亿token
仅在单个代码库中就捕获了十五个以上已确认的安全问题
不过用中等价位的闭源模型跑
年费用大约是二百四十万美元
换成k imi k 二点五后
成本节省了百分之七十七
技术层面有两个关键优化值得展开
第一个是前缀缓存
Agent 的场景下
每次请求都会带上大量的系统提示词
工具定义
代码上下文
理论上二十五万六千token 的输入都可能用买换
相邻两次请求之间真正新增的内容往往只有几行
前缀缓存把之前请求的输入张量缓存起来
只对新增部分做计算
大幅减少首个token 的延迟
第二个是会话亲和性
确保同一绘画的连续请求被路由到同一台gpu 节点
这样键值缓存可以在请求间复用
不用每次都重新生成
两者叠加之后
多轮对话场景的推理延迟和成本同时下降
Cloud flier 在博客里还点到一个方式
随着个人agent 越来越普及
每个员工可能同时跑多个agenent
每小时消消耗个开万投ken
闭源模型的成本会成为扩展的主要瓶颈
开源模型加边缘推理基础设施的组合是他们判断的行业方向
说完基础设施
聊聊开发者工作方式的变化
S amman weison 在pragmatic engineer 的对谈中分享了他过去几个月使用aig 的编程的方法论
C 是是占构架架联合创始分分享了数百百个源项项同同是是是ma i 域域活跃跃的工之一
这随是尝新者的体验创分同同时一个身开开发者在量量践后后沉淀出来工作作式队台里有个细节节有代表性
化在上台台三十分钟每
他掏手手机让cloud 优化自己python 写的web assembmbly 引擎
结果斐波那气性能提升了百分之四十
提
提示词有一句句运运一个基基测
测试后找出让它变快的最佳方案
而现在
亲亲眼着他一边聊天一边边aa 在后台写代码
第现在段手机写代码甚至比用笔记本还多
他的核心方法论是红绿测试驱动代发第三阶试
让他失败
进入红的状态
再让agent 补全实现
让测试通过进入绿的状态
他坦言自己在过去的职业生涯里
一直觉得测试驱动开发极其繁琐
严重拖慢速度
再让agent 来做这件事就完全不一样了
测试驱动的关键不在于测试试状态
而在于他约束了agent 行乎边界
确现他不会过度编写代码
而现在生成测试的成本几乎为零
他还提出了一个很有意思的agent 使用阶段
开码第一阶段
向agent 提问
第尔有用
第二阶段
开始用编码agent 写大部分代码
第三阶段
Agent 写的代码比你自己写的还多
第四阶段
一些前沿团队规定所有人都不再亲自写代码
工作变成纯粹码指挥
监督和审查
第五阶段
连代码都不看了
听起来很疯狂
但他打了一个比方
在大公司里
其他团队给你提供api 服务时
你也不会去翻他们的底层代码
你信任的是专业团队的产出
信任ai 一开始确实让人不适
但一旦跨过这个门槛
开发者的角色就会从编码者变成指挥者
关于代码质量
他的态度很务实
接受agent 的生成的低质量代码是你自己的选择
如果你要求他重构某部分并使用另一种设计模式
最终得到的代码质量往往比手写还好
因为人类有时候懒得花一小时去重构
但给agent 一个提示词让他去做就很愿意
说到agent
本周有两篇关于agent 架构的文章
放在一起读特别有收获
阿里云开发者的一篇长文系统梳理了从单agent 到多agent 再到agent 技能和agent 团队的演化历程
核心观点很清晰
当前许多复杂架构本质上都是对大模型领域知识不足和长期记忆缺失的工程补偿
作者引用了google deep mind 和anthropy 的实践经验
提出了如无必要物增实体的选型策略
Anthropic cloud code 团队工程师three ico 的实战总结则从内部视角补上了另一半
Anthropic 内部活跃使用的skills 已经有几百个
文章将他们梳理成九大类别
这我印象最深的一个判断是让人困惑的
Skills 往往横跨了好几个类别
而好的skills 会清晰的落在某一个类别里
这和软件工程里单一职责的原则如出一辙
两篇放在一起
前者帮你理解为什么要做skills
后者告诉你怎么做
好
再说说ai 成为同事这个话题
这周有两个产品不约而同的把ai 推向了独立工作者的角色
钉钉发布了ai 原生平台悟空
核心是通过命令行接口实现企业业务流的可编程化
四十二章
经对q 四
Ai 联创与豪的对谈则展示了更前沿的实践
这个十五人团队配备了三四个有名字有邮箱由手机号的ai 同事
每天都在产出真实业务价值
他们甚至不得不专门建一个人类专属群
让人类单独聊天
零融资就做到了千万美金年收入
当ai 从工具变成同事
组织形态本身也在被重塑
说到行业大势
绕不开黄仁勋在gtc 二零二六年的主题演讲
他讲了两个多小时
干货很多
他在台上说过一句话
英伟达已经不是那个卖显卡的公司了
现在做的是为ai 基建时代搭建完整技术栈
硬件方面有三件大事
唯尔rubin 超级ai 平台以全面投产
由七款芯片组成
包含一千一百五十二个rubin gpu
算力规模非常夸张
Athropic
Open ai
Meta
Mystero 和所有主要云提供商都是客户
整个系统采用百分之百液冷架构
安装时间从过去的两天缩短到大约两小时
下一代费曼架构采用台积电一点六纳米制成
引入了光电共封装技术
更关键的是
他搭配了一个全新的cpu
代号rosa
专为agent 编排设计
用来更高效的调度gpu 存储和网络之间的token 流动
在软件层面
黄仁勋花了大量篇幅讲open claw
他把它定义为智能体计算机的操作系统
它有短期的文件系统内存
能管理资源和调度任务
具备输入输出子系统
还能运行各种skills
它甚至判断
就像linux 推动了服务器生态
Cube netis 推动了云计算
Htmo 构建了互联网应用
Open cloud 为智能体时代提供了关键的软件站
他还提出了一个很直接的判断
未来几乎所有sas 公司都将变成aas
也就是agent 及服务
他甚至预测
科技公司招工程师时
除了薪水
还会给token 配额
他做了一个思想实验
如果一个工程师年薪五十万美元
年底告诉你只花了五千美元的token
那说明它没有充分利用ai
按他的说法
一个工程师应该消耗至少二十五万美元的token
关于为什么ai 企业近两年集中爆发
他总结了三个拐点
第一个是chat gbt 开启生成式ai 时代
第二个是推理型ai 让模型有了反思和规划能力
第三个是clode code 开启了agent 的时代
它能阅读文件
编码 编译
测试并迭代
风险投资去年对ai 初创公司投入了一千五百亿美元
创人类历史之最
他对营收的预测也很大胆
到二零二七年
Ai 相关营收将至少达到一万亿美元
聊了这么多进化的故事
最后说说一个不同的声音
谢塞宁的三万字访谈是本周最值得沉下心阅读的内容
他和yelloc 共同创立了mmll abs
仅二十五人
在没有任何产品的情况下完成了十点三亿美元种子轮融资
投前估值三十五亿美元
总部设在巴黎
另有纽约
蒙特利尔
新加坡三个研发中心
唯独没有硅谷
它的核心观点是
硅谷被大语言模型催眠了
语言模型本质上是缺乏物理理解的虚拟智能
真正的智能需要通过世界模型预测环境状态
而不只是预测token
他用了一个很直接的类比大语言模型
像visa Mil
Abs 想做的是master cut
不是正面对抗
而是组织一个草根联盟
把那些拥有大量真实世界数据的公司联合起来
唯建世界硅型
它更尖锐的判断是
语言是一季鸦片
可能正在污染视觉表征的学习
他担心的是
当大量视觉模型都把语言当做监督信号时
视觉系统学到的可能不是对物理世界的理解
而是对语言描述的拟合
这个方向一旦走偏
后果可能是根本性的
在所有人都在追逐更大的语言模型时
谢在林提醒我们
进化的方向可能不止一条
Stack offer overlow 博客这周也发出了一个值得警惕的信号
Ai 正在成为你的第一大脑
但代价可能是牺牲你的第一大脑
文章引用了两篇最新论文
一篇研究发现人们会把信念形成的过程外包给ai
而不只是把它当成信息检索工具
另一篇分析了真实使用中的赋权丧失模式
两篇论文共同指向一个机制
大语言模型倾向于告诉你想听的话
而你也倾向于相信ai 说的话
这个循环一旦形成
认知能力的退化往往是渐进的
不易察觉的
这和亚马逊ai 产品负责人的观察相呼应
百分之八十五的ai 项目失败不是因为技术不够好
而是因为团队在优化演示效果
而不是真实用户价值
当ai 可以快速生成看起来很棒的演示时
产品判断力反而变得更重要了
读完这期内容
我一直在想一个问题
自我进化到底指向什么
Mini max 让模型自主迭代一百轮
表现提升百分之三十
钉人在自己的数据上做持续预训练
让编程模型代代加速
Cloud flaer 把推理嵌入边缘
把成本压低百分之七十七
科尔和库斯ai 让ai 变成二十四小时工
工作同 同时
这都是系
系统层面进化
化线系系效
效果可量化
那现在宁和stack offer flow 篇文章提醒了另另一进
进化应
应只有一条轮
当所有人人都追
追逐语模模型的规模定律时
世界模型许许另另一条被忽视的线索
当工具越来越强大时
人的独立判断力反而越发珍贵
黄仁勋说
工程师应该消耗至少二十五万元的token
Ken mon
威廉森说
开发者的角色正在从编码者变成指挥者
但指挥什么
往哪个方向走
这些决定仍然需要人来做
这也是我这周微调best blocks 评分体系时最深的感受
Ai 可以跑遍所有内容给出初步判断
但什么是好内容
分数应该怎么校准
哪些规则值得沉淀
这些仍然需要人来决定
系统在进化
但进化的方向最终还是要由人来把握
好
这期就聊到这里
本期完整的二十篇精选文章可以在base blocks 官网上查看
链接在简介里
保持好奇
我们下周见