本字幕由TME AI技术生成
嘿 大家好
欢迎收听每日ai 资讯播客
今天是四月六号
星期一
新的一周开始了
我是neo
我是福米亚
周末攒了好多猛料
今天一开场就得跟大家聊
Cloud code 居然挖出了一个藏了二十三年的linux 漏洞
Hn 上三百多分
评论区炸了
对
还有open ai 那边又搞了个大动作
Gpt 五点四mini 和nano 同时上线
另外千问三点六plus 这个调用量破记录的事情也有最新后续
内容很多
我们直接开聊
走起
第一个话题
我个人觉得是这周末技术圈最震撼的
Cloud code 就是n fr ropick 的编程aai 助手发现了一个隐藏在linux 内核里长达二十三年的安全漏洞
Hn 上三百五十七分
二百三十五条评论
讨论热度非常高
二十三年
那不是从二零零三年左右就存在了
这么多人审计过linux 内核代码
包括顶级安全研究员
各大公司的内核团队居然都没发现
这就是最让人细思极恐的地方
Linux 内核代码量巨大
几千万行
很多历史模块的代码风格跟现代完全不同
人类审计的时候很容易跳过那些看起来一直在那儿一直能跑的老代码
但ai 不一样
它没有这种认知惰性
它会逐行分析每一段逻辑
所以ai 在安全审计上的优势不是比人类聪明
而是比人类有耐心
他不会觉得这段代码已经跑了二十年了
应该没问题
完全正确
而且这个漏洞的性质很关键
如果是一个普通的性能bog
二十三年没人发现也就算了
但这是安全漏洞
意味着过去二十三年里
理论上这个漏洞一直可以被利用
当然
具体是什么漏洞类型
披露的细节里没有完全公开攻击路径
但光是二十三年未被发现这个事实
就足够让安全社区反思了
我记得我们昨天还聊到cloud 有一百七十一种情绪状态能勒索人类
今天他又在挖漏洞
这反差也太大了吧
一边是安全隐患
一边是安全守护者
哈哈
薛定谔的cloud 不观测的时候
你不知道他在帮你还是在算计你
但说正经的
这件事对安全行业的启示非常深远
传统的代码审计靠的是经验丰富的安全研究员手动review
但人力有限
内核代码那么多
不可能每一行都反复看
Ai 可以不知疲倦的扫
而且每次扫完可以换个角度再扫
所以对安全从业者来说
这是不是意味着未来ai 辅助审计会成为标配
我觉得已经不是未来了
而是现在进行时
如果你是做安全的
赶紧把ai 审计工具纳入工作流
不只是找新代码的boook
更应该对历史遗留代码做一轮全面的ai 扫描
谁知道你的代码库里还藏着几个二十三年老漏洞呢
这个投资回报率极高
一个未发现的漏洞可能造成的损失远远超过跑一轮ai 审计的成本
确实
这可能是今年安全领域li 最高的事情之一了
好
那我们接着聊下一个重磅
第二个话题
Open ai 上周末正式发布了gpt 五点四mini 和nano 两个小尺寸模型
这两个模型是gpt 五点四的精简版
专门针对编码工具调用
多模态推理和高并发api 场景优化的
等等
Gpt 五点四都有了
我怎么觉得每次一眨眼
Open ai 就蹦出一个新版本号
Mini 和nano 分别是什么定位
简单说
Mini 是中等体量
在能力和成本之间取平衡
适合大部分生产环境
Nano 是超轻量级
延迟极低
适合需要高频调用的场景
比如subagient 工作负载
就是让一个ai 去调用另一个ai 的那种架构
Sub agent 工作负载
这是不是呼应了最近ai agent 越来越复杂的趋势
一个主agent 分配任务给多个小agent
每个小agent 用nano 级别的模型就够了
Bingo
这正是open ai 的战略意图
当ai agent 架构变得越来越多层的时候
你不可能每一层都用最贵的大模型
外层的决策agent 用gpt 五点四完整版做战略决策
内层的执行agent 用nano 做快速工具调用
这样既保证了整体智能水平
又把成本控制在可接受范围
说到成本
具体价格呢
跟cloud 或者千万比怎么样
具体价格还需要看api 定价文档
但从定位来看
Nano 应该会非常便宜
甚至可能是目前所有主流模型里最低一档的
Mini 的话
大概跟cloud high co u 一个量级
关键步只是单价
而是open ai 一口气给了你一个完整的大中小模型矩阵
你可以根据任务复杂度灵活选择
这对企业客户很有吸引力
这让我想到一个趋势
模型不再是越大越好了
而是该大则大
该小则小
对开发者来说
最重要的能力变成了知道什么时候用什么尺寸的模型
完全同意
如果你是在做ai 产品的开发者
我建议赶紧做个实验
把你现在用大模型做的所有任务列出来
逐个测试用mini 或nano 替换后效果如何
你可能会发现
百分之六十到百分之七十的任务用nano 就够了
成本直接降一个数量级
这不是省小钱
是省大钱
Open ai 这部棋下的挺精的
好
接下来聊个特别有意思的事情
第三个话题
Meta 在广告排名上的ai agent 化
他们发布了一篇博客奖ranking engineer agent
简称raa
这个agent 能自主执行广告排名模型的端到端机器学习生命周期
自主执行端到端ml 生命周期
这意味着从数据处理
特征工程模型训练到上线部署
全都是agent 自己搞定
对
而且不只是oria
Matter 同时还发了另一篇关于adaptive ranking model 文章讲怎么用lm 规模的模型来做广告排名推理
还能弯曲推理缩放曲线
就是在不成比例增加计算成本的情况下获得更好的排名效果
等一下
我想理清楚
Matter 的广告业务可是他们的印钞机
每年几百亿美元营收
他们把这么核心的业务交给gi agent 来管
这正是最值得关注的点
Meta 不是在边缘业务上试水agent
而是直接让agent 接管核心收入引擎
这说明什么
说明agent 的可靠性已经达到了生产级别
至少在meta 内部的评估中是这样
昨天我们聊到rea 正式接管核心业务流的时候也提到过
今天有了更多技术细节
那对matter 的ml 工程师来说呢
他们的工作会被agent 取代吗
更准确的说
是被重新定义
以前ml 工程师花大量时间在重复性的实验迭代上调参
跑实验
看指标再调参
现在这些交给rva 了
人类工程师的角色会转向更高层的决策定义
优化目标
设计agent 的评估框架
处理agent 搞不定的长尾问题
所以这其实是ml 工程师角色升级的信号
从手动调模型的人变成管理ai agent 的人
精准概括
我给所有做email 的同学一个建议
如果你现在的工作内容百分之八十以上是重复性的实验跑批
你需要尽快往上游走
学会设计子工作流和评估框架
因为agenmatta 今天做的是
明天每个大厂都会跟进
Meta 确实一直在ai 基础设施上走的很前
说到meta
他们这周末还有另一个动向
对
第四个话题
关于meta 对基础设施的投入
他们发了一篇博客
讲meta 重新加大对jamlock 的投入
Jamallock 是一个高性能内存分配器
在互联网公司里被广泛使用
Jamm walck 这个名字好多开发者应该听过
但可能不太了解具体是什么
为什么meta 要专门发博客说这件事
因为jama lock 实际上是meta 以前叫facebook 自己开源的项目
它的核心作用是让应用程序更高效的管理内存
减少内存碎片
降低延迟
对于meta 这种规模的公司
内存分配效率每提升百分之一
可能就省下上亿美元的服务器成本
上亿美元
就因为内存分配
你想想
Meta 运行着全球最大的社交网络之一
每秒处理的请求量是天文数字
每个请求都涉及内存分配和释放
如果每次分配能快那么一微秒
乘以几十亿次请求累积
效果是惊人的
这就是基础设施优化的威力
看起来不性感
但影响巨大
这让我想到一个有趣的对比
大家都在jai 模型层面的创新
但meta 同时也在默默加固底层基础设施
这其实是个很重要的启发
现在创业圈都在追大模型
追agent
但真正能建立壁垒的往往是基础设施层面的积累
大模型上面的应用可以被快速复制
但你的基础设施效率
你的数据处理管线
你的内存管理优化
这些是别人很难一夜之间追上来的
所以对技术创业者来说
别只看上面那层光纤的ai 应用
底层基建同样重要
好
我们聊个轻松点但特别酷的话题
第五个话题
英伟达的神经纹理压缩技术
这个技术可以让游戏中的纹理显存占用值降百分之八十五
而且画质几乎没有损失
It 之家在gtc 大会上报道了这个
降百分之八十五
这也太夸张了吧
现在三a 游戏动不动就要求八g 甚至十二g 显存
如果纹理占用能降这么多
那岂不是中低端显卡也能跑大作了
理论上是这样的
传统的纹理压缩技术是基于区块的
把图片切成小块然后压缩
但英伟达这个方案完全不同
它用的是神经网络来做压缩和解压
简单类比一下
传统方法像是把照片存成j pack
而ntc 更像是让a ai 学会这些纹理的本质特征
然后实时重建出来
等等
那解压的时候不会有额外的gpu 计算开销吗
用省下来的显存换计算时间划算吗
好问题
这确实是个权衡
但英伟达在新一代gpu 的硬件层面做了专门的加速单元来处理这个解压过程
所以性能开销很小
而且你想想
显存不够的时候
游戏要频繁的在显存和内存之间搬运数据
这个带来的性能损失远比ntc 解压的开销大得多
所以这本质上是一个空间换时间变成ai 换空间的故事
非常精辟
而且这个技术的影响不只是游戏
想想vrar 场景
头戴设备的计算资源更有限
纹理压缩百分之八十五对移动端vr 来说简直是救命的
再想想云游戏
如果每个串流实力的显存需求降了百分之八十五
同一台服务器就能服务更多玩家
英伟达一直都很擅长这种看起来是某个领域的技术
实际上影响整个生态的创新
对
这也是英伟达为什么估值这么高的原因之一
他们不只是在卖gpu
而是在不断重新定义gpu 能做什么
如果你是做图形渲染或者游戏开发的
Ntc 值得密切关注
可能半年到一年后就会成为新的开发标准
玩家们的钱包可以稍微松口气了
好
前五个话题聊完了
下半场我们继续
下半场开始第六个话题
Charge gpt 现在开始做购物了
Open ai 发了一篇博客
叫powering product discovery in charge pt 推出了一个叫agentic commerce protocol 的东西
让商家可以接入chat gpt 的购物体验
Chat gpt 做购物
这跟搜索引擎购物有什么不一样
我直接在google shopping 上搜不就好了
区别很大
传统搜索购物是你告诉搜索引擎我要买什么
然后他给你一堆链接check
Gpt 的购物更像是有个真人朋友帮你挑
你可以说我想给我妈买个母亲节礼物
她喜欢园艺
预算五百块
然后他会理解你的需求
帮你筛选做对比
甚至告诉你为什么推荐这个而不是那个
这不就是淘宝客服梦寐以求的能力吗
但这对现有的电商平台来说是不是很大的威胁
这就是关键
Open ai 搞的这个agencc commerce protocol
本质上是在建立一个新的商品分发渠道
以前消费者的购物入口是搜索引擎或者电商app
现在open ai 想让check gpt 成为新的入口
如果成功了
他就掌握了巨大的商业流量
那商家为什么愿意接入呢
他们不怕被check gpt 抽成吗
因为check gpt 现在有超过十亿级的活跃用户
这个流量太诱人了
而且check gpt 的推荐比传统广告更精准
他真的理解用户需要什么
不是根据关键词匹配
而是根据对话上下文理解意图
对商家来说转化率可能会高很多
这么一看
Open ai 不只是在做ai 模型公司了
它再变成一个商业平台
对普通消费者来说
这到底是好事还是坏事
短期来看是好事
购物体验确实会更好更个性化
但长期要警惕的是
当ai 来推荐商品的时候
你很难分辨它是真的在帮你选最好的
还是在推利润最高的
这个信任问题以后会成为大一题
如果你是做电商的
现在就该开始研究怎么接入chage pt 的商品协议了
早接入早站位
Ai 购物这个赛道越来越热了
好
继续下一个
第七个话题
我们来聊聊coding agent 的架构设计
Hn 上有一篇一百五十四分的文章
叫components of a coding agent 拆解了编码agent 的核心组件
这个话题好及时
现在cursor
Windserf
Cloud code 这些编码agent 越来越火
但很多人都是在用
不知道他们内部到底是怎么运作的
对
这篇文章把coding agent 拆成了几个关键组件
代码理解模块
上下文管理工具
调用层规划与执行循环
还有最关键的错误恢复机制
一个好的coding agent 和一个平庸的
差距往往不在模型本身
而在这些工程架构上
错误恢复机制这个怎么理解
就是agent 写了一段代码
发现编译不过或者测试没过
他怎么处理
笨的agent 就是重新生成一遍
聪明的agent 会分析错误信息
理解错在哪
然后精准修复
更聪明的还会记住这次犯的错
下次不再犯
这就涉及到跨绘画的学习能力了
这跟我们人类写代码的过程好像新手遇到bug 就重写
老手看一眼报错就知道问题在哪
完全一样的逻辑
而且这篇文章还有一个很有意思的观点
他认为未来coding agent 的竞争
模型能力只占百分之三十
工程架构占百分之七十
因为模型api 大家都能调
但怎么设计上下文窗口策略
怎么做代码索引
怎么管理多文件编辑的一致性
这些工程问题才是真正的差异化
所以对想做coding agent 产品的创业者来说
不能只堆模型能力
不能你需要在工程细节上下足功夫
另外haggin face 上也有一篇相关的论文ask ask soon
讲的是coding agent 面对模糊需求时
应该主动为用户还是自己猜
这个设计选择对用户体验影响极大
太爱问的agent 让人烦
太爱猜的agent 容易跑偏
这就像跟新同事合作
有的人事事请示
有的人闷头就干
都让人头疼
最好的是那种能判断什么时候该问
什么时候该自己做的人
没错
这种不确定性感知可能是下一代agent 最关键的能力之一
如果你在做agent 产品
这篇论文值得仔细读
第八个话题比较硬核
特斯拉在奥斯汀的terry fed 发布会上公布了第三芯片
这个芯片是专门为太空算力设计的
太空算力
特斯拉不是坐电动车的吗
哦 等等
他们还有space x
所以这是给星链或者火星任务用的
对
马斯克在发布会上展示了一个完整的芯片路线图
Ai 五和ai 六是给自动驾驶出租车和擎天柱机器人用的
这个大家都预期到了
但第三是个惊喜
演示幻灯片里甚至出现了月球质量投射器的视频
这颗芯片需要能在太空极端环境下工作
强辐射
极端温度
零维护
月球质量投射器
这是科幻小说里的东西吧
用电磁弹射把月球上的矿石射回地球
概念上是的
当然现在还处于很早期的阶段
但关键是马斯克的芯片战略正在从地面ai 扩展到太空ai
你想想
未来在月球或火星上的机器人
采矿设备
通信中继站都需要本地算力
你不可能事事都等信号传回地球再做决策
光速延迟就不允许
所以太空算力的核心挑战不是算力大小
而是自主性
芯片得能在没有人类实施指挥的情况下独立做决策
完全正确
这跟自动驾驶的逻辑是一样的
你不能让车每个路口都打电话问服务器该左转还是右转
太空场景只是把这个问题放大到了极端程度
而且第三还有一个隐含的战略意义
如果特斯拉掌握了太空级ai 芯片
Space x 的卫星星座就有了独立于地面云计算的算力网络
马斯克布这个局也太大了
不过对我们普通人来说
太空芯片离日常生活好像还挺远的
远也不远
太空级芯片的技术往往会反哺地面应用
比如抗辐射设计可以用在核电站
极端温度适应可以用在极地或深海设备
航天技术民用化的历史一直在重演
但短期来看
更值得关注的是aai 五和ai 六对自动驾驶和机器人产业的影响
第九个话题
轻松一点
微软的windows 十一co pilot 最新版本出了个挺魔幻的事
新版co pilot 居内置了一个完整的edge 浏览器
导致内存占用飙升
什么
Coo pilot 面塞了一个完整的浏览览
这不是套娃吗
浏览器里有ai 助手
Ai 助手里又有浏览器
哈哈 对
非常俄罗斯套娃
而且it 之家的报道里提到了一个更魔幻的历史
Co pilot 最早是pwa 网页应用
后来换成web view 版本
再后来换成vui 原生版本
现在又回到了网页组件
并且塞了一个完整的edge 进去
技术路线来回反复
堪称技术方案连连看
这让我想到一个梗
任何能用javascript 实现的东西
最终都会用javascript 实现
现在是不是可以改成任何能塞进edge 的东西
微软最终都会塞进edge
笑死
但说真的
这反映了一个实际的工程挑战
Ai 助手需要展示各种富媒体内容
网页渲染是最灵活的方式
原生开发虽然性能好
但开发效率低
每次模型更新都要改客户端
用web 组件的话
后端改了
前端就自动更新
道理我懂
但用户的内存可扛不住啊
本来windows 十一就已经很吃内存了
现在co pilot 又多吃一份
确实
这是微软的老毛病了
功能优先
资源消耗
后面再优化
但这也给我们一个反思
Ai 功能正在深度嵌入操作系统
它占用的系统资源会越来越多
也许未来买电脑的时候
内存标准要从十六g 起步变成三十二g 起步了
内存厂商效了
好
我们来聊最后一个话题
最后一个话题
Open ai 发布了一个很值得关注的安全项目safety bog bounty program
不是找代码漏洞的传统bug bounty
而是专门针对ai 安全风险的
包括agent 漏洞
Prompt 注入
数据泄露这些ai 特有的安全问题
Ai 专属的bug bounty
这是不是说明ai 安全已经从学术研究进入实战阶段了
完全是
以前ai 安全更多是论文里讨论的理论问题
现在open ai 愿意掏真金白银让全球安全研究员来找自家产品的漏洞
这说明他们意识到随着check gpt 和agent 被越来越多人和企业使用
安全风险已经从可能性变成了必然性
Prompt 注入这个问题我好像一直在听说
但到底有多严重
非常严重
举个例子
如果一个agent 有权限读你的邮件和操作你的日历
攻击者可以在邮件里藏一段恶意prompt
Agent 读到后就被洗脑了
可能把你的敏感信息发送给攻击者
或者在你的日历里添加恶意链接
这就是所谓的间接prompt 注入攻击
这比传统网络安全的钓鱼攻击还可怕
传统钓鱼至少需要人点链接
Agent 可能自动就中招了
对
而且更隐蔽
人可以看出一封邮件写的奇怪
但agent 可能就直接执行了恶意指令
这也是为什么这个bug bunty 项目特别强调了agent 场景下的安全问题
我觉得未来半年到一年
Ai 安全会成为一个爆发性增长的职业方向
如果有人想转型做ai 安全
应该从哪里入手
我建议从prompt 注入和agent 安全开始
这两个领域门槛相对不高
不需要深厚的密码学背景
但需要对lom 的工作原理有深入理解
Open ai 这个bug bounty 项目就是一个很好的练手机会
你可以真实的去测试check gpt 的安全边界
找到漏洞还能拿奖金
一举两得
既能学习又能赚钱
听起来不错
好
十个话题聊完了
来做个总结吧
好
今天聊了很多
但如果要我挑一个最让我印象深刻的
还是cloud coat 找到二十三年老漏洞这件事
他让我真切感受到ai 部只是在创造新东西
还在帮我们修补过去的遗漏
人类几十年积累的技术债务可能正在迎来一次aai 驱动的大清算
我最关注的是open ai 的购物和safety bug bounty
这两件事放在一起看
Open ai 一边在大举扩张商业版图
一边在认真对待安全问题
这个平衡能不能维持好
可能决定了ai 行业未来几年的走向
说的好
今天另一个值得记住的趋势是从的metagent 化到open ai 的mini 和nano
整个行业都在往ai 无处不在但成本更低的方向走
大模型时代可能正在过渡到模型矩阵时代
不是一个模型打天下
而是一组大大小小的模型各司其职
好了
今天的播客就到这里
谢谢大家收听
我们明天见
如果觉得今天的内容有启发
记得分享给朋友哦
我是命
我是妮欧
新的一周加油
拜拜
