️ AI 日报播客 | AI安全崩塌?百万辆中国车出海背后暗流-NeoCheung

️ AI 日报播客 | AI安全崩塌?百万辆中国车出海背后暗流

歌手:NeoCheung

时间:2026-03-31

    使用手机浏览器「扫一扫」

    在手机上保存,获得更好体验

标签
歌词

本字幕由TME AI技术生成

嘿 大家好

欢迎收听ai 日报播客

今天是四月八号

星期三

我是neo

嗨 大家好

我是neo

Neo

你今天精神不错啊

是不是看到什么好消息了

那可不

今天的料可太猛了

Cloud code 社区直接炸了

Hacker news 上七百多分的帖子说cloud coat 更新之后

复杂工程任务根本用不了了

然后anthroropick 还被扒出一个高危安全漏洞

这一天之内又炸又漏

精彩极了

什么

又有安全漏洞

好的好的

这个我们待会必须好好聊

我先预告一下

今天我们还会聊到unthlopic 年入三百亿美元的惊人增速

Meta 怎么用ai 去挖掘工程团队的部落知识

还有本地跑ai 模型的新玩法

内容很满

咱们直接开始吧

好

那我们第一个话题直接聊最炸的cloud code 更新废了

Hacker news 上这个issue 拿到七百三十四分

四百五十三条评论

标题直接就是cloud code is unusable for complex engineering tests with february updates

七百三十四分

这在hn 上算是超级热帖了

到底是什么更新让大家这么愤怒

核心问题是思考深度严重下降

量子微报道说下降了百分之六十七

就是说

以前cloud code 在面对复杂代码的时候

会花很长时间去思考

规划

分析上下文

然后给你一个精准的解决方案

现在呢

他变得特别急躁

浅尝辄止

给的方案经常漏洞百出

等等

为什么enthropic 要降低思考深度

是故意的还是bug

这就是最讽刺的地方

根据泄露的源码分析

Enthropic 为了省token 在做优化

说白了就是为了降低api 成本

结果把推理能力给阉割了

这就好比你为了省油

把发动机从六缸改成了三缸

然后告诉用户您的驾驶体验可能有轻微变化

这也太讽刺了吧

开发者付了订阅费

结果得到的是缩水板

服务社区反应这么激烈也不奇怪了

而且这事还有后续

Adversa ai 的安全研究人员扒了泄露的源码之后

发现了一个致命漏洞

当处理超过五十条子命令的复合命令时

Cloud code 会静默绕过用户配置的拒绝规则

你想想这意味着什么

你明确告诉他不要做的事

只要命令够多够复杂

他就会偷偷去做

这太吓人了

对那些用cloud code 自动化部署管理服务器的开发者来说

这不就是个定时炸弹吗

你设了安全栏杆

结果发现栏杆是纸糊的

没错

而且这两件事是同一个根源

为了省token 牺牲安全

这得整个ai 编程助手行业敲了警钟

你不能把成本优化放在安全和质量前面

如果你是用cloud code 管理生产环境的开发者

我建议你现在就去检查一下你的deny rose 到底有没有生效

所以这其实是个行业信号

Ai coding 工具已经不只是辅助写代码了

他们深入到了开发流程的核心

当他们出问题

影响面比你想象的大得多

好

我们来聊第二个话题

第二个话题

Nnro pick 公布了一个超级亮眼的数字

年化收入突破三百亿美元

去年年底才九十亿

短短几个月直接三倍增长

什么

从九十亿到三百亿

这增速也太恐怖了吧

什么生意能几个月翻三倍啊

而且这环只是年化收入

不是全年实际收入

但就算如此

这个增速也是前所未有的

Cloud 的企业端需求暴增

超过一千家企业客户在用

更关键的是他们接下来的布局

跟谷歌和博通合作

扩张ai 算力

等一下

跟谷歌合作

Anthropic 不是拿了谷歌的投资吗

这算是进一步绑定了

对

但这次合作的重点不是模型本身

而是算力基础设施

Nnro picc 现在面临的最大瓶颈不是模型不够好

而是算力不够用

需求增长太快了

它需要大量gpu 和tpu 来支撑

跟博通合作

意味着可能会走定制芯片路线

而不只是依赖m vidia

这让我想到我们刚才聊的cloud 壳质量问题

会不会也跟这有关

需求暴增

成本压力也暴增

所以才在token 消耗上做文章

米i 这个连接非常到位

这确实可能是一条因果链

用户暴增

算力成本飙升

不得不在推理成本上做优化

然后优化过度导致质量下降

这是ai 公司在超高速增长中面临的经典困境

质量和规模的trade off

三百亿听起来很风光

但背后的隐患也很明显

如果用户体验持续下滑

这些企业客户可能会考虑替代方案

没错

而且现在竞争对手虎视眈眈

对于创业者来说

这恰恰说明一个道理

Ai 领域没有永远的王者

只要你在某个垂直场景做到极致

都有机会切走一块蛋糕

三百亿的蛋糕

分一小块也够吃了

说的好

接下来第三个话题

我们看看同一条战线上

Open ai 和马斯克又在互掐了

对

Open ai 这次主动出击了

他直接呼吁美国加州和特拉华州的总检察长调查马斯克的不当和反竞争行为

两边的官司本月就要开庭了

所以现在是open ai 主动告马斯克了

之前不是马斯克宣告的open ai 吗

对

马斯克二零二四年就起诉了open ai 和奥特曼

说他们把公司从非盈利转成盈利性实体

违反了创始使命

现在open ai 来了个反击

说马斯克才是那个搞反竞争的人

这个案子核心其实是关于ai 行业最根本的问题

开发agi 到底应该是商业行为还是公益行为

而且马斯克自己也有xcir crock 模型

竞争力也不弱

他一边告open ai 垄断

一边自己也在这个赛道上全速前进

这不矛盾吗

非常矛盾

但法律和商业往往就是这样

马斯克的策略可能是即使官司打不赢

也能通过诉讼拖慢open ai 的盈利化重组进度

而open ai 的反击策略是

你不是说我反竞争吗

让检察长来查查到底谁在搞反竞争

这就变成了一场公关战和法律战的混合体

对普通开发者和用户来说有什么影响吗

短期影响不大

但长期来看非常关键

如果open ai 的盈利化重组被阻碍或延迟

可能会影响它的融资和发展节奏

而且这场官司的判例可能会为整个ai 行业的组织架构设定规则

非盈利转盈利到底行不行

知识产权归谁

这些问题一旦有了法律先例

影响的不只是这两家

所以本质上

这是一场关于谁有权定义agi 未来的争夺战

好了

我们来换个角度

同样是open ai

他们最近还发了一份特别有意思的政策报告

没错

第四个话题

Open ai 发布了一份关于ai 经济愿景的政策提案

里面有几个特别炸的关键词

公共财富基金

机器人税

四天工作制

机器人睡

四天工作制

这听起来像是科幻小说里的设定啊

Open ai 是认真的吗

非常认真

这其实是open ai 在扮演一个政策智库的角色

他们的逻辑是这样的

超级智能aai 会极大提高生产力

但同时也会造成大规模失业

为了应对这个问题

需要从三个层面设计新的经济制度

具体是哪三个层面

给我们拆解一下

第一

公共财富基金

Ai 创造的超额利润不应该只归科技巨头

应该像挪威的石油基金一样

把一部分收益注入公共基金

让全民受益

第二

机器人睡

当企业用ai 替代了人工岗位

应该对这些数字工人征税

用税收来补贴失业者的转型培训

第三

四天工作制

Ai 提高了效率之后

人类不需要在每周工作五天

应该把多出来的时间还给个人发展和生活

这套思路听起来很理想主义啊

实际操作中

哪个企业愿意主动交机器人税

这就是为什么我觉得这份报告最精明的地方

他不是在做政策建议

他是在做预期管理

Open ai 在向全世界说

看

我们想过这些问题了

我们不是只管赚钱的

这样当监管真的来的时候

他可以说自己是有社会责任感的啊

所以这是一份给投资者

给政府看的pr 文件

一定程度上是的

但我觉得他也确实在引导一个重要的公共讨论

如果你是做hr 科技或者教育科技的创业者

这份报告其实给你指了一个方向

Ai 时代的职业培训

技能转型

灵活用工平台

这些都是即将爆发的赛道

有道理

危机里面永远藏着机遇吗

好

第五个话题

我们来聊聊ai 智能体系的前沿进展

今天有好几篇相关的论文和项目

简直是扎堆了

对

这是今天我最兴奋的一个话题

Ai agent 记忆系统今天同时出了好几个重磅成果

Mem machine

Hippo

Memory intelligence agent

还有light thinker 加佳

我挑几个最有料的跟你讲

Agent g 就是让ai 能记住事情对吧

现在的ai 不是已经有上下文窗口了吗

为什么还需要专门的记忆系统

好问题

上下文窗口就像是你的工作台

桌面够大

你能同时摊开很多资料

但记忆系统是你的文件柜

你不可能把所有资料都摊在桌上

得有个地方存起来

需要的时候精准抽出来

Mem machine 这篇论文就特别关注一个问题

怎么在存取记忆的过程中不丢失关键事实

就是说现有的记忆方案在存取过程中会丢东西

这不是很致命吗

非常致命

比如你让agent 帮你管理一个项目

他记住了你上周说的预算是一百万

结果今天检索的时候因为压缩或者摘要丢了精度

变成大约一百万左右

看似差不多

但在财务场景下可能就是灾难

Mem machine 的创新就是提出了一个保真记忆框架

确保关键事实在存取过程中零损失

Hippo 这个名字很可爱

听起来跟海马体有关

完全正确

Hip hoo 的灵感就是来自人类大脑的海马体

我们大脑负责记忆形成和检索的核心区域

它模拟了海马体的工作方式

让ai agent 的记忆系统更接近人类的记忆模式

比如重要的事情记得更牢不重要的会逐渐遗忘

但如果有新的关联出现

又能重新激活

这对实际应用意味着什么

意味着未来的ai 助手会真正认识你

不是那种每次对话都要重新自我介绍的体验

而是像一个真正跟你共事多年的助理一样

知道你的偏好

你的项目历史

你过去做过的决策

如果你是做sas 的

在你产品里集成这种记忆系统

用户占信会直接上一个台阶

确实

我都有点期待了

你想想

如果ai agent 真的能像人一样记住上下文

那workfall 自动化的上限就完全不一样了

好的

前五个话题聊完了

后面还有更精彩的

稍等

我们接着聊

好

下半场开始第六个话题

我们来聊聊meta 在ai agent 方面的两个大动作

第一个是meta 用ai 去映射大型数据管道中的部落知识tribble knowledge

部落知识

这个词听起来好酷

具体是什么意思

部落知识就是那些只存在于资深工程师脑子里

从来没写进文档的隐性知识

比如这个接口

虽然文档写的是这样

但实际上你得先调那个服务才行

这个配置千万别改

上次有人改了整个系统当了三天这种知识口口相传

新人来了全靠老员工带

哦 我懂了

所以meta 用ai 去挖掘这些隐藏在代码里的潜规则

对

而且规模很大

他们把ai agent 指向了meta 内部一个大型数据处理管道

跨四个代码仓库的那种

结果发现

Ai 编码助手的能力上限取决于他对代码库的理解深度

如果你只是让他看文档

他只能做到六十分的水平

但如果他能理解那些没写在文档里的规则约定

坑他就能做到九十分

这对企业来说太有价值了

尤其是那些代码历史很长的大公司

部落知识可能比正式文档还多

没错

Matter 的第二个动作是kernel evolve

他们的ranking engineer agent 在优化广告排序的ai 基础设施

这个agent 可以自动优化gpu kernel 代码

提高广告系统的推理效率

你想想的

广告系统每天处理数十亿次排序请求

哪怕优化百分之一的效率

省下来的算力成本都是天文数字

所以麦塔是在用ai 来优化ai

有点套娃的感觉

确实是ai 优化ai

但这正是未来的方向

如果你是做企业级ai 工具的的

这两个案例告诉你一个清晰的路径

第一步

帮企业把隐性知识显性化

第二步

用metagent 自动优化性能

这两件事加起来

就是一个完整的ai 赋能工程团队的产品故事

有道理

好的

第七个话题

有个在hacker news 上特别火的项目叫freestyle

专门给编程agent 做沙箱的

一百九十七分

一百一十四条评论

Freestall 这个项目只记了一个痛点

编程agent 现在越来越强大

但你怎么安全的让让们运运代码

你不可能能让一个aai 直接在你的生产服务器上跑代码吧

万一他搞坏了什么东西呢

对

这其实跟我们第一个话题聊的cloud code 安全问题是一脉相承的

Agent 权限越大

安全沙箱就越重要

完全正确

Freestyle 做的就是给每个编程agent 提供一个隔离的沙箱环境

可以跑代码

可以装依赖

可以访问网络

但完全跟你的主系统隔离

你可以把它理解成docker 容器

但专门为bai agent 优化过的一百一十四条评论

说明开发者社区很关注这个方向

大家最关心的是什么

主要是三个维度

第一是性能

沙箱的启动速度够不够快

因为agent 可能几秒钟就需要一个新环境

第二是安全隔离的程度

能不能防住沙箱逃逸

第三是持久化

Agent 在沙箱里创建的文件和状态能不能保存下来

这些都是实际用agent 做开发时会遇到的真实问题

这让我想到一个趋势

Agent 不在只是帮你写代码

它需要一整套基础设施

沙箱

记忆系统

权限管理

监控

这是一个正在形成的新生态

你总结的非常好

这正是二零二六年ai 基础设施赛道最大的机会

不是做agent 本身

而是做agent 的操作系统

如果你是基础设施方向的开发者

这个赛道值得深入研究

好的

第八个话题

来点不一样的

有人在m 三pro 的mac 上实时跑ai 模型做音视频输入和语音输出

用的是jama 的端到端模型

二百六十一分

这个项目让我眼前一亮

它展示了一个非常重要的趋势

端测ai 的能力在飞速提升

这位开发者用google 的jama e 二b 模型在m 三pro 笔记本上实现了实时的音视频理解和语音回复

不需要云端api

不需要联网

全部在本地跑

全部本地跑

那意味着隐私完全有保障对吧

你的视频和语音数据完全不出设备

对

这是端测ai 最大的卖点之一

而且还有另一个项目叫jam a jam 直接把ai 模型嵌入到浏览器里跑

一百四十二分

连api 密钥都不需要

打开网页就能用a ai

这两个项目放在一起看

你会发现一个清晰的趋势

Ai 正在从云端往端侧迁移

这对开发者意味着什么

意味着一个全新的应用范式

以前做ai 应用必须对接云端api

要考虑延迟

要考虑成本

要考虑数据隐私

现在这些约束都在被打破

想象一下

你做一个视频会议工具

Ai 实时帮你翻译

做笔记

提取action item

全部在本地跑

用户体验丝滑

成本几乎为零

但是端测的计算能力有限啊

跟云端大模型比起来肯定有差距

差距在快速缩小

M 三pro 已经能跑时石英视频ai 了

等m 五m 六出来呢

而且模型压缩技术也在飞速进步

今天还有两篇论文

Swift svd 和tree attention 都是做llm 压缩的

前者做低质分解

后者用三角函数压缩kv 缓存

这些技术成熟之后

手机上跑gpt 四级别的模型不是吗

手机上跑gpt 四级别的模型

这也太酷了

如果真能实现

云端ai 服务的商业模式可能会被彻底改写

没错

这就是为什么我说端测a ai 是下一个十年最重要的赛道之一

好

第九个话题

我们来聊一个跟大家钱包直接相关的事

微信支付要换核心域名的ip 地址了

微信支付计划四月二十日更换核心域名的ip 地址

涉及十二个域名

包括apimch

Waxing

Qq

Com 等

如果你是微信支付商户

而且防火墙做了ip 白名单

这是一个必须立刻处理的事情

等等

四月二十号

那只有不到两周的时间了

这要是漏了

后果是什么

后果就是你的支付接口直接挂掉

用户付不了款

你收不了钱

而且微信支付的下线就ip 时间是五月十八日

也就是说

四月二十日新ip 上线后

有大约一个月的过渡期

但到五月十八日旧ip 就彻底停了

这对开发者来说是个挺紧急的运维任务

需要做什么

三步走 第一

检查你的防火墙和安全组是不是做了ip 白名单限制

第二

如果做了

去微信支付官方文档获取新的ip 列表加到白名单里

第三

在四月二十日之后做一次全面测试

确保支付流程正常

我建议对接了微信支付的团队今天就把这个排进sprint

对这种基础设施变更

最怕的就是我以为不影响我

结果到了那天才发现系统挂了

提前两周通知已经算有良心了

但时间确实很紧

而且这也提醒我们一个更大的问题

你的系统对第三方服务的依赖有多深

有没有做过基础设施变更的应急预案

这种事情每年都会发生好几次

只是微信支付

好的 记住了

最后一个话题

阿里也有大动作

千问app 上的一个全能演技派模型

对

最后一个话题

聊阿里

量子位报道说

Sora 向左

阿里向右

这个标题就很有意思

Open ai 的sora 走的是纯视频生成路线

追求电影级画质

阿里则是另一个思路

做全能型多模态模型

集成到千万eplly

直接面向用户

全能演技派什么意思

他能做什么

简单来说就是文本

图像 视频

语音都能处理

而且是以一种统一的架构来做

不像之前各种功能是拼凑在一起的

阿里的思路是

与其做一个最强的视频生成模型

不如做一个什么都能干

体验流畅的通用型aai 助手

这两个思路你更看好哪个

我觉得两条路都有市场

但短期内阿里的思路可能更容易落地

因为纯视频生成的商业场景还比较有限

但一个全能型aai 助手能覆盖的场景要广得多

写文案

做ppt

处理图片

分析数据

这些都是刚需

而且放在app 里直接面向c 端用户

变现路径也更清晰

对

但从长远来看

视频生成一旦突破到实用级别

它的爆发力会非常大

所以open ai 赌的是未来

阿里赌的是现在

这也反映了中美ai 公司在策略上的差异

美国公司更愿意做远期研究投入

中国公司更擅长把技术快速产品化落地变现

两种策略各有优势

有道理

不管走哪条路

最终都是要解决用户问题

好了 你柚

今天十个话题聊完了

你来总结一下

好

今天的内容确实很丰满

如果要我选一个最核心的关键词

我会说信任

Cloud code 的质量下滑让开发者失去信任

Enthropick 的三百亿增长需要持续赢得信任

Ai agent 需要安全沙箱来建立信任

端测ai 通过隐私保护来获得信任

Ai 越强大

信任就越重要

我补充一个我的感受

今天最让我兴奋的是ai agent 记忆系统的进展

Mem machine 和hippo 这些项目

如果ai 真的能像人一样记住你

理解你

那人机协作的体验会发生质的飞跃

我很期待这个方向在接下来几个月的发展

嗯

记忆系统确实是二零二六年agent 最值得关注的子赛道之一

另外别忘了对接微信支付的同学赶紧检查ip 白名单

四月二十号就要切换了

这种运维小事

一旦错过

后果很严重

好的

今天的ai 日报播客就到这里了

感谢大家收听

如果觉得有收获

记得分享给你身边的科技爱好者

我们明天同一时间再见

拜拜

拜拜

明天见

展开显示全部歌词