在手机上保存，获得更好体验
本字幕由TME AI技术生成
今天是二零二四年十月二十五日
欢迎收听ai 上下文
首先我们来关注open ai 的最新动态
Open ai 自身研究者和管理者miles
Brandiage 宣布离职
Brandiage 在离职信中提到
他计划将更多时间投入到涉及整个ai 行业的问题上
拥有更多发表的自由
更加独立
他计划创立一家和或加入一家已有的非盈利机构
专注于ai 政策研究和倡倡导
他认为ai 的快速发展需要政策制定者更快采取行动
而他将从行业外部推动ai 的发展
以减少偏见
并更有效的影响政策对话
在ai 工具的创新方面
Ai 研究实验室translose 发布了一款名为monitor 的交互界面工具
帮助研究者直观的观察和分析大模型的内部计算过程
该工具揭示了模型在比较九点八和九点一一时出错的原因及模行将这些数字误解为日期或版本号
通过monitor
研究者可以深入分析神经元的激活模式并进行修正
例如通过抑制特定神经元的激活来纠正模型的错误判断
这一工具的发布有助于提高对ai 模型行为的理解和可解释性
推动ai 系统的透明化和可信赖性
英伟达也传来好消息
其ceo 黄仁勋确认black well ai 芯片存在设计缺陷
导致良率低下
但已修复并将投入量产
该芯片采用台积电四mp 工艺
拥有两千零八十亿个晶体管
效率较前待提升三十倍
修复后的black whill gpu 预计将于二零二五年初开始发货
主要客户包括aws
谷歌
Meta 和微软
谷歌deep mind 开发的synthetext 技术已通过google responsible generate ai tookket 开源
该技术能够为大型语言模型llm 生成的文本添加水印
从而提高其识别度
Sina text 采用新型采样算法tournament 采样
可在保持文本质量的同时实现高检测精度
且不影响llm 训练
该技术已被用于谷歌的germany 和germany advanced 系统
通过对近两千万条响应的评估
证明了其在实际应用中的有效性
Mit 韩松团队与清华大学
上海交通大学
爱丁堡大学和nvidia 的研究团队联合推出了多attention 框架
该框架通过将大语言模型的注意力头分为检索头和流式头
大幅提升了长上下文推理的效率
Do 多attention 显著减少了内存消耗
同时提高了解码和预填充速度
在长短上下文任务中保持了高准确率
该框架在单个a 一百gpu 上实现了三百三十万token 的上下文推
为处理长上下文的应用场景带来了显著变革
今天的新闻播报完了
感谢你的聆听
