本字幕由TME AI技术生成
欢迎收听
今天呢
咱们来深入聊聊你分享的这份
呃
挺有意思的资料
就是尼克写的人工智能简史里的一部分
嗯
这本书我看了一下
视野确实很开阔
几乎把人工智能
嗯
各个方面都涉及到了
从最开始的想法到未来的趋势
里面还有不少这个
呃
考证和挺有趣的小故事
嗯 是的
资料内容很丰富
所以咱们今天的目标就是不光是简单总结一下
而是要跟着作者的思路
对书里提到的每一个
嗯
重要的概念
关键的人物
还有那些里程碑事件都做一个可以说是地毯式的挖掘和分析
没错
对
尤其是那些
就是塑造了咱们今天对ai 看法的那些转折点啊
或者是一些争论
还有那些让人啊哈一下恍然大悟的时刻
嗯
得做好准备
这可能信息量会比较大
对 这个
这个过程会很有意思
我们要仔细看里面的细节
比如说 呃
自动定理证明是怎么兴起又衰落的
还有那个专家系统的黄金时代
后来知识图谱又是怎么回事
嗯
还有就是神经网络对吧
他怎么经历了那个所谓的冬天
后来又怎么
嗯
重新火起来的
还有那些一直伴随着ai 发展的哲学思考才
你得尽量去还原当时的历史情境
去理解为什么会那样发展
所以然是什么
好
那我们大概就沿着这个历史的脉络深入几个关键领域吧
首先是 呃
早期基于逻辑和规则的那个叫符号主义的尝试对吧
对 符号主义
然后是神经网络和连接主义
它的起起落落和再次复兴
接着看看一些
呃
标志性的ai 应用
最后再稍会碰一下那些更宏大一点的哲学和未来的思考
每个部分呢
咱们都可能展开了说
多引用梳理具体的例子和故事
行 第一部分
符号的殿堂
逻辑规则与知识
好的
那咱们就先来解构这个
呃 第一部分
符号主义
最开始提到的是自动定理证明
书里说啊
这曾经是人工智能一个特别重要的方向
书标就是让机器能像
嗯嗯
像数学家一样去思考
去证明定理
是的
这个想法在早期ai 里非常核心
就是希望用形式化的逻辑让机器能够进行严格的推理
书里举了几个例子
像那个auter vampie 系统
他们好像还在一个叫casc 的竞赛里表现不错
对
Casc 就是自动定理证明系统的一个
嗯
C 个竞技场吧
这些系统代表了逻辑主义的努力
就是是严格按照数理逻辑的规则来推导
还有一个叫波音木耳证明器
这个名字我好像有点印象
书是说它不光用在软件硬件验证上
反而它的一个副产品
一个字符串匹配算法更出名了
这算不算有点
呃
无心插柳柳成荫的意思
哈哈
可以这么说
波音木尔证明器它代表了另一种思路
就是形式主义
更侧重于数学归纳法法和像重写技术
它的这个字符串匹配算法确实应用非广泛泛
可比比证明本身更为人所知
嗯
但这里更有意思的是
书里指出了这些自动定理证明系统面临的一个普遍问题
什么问题
就是他们往往被看作是
呃
有点像玩具
虽然在特定任务上可能很厉害
但很难跟其他的数学工具
就是数学家实际工作中用的那些东西很好的结合起来
所以
嗯
实用性就受到的限制
哦
就是说有点儿
呃 叫好
不叫做有点这个意思
而且书里还引用了王浩一位逻辑学家的抱怨
他说数学家不把他们逻辑学家当回事
还有 有事儿 对
甚至还举了个例子
说洛克菲勒大学后来把王浩的实验室给裁掉了
还有那个数学家哈尔摩斯
他还调侃逻辑
说逻辑对数学思想的贡献就像这个鸟类学绝对飞机飞行的贡献一样
有点讽刺意味
哇
这反映了当时学科之间的一种
嗯 一种壁垒
或者说鄙视链啊
自动定理证明在这个链条里位置比较尴尬
确实是你能从中看到一个学科方向在发展过程中可能遇到的现实困境
包括经费
认可度等等
不过书里也提到了一点
就是现在深度学习也被用来
呃
辅助定理证明器去挑选合适的子距进行推理
哦
这个倒是个新方向
对
这说明不同的技术路线
比如符号主义和现在热文的连接主义
深度学习
他们之间其实也可能存在融合和互相促进的可能
所以总的来说
自动定理证明这个领域虽然有过他的高光时候
但似乎并没有像最初设想的那样完全融入主流的数学实践
书最后还配了首打油诗
好像也挺能说明这个问题的
嗯
那首诗确实挺形象的点出了它的局限性
好
那接下来咱们看专家系统
这个听起来就
嗯
更实用一点啊
像是把人类专家的知识和经验直接装到计算机里去
书里提到了一个叫dendral 的系统
对
Dendral 是一个非常经典的早期专家系统
它的任务是帮助化学家分析未知的有机化合物的分子结构
主要是通过质谱数据
这个项目好像聚集了背景挺不一样的人
有诺贝尔奖得主里德伯格
还有ai 大牛菲根保姆
甚至还有一位有哲学背景的布坎南
是的
这个团队构成非常有意思
里德伯格是遗产学家
也懂化学
菲根保姆是computer scientist
是专家系统领域的先驱
布卡卡原
原是学哲学学
后 后转
转向ai 哲
哲背
背景对搞ai 帮
帮助吗
梳理别提提到了这一点
布坎南的哲学训练让他在思考如何形式化
结构化那些
嗯
非常依赖直觉和经验的科学知识时很有帮助
他们当时甚至深入思考了假设生成和理论生成这些更深层次的问题
听起来挺高端的
对
而且还有个小插曲
布坎南得给当时团队里其他不懂化学的人
包括像ai 领域的另一位奠基人麦卡锡解释他们在做什么
麦卡锡还挺仗义
帮他解结尾
跟下面听不懂的人喊话说好好
听着挺有画面感的
Dendrl 的成功关键在于他把那种原始的经验性的科学识识
别别是化学家分析质谱图的那些启发式规则
成功的转化成了计算机可以理解和执行的规则
这体现了早期机械化科学推理的思想
梳理详细描述了团队背景怎么互补知识背景
以及布卡南的哲学背景如何帮助他们理清思路
甚至指出了像卡纳普的一些哲学理论在实际计算上可能行不通的现实
很实在
那除了dndrl 书里还举了另一个例子
X com 是给dc 公司配置computer 的
对
X com 是另一个非常成功的早期专家系统案例
Dc 公司以前卖computer
配置很复杂
各种组件能不能兼容
怎么搭配
需要专门的工程师来做
X com 就是用来自动完成这个配置任务的
这个过程好像也不太顺利
书里提到
一开始用forchan 写失败了
后来改用basic
最后采用了纽耳的学生发明的一种叫riti 的算法和ops 语言
效率才大大提高
是的
这也反映了早期ai 开发的探索性
选择合适的技术和算法非常关键
Rate 算法在处理大量规则的匹配和执行方面效率很高
对专家系统的发展起了很大作用
Dc 公司后来也把x coon 做了一个商业成功的案例来宣传
但后来专家系统这个词本身好像又不那么流行了
甚至有点负面含义
嗯
确实有这么一个转变
大概到了八十年代末九十年代初
大家对专家系统的期望过高
但发现很多系统开发成本高
维护困难
知识获取是个瓶颈
所以经历了一段低潮
专家系统这个标签也就不那么时髦了
那这些技术就消失了吗
没有完全消失
就像书里说的
专家系统后来改名换姓
变成了我们现在常说的规则引擎或者业务规则管理系统
它的核心思想就是基于规则的推理
在很多领域找到了新的生命力
比如呢
比如电子商务网站的个性化推荐
金融行业的信用评分和反欺诈行系统
书里提到phichao 就收购了相关的公司
还有保险核保
电信服务配置等等
这些系统背后其实都有当年专家系统的影子
这说明啊
一个技术概念可能会过时
但它所包含的核心思想和解决的问题可能会以新的形式新的名字继续存在和发展
明白了
那为了让机器能懂这些知识
就得先把知识有效的表试出来对吧
这就是知识表示的问题
书里好像提到了一个叫krl 的语言
似乎不太成功
对
Krl 是个尝试
但书里说他试图同时满足两个有点矛盾的目标
一方面要让工程师用起来方便
另一方面要要保证起底层的逻辑是严谨的
结果呢
两边都没完全讨好
搞得有点四不像
最终没有流行起来
也是知识表示领域探索过程程中的一个教训吧
那成功的知识表示方法有哪些呢
书里好像对比了好几种
是的
书里详细梳理了几种主流的知识表示方法
这对于理解ai 如何处理知识非常重要
嗯
你给我们展开说说
首先是最基础的逻辑
书里用了那个经典的苏格拉底三段论作例子
所有人都会死
苏格拉底是人
所以苏格拉底会死
这背后用的是以阶逻辑
也就是为此逻辑
它的好处是表达能力强
有严格的推理规则
可以作为一种通用的语言听起来很完美
但它的问题在于
光有逻辑语法还不够
你需要为特定的世界或领域定义大量的公理和事实
也就是所谓的本体论
这个工作量非常大
而且逻辑推理有时候效率不高
也可能跟人的直观思维方式不太一样
那跟人直观思维更像的是什么呢
这就引出了第二种寓意网络和框架frames
书里提到了龟粮和明斯基的工作
这种方法更像是用节点和连接来表示概叶和它们之间的关系
比如金丝雀是一个节点
鸟也是一个节点
金丝雀指向鸟
表示伊萨的关系
嗯
像个关系图
对
书里还引用了心理学实验的证据
比如问金丝雀会飞吗和鸟儿会飞吗
人们回答前者更快
这支持了这种层级继承的结构
比纯逻辑推理更符合人的认知习惯
明斯基的框架理论则是在节点里加入了更多的草位sluts
用来惩处归于这个概念的典型属性和默认值
听起来比逻辑更灵活一些
是的 更直观
但缺点是缺乏统一的标准和严格的寓意定义
容易产生歧义
然后就有了第三种描述逻辑scription logic
描述逻辑
这又是什么
你可以把它看作是逻辑和寓意网络之间的一种折中
它既保留了一定的逻辑严谨性
又专注于描述概念
术语和他们之间的关系角色
书里解释了几个核心概念
A
Box 存的是关于具体个体的断言
比如张三是律师
T
Box 定义概念层级和术语
比如律师是一种人
公司是一种组织
而box 定义关系
比如父亲的父亲是祖父
啊
这个听起来好像更结构化一些
对
他在形式化和易用性之间找到了一个平衡点
后来对信息网和知识图谱的发展影响很大
最后书里还提到了第四种基于格理论的方法
隔离论
这个更数据化了
嗯
这是数学家d
Ana
Scott 工作
用偏序关系和格结构来处理概念
这种方法特别适合处理复杂的多重遗产关系
就像要面向对象编程力那样
一个概念可能同时属于多个负类
不过相对来说
可能理解和应用的门槛也高一些
了解了这几种方法各有优劣
但要把人类所有的常识都表示出来
这工程量也太大了
书里是不是提到了一个特别宏大的项目叫赛克
没错
Pyc 项目绝对是ai 历史上最有雄心壮志的项目之一
由道格拉斯
雷纳特doug linet 发请
他是肺根bomm 的学生
他的目标是什么
目标就是建立一个巨大的知识库
把人类拥有的所有常识
那些我们觉得理所当然甚至意识不到的背景知识比用形式化的语言表示出来
让机器能够进行常识推理
比如水是湿的
人不能同时在两个地方等等
这个想法太疯狂了
这得多少知识啊
是啊
非常庞大
这个项目从八十年代中期就开始了
还得到了美国政府mc 七项目的支持
当时也是为了应对日本提出的第五代计算机计划
有点国家战略竞争的意思
Mcc
我好像在哪儿听过
对
微电子和科技技术公司micriltrtrics and computer technology corooation ation 是美国家家公司联合搞的个个研发联盟
书里还讲了雷纳特是怎么被推荐加入mcc 的
后来sec 项目从mcc 独立出来
成立了cycrop 公司
一直持续开发到现在
那seyc 成功了嘛
这就是他长期面临争议的地方
一方面
他确实积累了非常庞大的知识库
可能包含了数百万条规则和断言
但另一方面
他一直缺乏特别亮眼的杀手级的应用
书里也对比了sec 和其他一些知识项目
比如word net
Word net 是什么
Word net 是由心理学家乔治
米勒领导开发的
更侧重于词汇之间的寓意关系
像同义词
反义词
上下位关系等
它比赛克更基础也更常用
很多nlp 应用都会用到它
还有就是维基百科
维基百科跟赛克有什么可比性
维基百科是给人看的呀
对
维基百科主要是给人看的
但它里面包含了大量的结构化信息
特别是那个信息框info box
后来发展的知识图谱很大程度上就是利用了危机百科这些现成的数据
赛克面临的批评就是投入了这么长时间和资源
到底产出了什么实际价值
雷纳特自己的便捷式尝试推理需要达到一个临界点
知识量不够大的时候
效果不明显
或的知识图谱
像谷歌的knowledge graph
还有书里提到的wiki data
Db pedidia
Go go 苏
这些跟赛克是什么关系
可以说
知识图谱是实现cyc 宏伟目标的一种
嗯 更使用
更数据驱动也更分布式的途径
他们大量利用了像危机百科这样的开放数据源
特别是利用了边面结构
分类信息框等半结构化信息
自动或半自动的抽取实体关系和属性
书里提到ibm 的沃森也用了雅go 和dbp dia
是的
沃森在参加加per 的知识赛赛时
就整合了包括压购和db pedia 在内的多种知识源
这表明知识图谱已经成为现代ai
特别是在搜索
问答
推荐等领域一个非常重要的基础建设
所以赛格的那种试图自上而下构建一个完整尝识体系的雄心
可能在实践中遇到了困难
而知识图谱这种自下而上利用现有数据的方式
反而走得更远了
可以这么理理解
知识图谱的成功也得益于网络技术
大数据和机器学习方法的发展
书的最后
用不堪单提出的一个二维图把计算机科学划分为四个象限
处理vs 数据算法vs 启发式
知识表示和推理就处在符号处理和启发式方法的那个象限里
这仍然是ai 的一个核心领域
明白了
符号主义这条路从逻辑证明到专家系统
再到知识表示和知识图谱
一路走来也是充满了探索和演变
第二部分
连接的智慧
纽神经网络的跌宕起伏
好
那我们现在换一条路来看看ai 的另一大流派
扭神经网络
或者叫连接主义
这个听起来
嗯
更像是要模仿我们大脑的学习方式
对
连接主义的基本思想就是智能不是来自于预先设定的规则和符号操作
而是来自于大量简单的相互连接的单元
类似神经元组成的网络
通过学习和调整连接的强度来涌现出来的
书里把源头追溯到了麦卡鲁克和p 子
这两个人是谁
涡伦
麦卡鲁克是一位神经生理学家
也是精神病学教授
沃尔特僻茨则是一位
呃
经历非常传奇的数学天才
传奇 怎么说
书里讲了他的故事
皮子十几岁就离家出走
自学成才
后来在芝加哥遇到了罗素
罗素又把他介绍给了卡尔纳普
罗辑
实证主义的代表人物
再后来
皮子遇到了麦卡鲁克
两人一排符合
真是奇妙的相遇
是的
他们在一九四三年发表了一篇开创性的论文
提出了一个非常简化的神经元数学模型
就是所谓的mp 模型
他们证明了由这种从简单的只有开和关两种状态的单元组成的网络
理论上可以实现任何逻辑运算
比如雨或非
这就厉害了
等于把大脑的活动和逻辑计算联系起来了
没错
这篇论文被认为是神经网络研究的奠基之作
他第一次从数学上证明了生物神经元组成的网络可能具有执行复杂计算的能能力
书里还提到了
他们的工作受到了诺伯特
维纳控制论的影响
那个圈这里的人物关系也挺有意思的
像冯诺伊曼也对他们的工作很感兴趣
嗯
还有一位叫阿比卜的学者
他是维纳的学生
但跟麦卡鲁克关系更近
他的工作也把控制论神经网络和自动机理论联系起来了
那mp 模型之后呢
真正让神经网络火起来的是什么
那就要提到弗兰克
罗森
布拉特的感知机
大概在五十年代末六十年代初
感知机
这个我好像听过
对
感知机可以看作是第一个能够学习的神经网络模型
罗森
布拉特还造出了一个硬件实现
叫做mark one
感知机能够识别简单的图像模式
这在当时引起了巨大的轰动
媒体大肆报道
甚至美国海军都资助了这个项目
希望它能用于图像识别
这可以说是神经经络络第一个高潮
哇 听
听起来一光明明啊
是的
期望非常高
但书里也提了
这种高调也引起了一些同行的反感
特别是来自像符号主义阵营的
比如马文明斯基
他可能还有点儿
嗯
嫉妒的成分在里面
同时期还有一位叫韦德如
也是一种早期的学习网络
但这个高潮好像没持续多久
你说到了明斯基
书里是不是提到他和papert 合写了一本书叫感知机
这本书好像不太好用
Parart 在一九六九年出版了感知机这本书
这本书用非常严谨的数学方法分析了单层感知机的能力和局限性
指出了什么局限性
最著名的就是他们证明了单层感知机无法解决一些看似很简单的问题
比如经典的xr 易惑问题
你想啊
Xr 就是相同为假
不同为真
这是一个非线性可分的问题
而单层的感知机本质上只能花一条直线来区分数据
哦
所以能力有限
对
而且书里引述了他们非常严厉的批评
说明斯基和paper 的认为罗森
波拉特的论文大多没有科学价值
这本书的出版被广泛认为是导致神经网络研究进入第一个ai 寒冬的主要原因之一
这么严重
一本书就能掐死一个研究方向
影响确实非常大
一方面他在理论上指出了当时感知机的局限性
让很多研究者望而却步
另一方面
它也影响了科研经费的流向
很多机构不再愿意资助神经网络的研究了
书里还提到一点
说罗森
布拉特本人可能人缘不太好
没能获得足够的同行支持来反驳这些批评
嗯
确实个打击
那这个冬天持续了多久
神经网络是怎么再次复兴的呢
这里边的非常有趣了
我看资料里说
沉寂了差不多十几年
然后神经网络又回来了
关键是那个叫反向传播的算法
正是反向传播dg propgation
简称bp
算法的重新发现和推广是神经网络复兴的关键
大概是在八十年代中期
等等
你说重新发现
嗯
算法不是新的
嗯
这个算法的核心思想
也就是例如链式法则来重算梯度
其实在更早的时候
在控制理论等领域已经有人提出过
但是由卢米尔
Huart 辛顿
Williams 等人在一九八六年左右重新把它明确的应用到训练多层神经网络上
并且系统的阐述和推广开来
这个算法解决了什么问题
它解决了一个核心问题
如何有效的训练含有多个隐藏层的神经网络
之前的感知机是单层的
而感知机那本书指出的很多局限
比如xr 问题
用多层网络理论上是可以解决的
但问题是怎么去调整那些隐藏层的连些权重
反向传播就提供了一个相对高效的方法来计算误差
是如何从输出层反向传播回去
并据此调整每一层权重的
相当于找到了一个让多层网络也能有效学习的方法
可以这么说
他使得训练更深更复杂的网络成为可能
从而克服了感知机提出的部分局限性
这标志着连接主义研究的真正复苏
这之后就迎来了深度学习时代
书里特别提到了那三位深度学习三巨头
杰弗里 辛顿
杨丽坤
眼泪控和约书亚
奔桥 对
这三位可以说是引领了深度学习革命的核心人物
他们也因此共同获得了二零一八年的图灵奖
他们在深度学习复兴之后一直坚持研究
并做出了关键的贡献
他们各自有什么代表性的工作吗
比如辛顿提出了像深度信念网络dbn 这样的模型
以及改性训练深度网络的技术
Lakeon
杨丽坤是卷积神经网络cnn 的主要贡献者
Cnn 在图像识别领域取得了巨大成功
本杰o 则在循环神经网络
Rnn 语言模型以及深度学习的理论方面做了很多开创性工作
深度学习这个词是什么时候开始叫起来的
它和之前的神经网络有什么本质区别吗
深度学习这个术语大概在二零零六年左右开始流行起来
主要是指那些层数非常多
也就是深的神经网络模型以及训练他们的方法
它的关键在于
这些深度网络能够自动的从原始术句中学习到多层次的抽象特征表示
多层次抽象表示
能具体点吗
比如在图像识别里
底层的网络可能学习到边缘
角点这些简单的特征
中间层可能学习到由简单特征组成的纹理部件
更高层则能学识到更复杂的物体
这种层次化的特征学习能力是深度学习强大的关键
书里列举了几个深度学习取得突破性进展的里程碑事件
是的
有几个标志性的事件
第一个是图像识别
对
就是二零一二年的image net 大规模视觉识别挑战赛
Iosvrc
辛顿和他学生带领的supervision 团队用一个深度卷积神经网络取得了压倒性的胜利
错误率一下子从之前最好的百分之二十六左右降低到了百分之十五以下
这个结果震惊了整个激进视觉领域
也让介质真正看到了深度学习的威力
确实是巨大的提升
第二个是语音识别
嗯
语音识别也是深度学习最早取得突破的领域之一
书于提到了美果研究院的邓丽博士
他和心通合作
在二零一一年左右就在语音识别任务上取得了显著进展
后来二零一二年
美国的执行研究官里克拉希德在中国天津的一次演讲中
现场演示了实时语音识别和翻译技术
我好像对那个演示有点印象
是英文演讲
然后屏幕上实时显示中文翻译
而且合成的声音还模仿了他的音色
对
就是那个演示
在当时引起了巨大的轰动
让很多人第一次直观的感受到了深度学习驱动下的ai 能力
还有一个是
嗯
大规模无监督学习
谷歌大脑儿那个
是的
谷歌大脑项目吴恩达也是主要参与者之一
他们在二零一二年搞了一个非常大的神经网络
用了大概一万六千个处理器核心
构建了超过十亿个连接的网络
这么大的网络用来干嘛
他们用这个巨大的网络去处理了大量的没有经过人工标注的youtube 视频针
结果发现网络中的一个神经元自发的学会了识别猫脸这个概念
在没有人告诉他什么是猫的情况下
对
这就是无监督学习的魅力
网络自己从数据中发现了这种模式
这展现了大规模神经网络从未标记数据中学习复杂概念的潜力
后来吴恩达回到斯坦福
又搞了一个更大的网络
据说有十一亿二千个参数
真是越来越大了
看来算力确实很重要
梳里也强调了硬件的作用
特别是gpu
绝对的图形处理单元
Gpu 原本是为游戏设计的
但它的并行计算架构恰好非常适合神经网络中大量重复的
并行的矩阵运算
可以说
没有gpu 带来的算力红利
深度学习可能很难发展的这么快
后来谷歌还专门搞了个tpu
对
Tensor processing unit 张量处理单元是谷歌为加速自家的tessrfow 深度学习框架而定制的芯片
进一步提升了效率
所以算法的突破
数据的增长和算力的提升
这三者是相互促进
共同推动了深度学习的浪潮
嗯
这一系列突破确实让人印象深刻
但书里也提到
这也再次引发了符号派和统计神经败之间的老争论
解了事件表示怀疑
书里引用了佩珀特的一个比喻
他说符号主义和廉接主义的区别
有点像分子生物学和进化生物学的区别
各有侧重
但可能都是理解智能这个复杂现象所需要的
这个比喻挺有意思啊
第三部分
Ai 在行动
从棋盘到语言
好
那我们接下来看看ai 在一些锯体任务上的表现
下棋
这好像一直是检验机器智能的一个经典舞台
没错
从ai 诞生之初
下棋就被认为是一个标杆性的挑战
因为它规则明确
但又需要复杂的策略规划和评估能力
书里提到了一个很有名的叫土耳其人的自动下棋装置
听起来很酷
他好像是个骗局
哈哈 是的
土耳其人是十八世纪末的一个机械装置
外形是一个穿着土耳其服装的人偶
坐在一个柜子前
能够和人下国际象棋
而且水平很高
他在欧洲巡演引起了巨巨大轰洞
但后来被揭穿了
柜子里面其实藏着一个棋艺高超的真人棋手
在操控
原来是这样
虽然是骗局
但也反映了人们很早就开始想象机器能够拥有智能
甚至是在下棋这种智力活动上超越人类
对这种想象一直存在
真正科学意义上的探索要从信息论之父克劳德
湘能开始
他在一九五零年代左右就发表了关于计算机下棋的思考
提出了如何评估棋结局
如何进行搜索等基本思想
那最早的夏季程序是什么时候出现的
书里提到了一个比较早也比较有名的程序
叫mac hack
是六十年代中期在mit 开发的
他在一九六七年的时候已经能达到一个不错的高中生骑手的水平
国际等级分大概一千四百左右
一千四百分在当时应该算很厉害了吧
是的
他甚至还成了美国国防部高级研究计划局网络opponent
也就是internet 前身上最早的网络游戏之一
很多人远程跟他下棋
但要挑战人类顶尖棋手
好像还有很长的路要走
书里提到斯马和赫伯德
西蒙这位诺贝尔经济学奖得主也是ai 的先驱
他好像两次预言计算机十年或二十年内能击败人类世界冠军
对
他大概在五十年代末和六十年代中期都做过类似的预测
但事实证明他还是低估了国际象棋的杂度以及人类顶尖棋手的水平
两次预言都没能实现
麦卡锡好像还因为这个输了个赌局
是的
麦卡锡跟一位叫列威的国际象棋大师打赌
赌十年内机器人无法在正式比赛中击败他
结果十年到了
机器人确实还没做到
麦卡锡输了赌注
这也说明了早期ai 研究者们普遍存在的一种
嗯
过度乐观的情绪
那最终是什么时候实现的呢
就是那个著名的深蓝
对
直到一九九七年
Ibm 开发的超级计算机深蓝
Deep blue 才在一场备受瞩目了对抗赛中
以三点五比二点五的总比分击败了当时的国际象棋世界冠军加利卡斯帕若夫
这绝对是ai 发展史上的一个里程碑事件
是的
深蓝的胜利很大程度上是基于强大的计算能力
蛮力搜索和大量由人类专家精心设计的棋发式评估函数相结合的结果
它表证着在国际象棋这个特定领域
机器计算力最终战胜了人类的经验和直觉
虽然关于这是否算真正的智能仍然有争论
但它无疑是一个历史性的突破
好 下棋之后
我们再来看另一个ai 的核心挑战
自然语言处理nlp
也就是让机器理解和使用我们人类的语言
这听起来比下棋更难啊
确实是语言太复杂
太灵活
太依赖语境和常识了
书里花了很大的篇幅来讨论语言学家诺姆
乔木斯的影响
乔木斯
这位好像是大神级的人物
绝对是
乔布斯在二十世纪五十年代提出的句法结构
以及后续发展的一系列理论
比如转换生成语法管约论
最简方案等等
可以说彻底改变了现代语言学的面貌
他的核心观观点是什么
他认为人类语言能力的核心是一种内在的
与生俱来的普遍语法结构
而不是后天学习的习惯
他提出了一个核心的句法操作
叫做合并merge
认为复杂的句子结构都是通过反复应用这个简单的操作生成的
书里还展示了句法分析术的例子
比如the man hit the ball
怎么一步步通过合并构建起来
听起来很理论化
是的
乔布斯基是典型的理性主义者
他强烈反对当时流行的行为主义观点
比如斯基纳认为语言是刺激反应的结果
他的理论对早期ai 的自然语言处理研究产生了深远的影响
很多研究都试图去实现他提出的语法规则
那早期基于这种符号主义思想的nlp 系统有什么代表性的例子嘛
书里提到了两个
Eliz 和shrdl
对
这两个是非常经典的早期nlp 系统
Eliz 是约瑟夫
夫卫茨鲍姆在六十年代中期开发的
他模拟一位罗杰斯市的心理治疗师
模拟心理医生
怎么模拟
他主要是通过一些预设的模式匹配规则来运作
比如你输入我感到很难过
他可能会匹配到我感到x 的模式
然后回应你为什么感到很难过
或者能多谈谈你感到难过的事情吗
书里还给了一个eliz 和一个高中女生的对话示例
效果怎么样
效果出人意料的好
很多人
甚至包括一些了解其原理的人
都会在和eliz 的对话中感觉他好像真的能理解自己
这也引发了为此bomb 版人的担忧
以及关于机器是否能真正理解的佛学讨论
Eliz 表明
有时候简单的规则就能产生看似智能的交互
另 另外
Shrdlu 呢
听起来更复杂
Shrdlu 是特里维诺
格拉德在七十年代初开发的博士论文项目
比eliz 要复杂的多
也更有影响力
它是在一个非常有限的积木世界
Blocks word 里运作的积木世界
对
想象一个虚拟的桌面
上面有一些不同颜色不同形状的积木
比如红色的方块
蓝色的圆锥
你可以用自然语言向shr dlu 发出指令
比如把那个红色的方块放到蓝色的盒子里
或者问问题
比如那个绿色的金字塔被什么支撑着
它能理解并执行吗
是的
十二du 能够解析这些自然语言指令
理解其中的指代关系
比如那个红色的方块指的是哪个
进行规划怎么移动才能完成任务
然后执行动作在模拟世界里移动寂幕
并且能回答关于这个世界状态的问题
他成功地整合了自然语言理解
推理
规划和知识表示等多个ai 模块
梳理甚至认为路的交互能力在某种程度上阐释了哲学家维特根斯坦晚期提出的语言游戏理论
哇
这个听起来确实很厉害
是符号主义sardn op 的一个高峰
可以这么说
但这种基于规则和符号逻辑的方法
后来也遇到了瓶颈
什么瓶颈
主要是知识表示的困难和推理的复杂性
真实世界的语言远比积木世界复杂的多
充满了奇异隐喻和需要大量背景知识才能理解的地方
用人工编写规则的方式很难覆盖所有情况
而且系统非常脆弱
遇到稍微超出规则范围的输入就可能崩溃
书里提到
到了八十年代
符号主义的nlp 研究进展相对缓慢
有点乏善可陈
那后来呢
又是什么带来了转机
嗯
转机来自于统计方法的回归
其实在早期也有基于统计的研究
到后来被乔木斯基的理论压制了
到了八十年代末
随着计算能力的提升和大规模语料库的出现
统计方法开始复兴
书里提到了ibm 的candidate 系统
对
一九八八年
Ibm 的一个团队基于大规模的双语语料库
比如加拿大议会的会议记录
有英法两种语言
开发了一个纯粹基于统计的机器翻译系统candidate
它的效果在当时引起了关注
标志着统计机器翻译smt 的时代的开启
统计方法和规则方法什么不同
简单来说
统计方法不再试图去理解句子的语法结构
而是把翻译看作一个概率问题
给定一个原语言句子
哪个目标语言句子是最可能对应的翻译
它通过分析大量平行语料
学习词语和短语之间的对应关系
后来谷歌翻译最早也是基于这种方法的
是的
谷歌翻译早期主要采用的是基于短语的统计机器翻译freesped machine translation pbmt
这种方法在很长一段时间内都是主流
但现在好像又是神经膜网的天下了
已逐渐取代了统计机器翻译
Nmt 通常使用像循环神经网络或transformer 这样的深度学习模型
直接端到端地学习从源语言句子到目标语言句子的映射
效果提升很大吗
非常大
梳里引用了谷歌的研究
对比了他们之前的pbmt 系统和后来的神经翻译系统gnmt
在多种语言对上
Nmt 的翻译质量都显著提升
很多时候已经接近甚至达到了人类翻译的水平
书里还展示了具体的blu 评分对比图表
谷歌用rnn 梳理说
Facebook 用cnn 对
当时在具体用哪种神经网络结构来实现nmt 上
还有一些技术路线的竞争
谷歌主要推基于rnn
特别是lstm 的方案
而facebook 则在探索用卷积神经网络cnn 来做翻译
认为cnn 可能在并行计算上更有优势
这也反映了技术发展中的不同尝试和演进
所以从elizer sotu 的cr 后规则到candidate 的统计概率
再到现在的nmt 深度学习自然语言处理这条路也是一波三折啊
的确如此
但这里又回到了那个根本问题
现在这些神经网络翻译系统
他们算是真正理解了语言吗
还是说他们只是在用极其强大的模式匹配能力在模仿翻译
乔布斯基他们可能还是会提出质疑吧
这个问题确实仍然存在
而且是ai 领域一个持续正争论的核心
目前的深度学习模型在很多nlp 任务上表现惊人
但他们是否具备人类意义上的理解
推理和常识
这还是一个开放的问题
从二零一四年左右开始
升级器翻译牛肉motion translation nmt 逐渐取代了统计机器翻译nmt 通常使用像循环神经网络或transformer 这样的深度学习模型
直接端到温迪学习从源语言句子到目票语言句子的映射
效果提升很大吗
非常大
书里引用了谷歌的研究
对比了他们之前的pbmt 系统和后来的深经译译系统gmmt
在多种源对上
Nmt 的翻译质量都显著提升
很多时候已经接近甚至达到了人类翻译的水平
书里还展示了具体的blu 评分对比图表
谷歌用rnna 梳里说
Facebook 用cnn 对当时在具体用哪一种神经网络结构来实现nmt 上还有一些技术路线的竞争
谷歌主要推基于rnn
特别是lstm 的方案
而facebook 则在探索用卷积神经网络cnnn 来做翻译
认为cnn 可能在并行计算上更有优势
这也反映了技术发展中的不同尝试和演进
所以从eliza soutt 和演做翻译
到kennedy 的统计概率
再到现在的nmt 深度学习自然语言处理这条路也是一波三折啊
的确如此
但这里又回到了那个根本问题
在这些神经网络翻译系统
他们算是真正理解了语言吗
还是说他们只是在用极其强大的模式匹配配能力在模仿翻译
乔布斯基他们可能还是会提出疑题
这个问题确实仍然存在
而且是ai 领域一个持续争论的核心
目墙的深度学习模型在很多nlp 任务上表现惊人
但他们是否具备人类意义上的理解
推理和常识
这还是一个开放的问题
最早的时候
他抓住ai 在一些当时看起来很难的任务上
比如下棋
语言翻译的失败来论证机器无法达到人类智能的水平
后来随着ai 在这些任务上取得进展
他的批评转向了更根本的方法论
他深受现象学特别是海德格尔思想的影响
认为人类的智能是巨身的embodied 和情境化的situate
巨身和情境化什么意思
意思就是说
我们的智能离不开我们的身体
离不开我们与物理和社会环境的持续互动
我们不是像计算机一样通过处理抽象符号来理解世界
而是通过身体的感知行动和在具体情境中的经验来获得理解和技能
德雷弗斯认为
传统的素符号主义ai 恰恰忽略了这一点
试图把智能还原为脱离身体和情境的符号操作
因此注定会失败
这个批评听起来挺深刻的
是的
他的批评对后来的ai 研究
特别是机器人学和巨身认知领域产生了不小的影响
不过书里也提到
有人反驳德雷弗斯
认为他对一些ai 理论
比如明星系的框架理论和他引用的现象学比如胡塞尔之间的类比过于简单化了
除了德雷夫斯
还有其他哲学家也对ai 提出了挑战吧
书里提到了塞尔的中文房间
对
John serll 的中文房间思想实验是另一个非常著名的针对强人工智能的批评
强人工智能是指强人工智能的观点认为
只要机器能够正确的执行某个程序
模拟了人类的心智过程
那么他就拥有了真正的心智
能够像人一样思考和理解
那中文房间是怎么反驳这一点的
塞尔设想的一个场景
一个只懂英语的人被关在一个房间里
房间里有大量的中文符号数据库和一套用英文写的规则手册
告诉他如何根据接收到的中文符号问题来匹配和输出另一些中文符号答案
外面的人输入中文问题
房间里的人按照规则手册操作输出中文答案
从外面看
这个房间好像能理解中文并进行对话
嗯
看起来是这样
但塞尔问房间里的那类人
他真的理解中文吗
显然不理解
他只是在机械的根据规则处理符号
塞尔认为
计算机执行程序也就是在做类似的事情
即使他能通过图灵测试
表现的像有智能
但他本身并没有真正的理解和意识
这个思想实验主要挑战的是那种认为心智等同于计算的机器计算主义观点
这个实验确实很有利
还有葡特曼的肛中之脑
这个好像更科幻一点
是的 希拉里
葡特曼的肛中之脑
Brain in a vat
思想实验虽然不完全是针对ai 的
但他探讨了关于现实模拟和意识的根本问题
他设想一个大脑被从身体取出
放在营养液里
连接到一台抽级计算机
计算机模拟出一个完全逼真的虚拟世界
让大脑以为自己还生活在真实世界里
黑客帝国的感觉
没错
普特纳用这个实验来论证
我们不能一致的怀疑我们所处的现实是假的
但他确实引发了关于模拟现实
虚拟世界以及意识是否依赖于物理基础的深入思考
这些都与ai 和人工意识的可能性相关
他挑战的是功能主义
也就是认为心智的功能可以独立于其物理实现
比如大脑或计算机的观点
还有物理学家也加入了草原
彭洛施 对 罗杰
彭罗斯
一位著名的物理学家和数学家
他从更基础的科学原理出发
论证人类意识具有非计算的特性
它主要依据哥德尔不完备性定理和量子力学
哥德尔不完备性定理
这个定理表明
在任何足够强大的
一致的形式系统中
总会存在一些该系统无法证明也无法政匪的真命题
彭罗斯认为
人类数学家能够直观地认识到这些命题的真理性
这超出了形式系统
也这是图灵机所能模拟的范围的能力
他还猜测
意识的产生可能与大脑中发生的某种未知的量子过程有关
这个观点争议应该很大吧
非常大
很多computer scientist
逻辑学家和哲学家都对他的论证提出了质疑
认为他对哥德尔定理的理解和应用有问题
而且他关于与量子意识的猜测也缺乏实证之处
但他的书确实引发了广泛的讨论
看来哲学家和科学家们对ai 的看法真是五花八门
不过书里好像对哲学家
特别是欧陆哲学家有点
嗯
不那么客气
书的作者确实表达了一种观点
似乎对一些哲学思辨
尤其是那些不基于科学细节的宏大叙事取有一种批评态度
他引用了向物理学家费曼等人的观点
认为哲学对模现代科学的具体指导作用已经不大了
还举了个亚里士多德的例子
对
引用了神经科学家杰拉尔德
埃尔德曼对亚里士多德的有点讽刺的评论
说亚里士多德认为女人牙齿比男人少
但他明明结过两次婚
却从没想过去数一数
以此暗示有有时候经验观察比纯粹思辨更重要
作者还建议计算机科学家也许不必等到神经科学家完全搞懂大脑的每一个细节
就可以去尝试构建智能系统
那作者认为哲学家的作用应该是什么呢
他似乎更倾向于威特艮
史坦的看法
认为哲学家的作用更像是提醒
比如提醒我们注意概念的误用
倾城思想的混乱
而不是是给科学研究提供方向性的指导
书里甚至还用了一个
呃
有点技术性的方法
通过分析危基百科页面之间的连接距离来说明ai 这个领域与哲学领域的实际关联度可能并不像人们想象中那么近
还展示了一个关联度图表
挺有意思的分析
最后还建议哲学家学点计算复杂性理论
对
意思大概是希望哲学家在评论ai 的时候
能更懂一些基础细节
少说一些
嗯 外行话
当然
这本身也是一种比较强的观点了
好
跳入哲学思辨
我们来看看书中关于智能本身的一些更基础的探讨
比如他的生物基础
书里提到了巴西一位神经生物学家的研究
是的 苏扎纳 L
库拉诺乌尔z 尔
他的研究很有意思
他开发了一种新的方法
能够更精确的测定大脑中神经元的数量
结果怎么样
我们平时听到的说法一样吗
不太一样
我们通常听说人脑有大概一千亿个神经元
但他的研究结果是
人脑总共大概有八十六亿个神经元
更关键的是
大脑皮层
也就是被认为和高级认知功能关系最密切的部分
大概有十六亿个神经元
这个数字有什么意义呢
意义在于比较
比如大象的大脑比人脑大得多
神经元总数也可能更多
但他大脑皮层的神经元数量却远少于人类
这似乎支持了大脑皮层神经元数量与物种的认知能力
尤其是灵活性和抽象思维能力更相关的观点
书里还展示了一个不同物种大脑皮层神经元数量的对比图
很有趣的对比
他的研究还提到了人类大脑进化的一个可能因素
和做饭有关吗
对
这是他提出了一个很有名的假说
就是烹饪技术的发展使得人类能够从食物中更有效的获取能量
因为大脑是一个能耗极高的器官
人脑虽然只占体重的百分之二左右
却消耗了身体大约百分之二十五的能量
这么多 是的
所以如果没有高效的能量来源
大脑很难进化到如此大的规模和复杂度
烹饪相当于对食物进行了预消化
让人类能够负担的起这个昂贵的大脑
这个角度很新颖
从大脑的生物基础自然就引向了关于未来智能形态的讨论
比如超级智能
书里提到了赫拉利写的未来简史吗
嗯 提到了 尤文
赫拉利的未来简史homedealls 这本书
他探讨了未来科技可能如何改变人类自身
包括通过生物技术和人工智能来追求神性
但也提到了更早的一个概念
来自图灵的同事ij
Good
古德提出了什么
古德在一九六五年就提出了智能爆炸
或者叫超智能的概念
他的想法是
一旦我们能制造出一台比人类设计师更聪明的机器
那么这台机器就能设计出更聪明的机器
如此迭代下去
很快就会导致智能水平的指数级增长
远远超过人类
这个想法很有预见性啊
是的
这可以说是今天关于超级智能风险讨论的最导源头之一
不过书里也做了一些区分
提醒我们注意区分几个概念
什么概念
比如超计算性和超级计算
超级计算是指在现有计算模型如图灵机下达到极高的计算性能
而超级计算是指理论上超越图灵机计算模型目前还只存在于理论嗯
作者认为赫拉利等人讨论未来时
可能有时会把这两个概念与超级智能super intelligence 远超人类的智能和超级智能ultra intelligence 古德提出的那种能自我改进的智能混淆起来
书确实需要厘清这些概念
书里还讨论了强人工智能ai 和智能增强ia 的区别吗
对
强人工智能artificial intelligence 的目标是创造出具有人类同等甚至超越人类智能水平的机器
而智能增强intelligence augmentation 的目标是用技术来扩展和增强人类自身的能力
人仍然是主体
这两条路径代表了不同的发展方向和哲学思考
再加上基因编辑等生物技术的发展
未来智能的形态可能会非常多样
也带来了复杂的伦理问题
结语 好了
我们这次跟着一刻的人工智能简史这部分内容进行了一次相当深入的
嗯
可以说是巡航吧
回顾了ai 从早期基于逻辑和规则的数字主义
到后来模仿大脑的神经网络和连接主义这两条主要路径的曲折发展历程
嗯
确实梳理了很多关键节点
我们看到了像自动定理证明的起落专家系统
Dndl 和x counon 的实践
知识表示的各种尝试
还有那一个雄心勃勃的赛yk react
以及后来知识图谱的兴起
对
然后是神经网络这边
从麦卡鲁克模型电机到感知器的短暂辉煌
再到明斯基泼冷水带来的ai 寒冬
以及后来反向传播算法带来的复兴
最终引爆了深度学习革命
我们也谈到了几个标志性的应用和里程碑
比如胜来击败卡斯帕罗夫
埃里赞和十二
D 利o 在nlp 上的早期探索
以及后来统计机器翻译和神经机器翻译的巨大进步
当然还有像谷歌大脑识别猫脸这样的趋势
是的
整个过程充满了理论的突破
算法的创新
硬件算力的发展
以及实际应用需求的推动
这几者之间是相互影响
相互促进
那么同时我们也看到了ai 的发展始终伴随着深刻的哲学思考和争论
从乔布斯基对语言本质的看法
到德雷夫斯对巨身智能的强调
再到塞尔的中文房间对理解的质疑
还有彭洛斯关于意识和计算的探讨
这些思考提醒我们
智能本身就是一个极其复杂和深刻的问题
没错
我们能看到号族主义和连接主义这两种范式之间的
嗯
长期的竞争
此消彼长
甚至到现在的互相融合
也能看到理论研究
工程实践和商业应用之间的相互作用
不是历史中一直存在的
这种张力其实也延续到了今天
那么了解了这种跌宕起伏
充满各种思想碰撞的历史
对你
我们的听众理解当前ai 的热潮
比如说现在非常火的大语言模型
会不会有一些新的启发
能不能让你更辩证的去看待ai 目前展现出的惊人能力
以及它可能存在的局限性
是的
历史感能提供一个更广阔的作标系
你会发现
很多现在讨论的热点问题
比如ai 的理解能力
创造力
偏见问题以及对社会的影响
其实在历史上都有其根源和不同角度的探讨
书的最后引用了机器人专家罗德尼
布鲁克斯的一个观点
他说
我们可能需要一种呃
目前还未知的新数学
才能真正理解生命
系统和智能的奥秘
是的
布鲁克斯是巨身机器人学的代表人物
他一直强调智能与物理世界交互的重要性
书中也提到了
其实早在ai 诞生之初
像图灵和冯诺依曼这样的先驱就已经在思考机器能否模拟生命
思维和意识这些终极问题了
那么最后就留给你一个开放性的问题去思考吧
未来的ai 发展
究竟会继续沿着我们现在看到的路径
依靠更强大的算力
更大规模的数据
更复杂的模型一路高歌猛进
不断提升性能
还是说
我们需要等待某种像布鲁克斯所说的类似新数学那样的根本性的理论突破
才能真正触及到智能甚至是意识和生命的本质呢
这或许就是人工智能简史留给我们所有人的一个需要持续探索和思考的问题
嗯
这个问题确实引人深思
好的
非常感谢你的收听
我们这次的深入探讨就到这里
