本字幕由TME AI技术生成
大家好
这里是最佳拍档
我是大飞
几天前
人类简史的作者尤二
赫拉利在油管的官方频道上更新了在东京庆应艺术大学所做的一场演讲
主持人呢
是庆应艺术大学的校长伊藤公平
尤二
赫拉利应该不需要我过多介绍了
他是一名以色列的历史学家
也是畅销书简史三部曲的作者
在六年前出版的今日简史中
他指出了三大全球性的威胁
分别是核战
不受控制的生物技术发展
以及信息技术网络与人工智能的失控
而在这场讲座中
他认为当年的三大威胁中
核威胁和生物威胁现在看起来呢
风险没有那么大
但是ai 风险的优先级要高得多
如今呢
在整个行业里
明显谈ai 机遇的人更多
谈ai 风险的人更少
之前呢
我们听到最多的应该就是心盾和本教了
所以大非
我今天再来给大家分享一下尤瓦尔的最新观点
伊藤公明呢
在开场提出的问题是
为什么尤瓦尔在新书制人至上中将主要的火力集中在了信息网络与ai 上
相较于生物技术和核战争威胁
这种优先级的调整是基于什么样的考量呢
U 二的回答呢
非常的清晰
它首先呢
比较了ai 与生物技术
虽然两者都能够给世界带来巨大的改变
但是ai 的发展速度现在远远超过生物技术
生物技术的变革周期漫长
因为生物学本身就慢得多
他举例说明
对人类基因组进行修改
然后再观察它的影响
再根据结果来进行更大的改变
这个过程可能需要持续二三十年甚至四十年才能够评估新的遗传物质对人类行为
智力
心理的具体作用
因此呢
生物技术领域
尤其是在涉及到人类的时候
它的代际周期大概会是二十到三十年
相比之下
Ai 的迭代速度就快的惊人了
可能只需要仅仅几天
他指出
数字进化比有机进化要快数百万倍
这就决定了尽管生物技术的潜在威胁不容小觑
但是ai 因为其迅猛的发展态势而显得更为紧迫
他着呢
尤瓦尔将ai 与核威胁又进行了对比
他认为之所以更加的聚焦于ai
主要呢
有两个原因
其一
核战争没有任何积极的意义可言
因此呢
也没有支持者
自从一九四五年以来
国际体系中最大的禁忌就是强国不能够仅仅因为自身的强大就入侵
试图征服并且摧毁弱国
如今呢
虽然这个禁忌已经被打破
但是至少所有人都明白它的危险性
正所谓核战争中没有赢家
而ai 呢
则是一个更为复杂的挑战
因为它拥有巨大的积极潜力
这使得人们很难充分理解它的潜在威险
Ur 还提到
自从广岛和长崎原子弹爆炸以来
核技术的危险性对于人类而言是清晰可见的
无需过多解释
这是ai 的危险则是难以把握的
因为它是一种异类的威胁
它强调ai 的核心问题不在于它是邪恶的
而在于它的异类性
这是一种在许多方面可能会超越人类的智能
但是它并非人类智能
也并非有机智能
很多人问ur
Ai 什么时候能够达到人类水平的智能
他的回答是永远不会
因为他与我们完全不同
他巧妙的比喻到
这就像是问飞机什么时候能够达到鸟类的飞行水平一样
答案是永远不会
飞机和鸟类完全不同
它们以不同的方式飞行
因此呢
Ai 一定会超越人类智能
但是它的本质上是异类的
这就使得预测它的发展轨迹和后果变得极为困难
更进一步
U 二抛出了一个关于ai 最核心也是最需要被大家理解的观点
就是它不只是一个工具
它是一个具有能动性的agent
这是人类有史以来创造的第一项有能动性而非单纯工具的技术
无论是原子弹还是用来发电的核反应堆
它们都是人类手中的工具
由人类来决定如何使用它们
比如是用来发电还是用来摧毁城市
决定权都在人类的手中
反应堆本身是无法做出任何决定的
更不要说让它去发明下一代的反应堆或者是炸弹
直到现在呢
只有人类能够做出决策和创造新的思想
但是ai 是第一种可以在没有人类帮助和干预的情况下做到这些的技术
Ai 呢
可以自行决策
Ai 武器不需要人类的指令就能够自行决定轰炸目标
甚至可以发明新的武器和军事策略
他既拥有巨大的积极潜力
也拥有巨大的消极潜力
正因为如此
Ur 选择在他的新书中专注在了信息技术的历史
因为他认为
在当前时刻
这才是我们面临的最大挑战
甚至在很多方面是人类历史上所面临的最大挑战
数千年来
人类统治着地球
地球上没有任何事物能够在智能和创新能力上与我们竞争
但是现在
地球上出现了一种可能
在几年内就会在智能上超越我们
能够决定我们生活
能够发明从药物到武器等一切新事物的存在
这便是最大的挑战所在
随即呢
伊藤注意到尤尔早在二零一五年出版未来简史的时候
就已经对信息技术和信息网络发出了警告
并且给予了重点的存在
他好奇的追问
与十年年前撰写未来简史时的思考相比
尤尔现在的想法有什么改变吗
这十年间
从一位历史学家
中世纪军事专家转而聚焦于信息网络与ai
他个人的思想发展轨迹又是怎么样的呢
由而坦言
十年前撰写未来简史的时候
谈论ai 的人还非常少
当然了
计算机科学领域
谷歌和微软等等顶尖公司的内部人士已经预见到了一些趋势
也有像尼克
波斯特鲁姆这样的少数哲学家在进行探讨
但是在当时撰写关于ai 的内容
感觉更像是在讨论可能数百年后才会发生的事情
对我们生活的直接实际影响微乎其微
然而时至今日
Ai 已经无处不在
它的发展速度简直令人震惊
尤尔回忆起来
当时已经有像雷
库兹威尔这样的人预测到大约二零二九年的时候
将会出现通用人工智能agi
能够在所有领域超越人类
当尤尔本人在读到库兹威尔的预测时
也曾经认为他太夸张了
不可能是二零二九年
但是现在
库兹威尔仍仍坚持是二零二九年的预测
而他已经被认为是较为保守的思想家之一了
听听那些中美两国大型ai 企业里的人们是怎么说的
他们谈论的是在一年
五年内实现agi
所以说
Ai 的发展进程显著加速了
另一个显著的变化是
所有关于监管ai
与ai 达成某种协议的希望
现在看起来都是极其天真的
尤瓦尔认为
尤其是在最近一次美国大选之后
达成一项关于如何管理ai 发展风险的全球协议的希望基本上已经破灭了
这就引出了ai 革命的一个巨大的悖论
也就是信任的悖论
Ur 在与领导ai 革命的那些人
比如说open i
微软 腾讯
百度等公司的负责人以及主要的政治家交流的时候
总是会问他们两个问题
第一个问题是
你们为什么发展的这么快
Ur 表示理解ai 巨大的积极潜力
但此他清楚它存在着风险
因此他建议让我们稍微放慢一点
给人类社会一些时间
人类是适应性极强的生物
我们可以适应ai 时代
但是我们需要时间
所以请给我们多一点时间
而这些领导者的回答几乎如出一辙
那就是
我们理解存在着巨大的风险
甚至可能导致人类的灭绝
我们理解这一点
我们也愿意放慢速度
但是我们不能
因为如果我们放慢了
而其他公司
其他国家的竞争对手不放慢
他们就会赢得这场竞赛
然后那些最冷酷无情的人将主宰世界
因为他们将拥有ai 这项奇妙的技术
于是结论就变成
因为我们无法信任其他的人类
所以我们必须更快的发展
然后尤瓦尔会问第二个问题
你们认为自己能够信任正在开发的超级智能ai 吗
他们的回答都是是的
尤瓦尔对此感到不可思议
那些一分钟前还告诉我他们无法信任其他人类的人
突然之间变得非常容易信任ai
他直言这简直是在濒临疯狂的边缘
因为对于人类而言
他能够理解为何我们难以相互信任
但是毕竟我们与其他人类打交道已经有数千年的经验了
了解我们自己的心理和动机
我们深知人类对于权力的渴望
但是也明白制约权力的机制
数千年来
人类也发展出了学习互相信任的方法
从一万年前生活在几十人的小部落
无法信任部落外任何人的状态
发展到了如今拥有几亿公民能够互相信任的国家
全球贸易网络也连接着地球上所有的八十亿人
我们吃的食物
穿的衣服
保护我们的药物往往是由地球另一端的陌生人生产的
所以尽管信任他人仍然是一个巨大的问题
但是我们在这方面拥有经验的
然而对于超级智能ai
我们反而是毫无经验的
我们不知道他们可能会发展出什么样的目标和伎俩
更不知道当数百万个超级智能ai 相互作用
并且与数百万人类互动的时候会发生什么
Ai 并非是某个地方的一台大型计算机
更应该将它视为一场席卷全球的移民浪潮
他认为ai 就好像是一波数百万异类移民的浪潮
他们将夺走人类的工作
拥有截然不同的如何来管理社会的想法
甚至可能会接管国家
这才应该让人们感到恐惧
因此
这个巨大的悖论的核心在于
在我们开发出超级智能ai 之前
如何在人类之间建立信任
谈到信任
一同进一步引申到
不仅是人与ai agent 之间的信任问题
所谓精英与普通大众之间的信任鸿沟也在不断的扩大
他关心的是
尤尔的著作可能会更多的被所谓的精英阶层阅读
那么这些深刻的思想在多大程上能够影响普通大众呢
毕竟弥合这两个分裂群体之间的鸿沟至关重要
尤尔回应到
如同我们头脑中发明的许多分歧一样
精英与人民之间的这种划分也是一种错误的二分法
他以世界上最富有的人
比如说马斯克以及其他一些亿万富翁举例
这些人呢
本身就是亿万富翁
却声称他们反对精英
尤尔反问道
如果你不是精英
那么什么是精英
难道世界上最富有的人不是精英吗
所有这些现在执掌美美国政府的亿万富翁
他们不是精英
为什么
他认为精英这个词已经变成了一个负面的标签
人们只是用它来攻击对手
实际上
每个人群都有他的精英
由而强调管理任何人群
哪怕是一个足球俱乐部都离不开精英
社会中总会有一些人在某些方面更有才华
或者拥有更多的权利与影响力
这是人类社会的本质
问题不在于精英的存在与否
关键在于这是一个服务型的精英
还是一个自私自利型的精英
他进一步解释到
在一个群体中
无论是小到朋友圈
还是大到整个国家乃至全球
如果那些最具有影响力的人仅仅是为了自身利益而使用权力
那将是非常糟糕的局面
理想的情况是
那些在特定领域拥有才华
更具有影响力或者权力的人
能够将他们用在社会的福祉上
那种认为可以建设一个没有任何精英的社会的幻象从来都行不通
他往往是一些人借以争夺权力的伎俩
尤尔认为
尤其是对于轻硬这样的高等学府以及所有大学而言
目的应该不是摧毁精英
也不是打破群体间的壁垒
而是培养服务型的精英
这才是大学应该追求的目标
随后
对话自然而然的延伸到了教育在应对ai 时代挑战中的作用
一同提到u 二在书中谈到的生活在网络空间与物理空间的人群之间的分化
以及越来越多的人沉浸在网络空间
习惯于接收碎片化信息的现象
他忧虑的问道
像庆应这样的高等教育机构
以及中小学等基础教育阶段
应该如何应对这一挑战
确保年轻一代仍然有能力阅读引人深思
激发讨论的长篇内容呢
在这个信息获取越来越便捷
但是深度思考能力面临考验的时代
教育在维持人类智力水平方面究竟应该扮演着什么样的角色呢
由而指出
在以往的时代
教育机构的核心任务是向人们提供信息
因为信息是稀缺的
他描绘了一个这样的场景
那就是生活在偏远小镇的人们
镇上可能只有一个几百本藏书的图书馆
想要获取一本新书都非常的困难
而现在呢
情况恰恰相反
人们不再缺乏信息
而是被海量的信息所淹没
最关键的一点是需要理解信息并不是真相
尤二强调到
真相是信息中一个非常罕见的子集
如果审视世界上所有的信息
真相所占的比例微乎其微
大部分的信息都是垃圾信息
虚构 幻想
谎言和宣传等等
背后的原因呢
也不难理解
首先呢
真相是昂对的
而虚构是廉价的
撰写一篇真实的技术需要进行研究
花费时间分析和核查事实
这需要时间
精力和金钱
而虚构则是非常廉价的
只需要将头脑中闪现的任何想法写下来即可
其次
真相往往是复杂的
因为现实是复杂的
比方说要撰写一篇关于量子物理学的论述
这个过程本身就很复杂
而人们通常不喜欢复杂的叙事
他们更偏爱简单的故事
而虚构则可以根据需要被编造的尽可能简单
最后呢
真相常常是痛苦的
虽然并非总是如此
但是现实的某些部分确实令人不适
从个人层面来看
这就是人们需要心理治疗的原因
如果关于自身的一切都是愉悦有趣的
就不需要治疗师来帮助我们承认那些痛苦的记忆或者内在的痛苦了
这一点呢
其实也适用于整个国家
国家也常常不愿意承认历史或者社会中某些痛苦的部分
因此呢
真相有时是痛苦的
而虚构则可以被随心所欲的塑造成美好动听的故事
在这场昂贵复杂且痛苦的真相与廉价简单且诱人的虚构之间的竞争中
虚构往往会胜出
所以呢
会导致世界充斥着海量的虚构内容
因此呢
像大学
报社这样的机构
他们的任务已经不再仅仅是向人们提供更多的信息了
而是应该为人们提供一种方法
在信息的海洋里找到那些罕见的真理宝石
并且知道如何区分两者作为一名历史学家
尤尔在历史课上教给学生的主要内容并不是关于过去的具体史实
比如说某位国王在哪一年战胜了另一位国王
这些信息学生们通过网络搜索轻易的就能够获得
他们真正需要在历史课上学到的是如何区分可靠的历史来源和不可靠的历史来源
比如说
一个来源可能是我们今天在互联网上看到的东西
因是tik tok 上看到的视频
你是否应该相信他呢
另一个来源可能是来自于中世纪的一份文件
你又该如何判断是否应该相信他呢
因为一千年前的人们也会撒谎
而不仅仅是今天的人们
嗯
这才是核心的问题
当然了
在每个社会学科中
这个问题呢会略有不同
但是关键都不在于如何获取更多的信息
而在于我们如何区分可靠的信息和不可靠的信息
物理学或化学实验也是同理
比如说如何知道是否应该采信某个实验的结果呢
随后呢
伊藤提到
阅读ur 的新书致人至上虽然给他带来了复杂的情感体验
甚至有些痛苦
但是也同时给予了他希望
因为事情还没有到无法挽回的地步
人类拥有自我纠错和合作的能力
只要我们有足够的时间
在ai 发展到某个临界点之前
或许能够找到应对之道
正是基于这种考量
庆应大学成立了跨尊研中心
希望召集人文社科学者共同应对这一挑战
他随即向尤瓦尔抛出了一个问题
那就是如果ur 是这个中心的研究员
最想要研究的课题会是什么
尤瓦尔毫不犹豫的回答道
他认为目前最为紧迫的课题就是如何在人类之间建立信任
因为当前世界正目睹着人类信任的瓦解
而这恰恰发生在我们最需要信任的时刻
他强调
当今世界最大的危险其实并不是ai
而是人类之间的不信任
如果人类之间能够互相信任并且合作
我们仍然可以设计出安全发展ai 的方法
正是人类之间的不信任使得ai 革命变得如此的危险
因此它会聚焦在这个课题上
并且相信现在建立足够的人类互信来控制ai 还为时不晚
那么具体应该如何着手应对呢
由尔认为这需要多学科的投入
因为没有任何单一的学科能够独立解决这个问题
我们需要生物学和心理学的视角
我们仍然是动物
需要理解自身的动物性传承
当然也需要经济学
计算机科学的参与
因为当今所有的社会系统都建立在新的信息技术之上
许多在过去十年二十年间非常成功的人类信任建立的方法
如今可能都已经过时了
因为现在人类通过计算机进行交流
关于过去一二十年间人类信任崩溃的原因本身呢
也存在着巨大的讨论
而且又是一个悖论
因为从从很多的硬数据来看
比如说儿童的死亡率
疾病
饥荒等等
人类社会正处于有史以来最好的状态
但是人们却如此愤怒
沮丧
无法相互沟通
尤尔认为原因在于一种新的技术介入了人类之间
现在呢
大多数人类的交流都要通过一个非人类的中介
这在世界上造成了混乱
但是要重建信任
我们不能简单的说扔掉所有的智能手机和电脑
而是需要重新学习如何在信息技术的调节下
在广大民众之间建立信任
鉴于尤瓦尔新书智人至上的日文版刚刚刚出
伊藤藤也顺顺询询问uur 对于美国领导换届以来全球局势发展的看法
Ur 表示自己充满忧虑
他指出
由于社会内部以及社会之间信任和加速侵蚀
我们看到二战之后建立的国际秩序正在瓦解
整个国际秩序最重要的禁忌和规则就是强国不能够随意的入侵和征服弱国
这与此前数千年的人类历史形成了鲜明的对比
二十一世纪初
人类享受了历史上最和平繁荣的时代
很大程度上是因为这个禁忌得到了维持
这一点呢
从政府预算中最能够清晰的反映出来
纵观历史长河
绝大多数的国王
幕府将军和皇帝的预算中
超过百分之五十都是用于军事方面的
而在二十一世纪初
全球政府军事支出的平均水平降到了大约百分之六或者百分之七
而大约百分之十的预算是用于医疗健康
这是人类历史上第一次
全球各国政府在医疗上的投入超过了军事
然而如今这个区是正在逆转
现在如果弱者拒绝服从强者
那么由此引发的冲突责任就在于弱者
这种逻辑随处可见
比如说美国曾经扬言要征服格林兰岛
尤尔尔告说
这种世界观和逻辑将把全人类带回持续战争的状态
在这种情况下
不仅医疗和教育预算会下降
任何监管ai 的机会也将不复存在
因为每个国家都会说
我们必须赢得ai 竞赛
我们不会做任何可能让我们放慢脚步的事情
以免对方获胜
因为他们成为强者
我们就必须服从他们
在问答环节
有两个问题呢
我觉得很有意思
特意挑了出来
一个呢
是社交媒体上的虚假新闻和信息操纵的问题
有观众询问如何在保障言论自由的同时规范信息的传播
特别是在算法主导信息分发的背景下
如何确保信息的质量与可信度
尤尔对此进行了精确的区分
我们需要区分讲话的自由和信息的自由
他强调
讲话是赋予人类的一项非常重要的权利
应该受到保护
然而信息自由则完全不同
这是一项新的权利
它并非赋予人类
而是赋予了ai 算法和机器人
许多社交媒体巨头有意混淆这两项权利
社交媒体的问题不在于人类编造谎言
因为人类数千年来一直在编造谎言
除非极端情况
他们不应该因此受罚
真正的问题在于
平台有一个算法
他决定故意传播谣言
仇恨等等
这应该被制止
并且应该受到惩罚
尤而再次明确
如果一个youtube 用户制作了一个虚假新闻视频
他应该因此受到惩罚
但是如果我是这家公司
我故意向数百万人推荐和播放这个充满仇恨的阴谋论视频
因为我能够从中赚钱
那么它就应该受到惩罚
这种行为不受言论自由的保护
因为这是由算法完成的
而算法没有人权
他们没有传播谎言的权利
所以呢
社交媒体公司有责任就像报纸和电视台一样
在传播任何内容之前确保它的真实性
而非充满仇恨的谎言
另一个问题是关于ai 对于战争形态的影响
由而指出
信息技术的发展并不会废除物理世界
而是在其之上构建了新的层面
数千年来
人类创造的各种信息
无论是法律
宪法
宗教还是金钱
都没有取代或者废除物理和生物现实
人们仍然拥有身体
需要食物和清洁的水
但是这些额外的信息层使得人类能够创造贸易
网络等等事物
从而改变了获取食物的方式
Ai 对于战争的影响也是与此类似
战争的本质仍然是杀伤
但是实现方式正在改变
目前来看呢
杀戮仍然是由人类执行的
但是ai 真正改变的是谁在选择目标
谁在做决策
谁决定轰炸这座建筑
谁决定轰炸这个人
由而指出
答案越来越多的指向ai
并且在过去两三年表现的尤为明显
以前呢
识别工作的目标是由人类情报官员来完成的
他们收集信息
阅读报告
可能需要几天才能够确定一个目标
但是现在
Ai 可以在几秒钟内完成这项工作
Ai 能够处理的海量信析远超任何人类的分析能力
他能够发现人类无法觉察的模式
并且在几秒钟内指出这是敌方的总部
轰炸他
当然了
巨大问题还在于我们能否相信ai 的判断
他是否可能犯错
只是我们轰炸一个民用而非军事建筑
由而从不同的人那里听到了不同的说法
一些人说在ai 指出目标之后
会有人类分析师去复核所有的信息
以确保没有错误
而另一些人则表示
人类分析师可能只会花半分钟的时间
根本无法真正核查ai 的判断
因为ai 处理的数据点太多了
人类的符合基本上只能是走个形式
真正做决策的仍然是ai
虽然目前呢
这两种情况可能都有
但是展望未来五到十年
趋势是非常清晰的
那就是ai 将在战争中越来越多的做出关键决策
这无疑是一个非常危险的发展
在活动的尾声
U 二对当前的讨论和问答进行了总结
他坦诚
我们讨论的许多议题听起来令人忧虑
这是因为那些开发ai 的公司往往只强调了ai 的积极潜力
因此呢
需要哲学家
历史学家和批判家来指出潜在的危险
寻求平衡
问题的关键不在于如何阻止ai 的发展
而是我们希望能够以安全的方式来发展它
而实现这个目标的关键
再次回到了如何在人类之间建立信任的问题上来
谈到这个核心的主题
U 二分享了一个自己的思考
信任确实是生命的基础
如果你不信任他人
不信任外界
你连一分钟都活不下去
即便是我们赖以生存的呼吸
这个维持生命的最简单动作
它的本质也是对我们身外之物的信任
正是这种信任的吸入以呼出维持着我们的生命
所以说
即使这个世界上存在着巨大的问题
但是归根结底
生命的基石是信任
好了
以上就是尤尔赫拉利这次讲座的主要内容了
希望能够给大家带来一些启发和思考
感谢大家的观看
我们下期再见
