本字幕由TME AI技术生成
女士 男 女士
Man
Aa
本播课的主题主要围绕人类精神
情欲 Bdsm
艺术
哲学和人工智能
本博客的灵感来源于三体小说中
三体人将在四百年后入侵地球
而在这人类最后的四百年里面
开始了尽情的享乐和虚无主义
像今天大概的话题其实是聊这个gpt 的
来
嘉宾自我介绍一下
得
作为一个熟悉的了解播客该怎么录流程的嘉宾
我也必须得q 一下我自己
大家好
我叫金叶晨
然后那个是很多个播客的第零期嘉宾
然后在技客上的身份是即客吵架王
然后
但我的实际的工作是一个做投资的投资人
对
当家
因为今天反正我们主要的话题还是关于gpt 这个最近特别热的一个一个题材
呃
但是今天我觉得
可能 大概
我们是从哲学角度
或者从 呃
尤其是我是一个特别反监督学习的人
我们会切入这个
呃 先
先聊第一个
第一个事啊
就是关于十年之前
十年之前是一三年
对 一三年
那会儿刚好我觉得是移动互联网浪潮
一三年是iphone 五
好吧
Iphone 五对四s 和五的那个
那个年代
嗯嗯 对 我
我一二年的时候
还刚发布过自己的那个ios 游戏
所以那会儿是一个特别技术崇拜的一个一个阶段
就是我印象中
周围人都在gdc 开发者大会
然后wwdc
熬夜看苹果的这种开发者大会
嗯 呃
所有人都在技术崇拜
那个时候大家对于能够通过技术创造的人都是很崇拜的
但是我们到几十年之后的今天
当这个ai 在
因为这是个科技话题啊
他在这个
呃
进入这个主流语境之后
似乎好像并没有人太关注技术
大家反而在讨论的是咒语
对啊
我觉得你怎么看这个事儿
就
就是为什么会走到这个地步
我觉得这件事情很有意思啊
就是gbt 浪潮来之前
大家差不多去年的时候
我记得当时出现了一个就mid journey
啊
要那个绘画软件出来的时候
大家其实就包括后来的nova ai
然后包括在后
后来比较
现在比较流行这样的stabdefusion
嗯 就这一波
大家都在输入咒语
做做图嘛
那个时候其实大家都在聊我
那天
我记得有一天我发了一条朋友圈
我说 呃
人类已经就是迎来了魔法时代
对 就是他
这为什么这事儿变成了个草药学了
就是
但是这很合理不是
在 在十年前
我觉得最大的区别是
我们是个无比技术崇尚的主义
然后我们 嗯
所有程序员
因为我
我也是技术出身嘛
就是我们都是以无比的了解这个代码
无比的明白可控
你看 你看
这是这样的
就是因为十年之前
我记得我也跟你在熬夜看待wwdc
我记得有一次我还我们在那个地方
特别有意思
就是大学路上
不知道你还记得吗
啊 因为我的
我的第一头像
就是还是那天拍的照片
就是在大学路上
然后有一次wwdc 晚上
我们在现在那地方
改成那个德德物的那个
哦 对对对对
印象对
以前那是一个不知道那个
对
我们在那看
然后其实这两代代人之间
我严格来说
他是一代人啊
就是我们
十年前的我们
和我们现在
但其实我觉得这里面最大差异是技术其实的使用者的人基数完全不一样
大家在十年之前
我们那个时候在看wwwdc
包括用技的托的人
对
可能核心圈很小
就是一些开发者
然后用户圈其实也不大
可能在中的用户量的话
可能就一一个亿左右
可能没最多不超过两亿
然后
但是到今天
我们看到这个所谓技术使用者的范畴大概有多大呢
如果我们今天去看一下那个那些报告
啊
现在可报告告能告诉你
中国的这个移动互联网网民肯定就九九点五亿到九点八亿之间的一个规模
这个总规模可能往上翻了将近三五倍
可能知道得
你会发现
这些人的特征是什么
就是
可能跟我年轻的时候在用互联网的时候
最大的区别是
我们至少得比如说一些简单的计算机命令
嗯 代码
然后你得有基本的技术计算机的了解认知
对吧
而现在的用户是什么用户
现在用户是我妈那样的人
他们连说话就像
呃 对
他们连输入法都
都不要说代码的
他连输入法可能都很难
Whats control
对对对对对对对
这就
这是最根本的差异
然后反过来说
我我我我
我就开玩笑
我说 所以
对于任何一个时代的人来说
如果他不能理解这种技术
那这种技术在他们看来
就像魔法
嗯啊
就比如说
你回到三百年前
你抓一个人到一百年前
嗯 啊
那个是电器时代刚刚来临
对吧
然后这个还以这个蒸汽机为主
然后电气 电
电动机为辅的时代
吓尿 哦 老大
这都是魔法
都是魔法师啊
然后那个尼古拉特斯拉是其中的这巧楚
因为它使用无线输电
我靠
那个东西
对吧
那特斯拉那个塔能竖起来
然后我要电电人
人电不死
他就会觉得我这不是黑魔法吗
我靠 这
这可怕了
这太可怕了
对 这这
这绝对是
你看到那个绝对是黑魔法
但我们为什么觉得不可怕
因为我们知道有基本的物理知识识
对吧
你知道那个是一个
一个直流电啊
电不死啊
一个交流电
然后那个接地的电
电 电不死人
没事的
放心好了 对
但那个时代的人不是
嗯 对吧 所以
所以一样的就是
在任何一个时代
你当你不了解一种技术
他对你来说是完全的黑箱的时候
那他就像魔法一样神奇
他
他能达到一些出乎你意料的结果的时候
他就可以像魔法
而最有意思的是
如果他这个实现这个魔法的方式
是一些
如果完全不懂
比如coding
嗯
那那个代码
因为太过于复杂
那连咒语都不算
嗯
那属于外星符号
是吧
因为一个字
一个字我都看不懂
那可能就无法理解它
但如果那个交互方式
它是
它是阿瓦达啃大瓜
就是你每个字儿都认识
对对对对对
但如果那个交互方式变成了一个轻度加密的
嗯 就是我们
比如说
我们说 先说
我们说说permit
其实是一个轻度加密的东西
嗯
就里面每个单词要干什么
你其实是知道的
啊 比如说
我要画一个girl 啊
啊什么啊
Beautiful girl
人什么 对
就是你看
你每个字都认是
然后你也能复写下来
对
且你大概知道他要说什么
只是那个语序
语法 语句
不是你了解的常规规则的时候
啊
或者里面稍微加了点计算机符号
你会觉得 哦
大概我猜得到他什么
就有点中国人看日语
我不要这么说
就对
中国人看日语
对
虽然你不能完全理解
但你可能是个大概
这个时候就很像咒语了
嗯
但因为它里面就是又有精密的差别嘛
因为 对
因为你只有正确的念出咒语之后
它才能够按理想功能去给你结果
对对对
阿瓦达给大瓜和阿瓦达啃啃大瓜
可能完全不一样的效果
对
所以他们就产生了
对
所以这我觉得特别像草药学
就是
就大家是先
先通过人肉情举
然后我们试了足够多的咒语之后
发现 我槽
原来这几个咒语是最后效效的
然后写下来
写到一本羊皮纸上
对对对
前两天不是出了一个结结语书商店嘛
我看到特别搞笑的
除了臭语书商店
对 哎 这
这波我觉得他有一个特别有意思
就是关于这个涌现现这个现象
就
我之前是一个特别坚定的无监督学习者的支持者
比如说
直到gpt 二
甚至gpt 三
其实gpt 三到
呃
现在的差gpt
中间还隔了挺长时间的
嗯 对
Gpt 三出来的时候
我依然认为它是一个查表
对吧 嗯 那当然
那个时候我可能没有深入去了解
所以我偏见的认为
那个还是仍然只是一个查表的东西
嗯
但是到了差gpt 之后
突然就涌现了
对吧
这里面有个特别有一思一个话题
就是关于
其实很多人他们跟我聊过
说这
这差ppt 有意识吗
它会诞生人格吗
然后 对 所以 呃
当然
一方面是我觉得很多人对于科学科技的
或者对于ai 的畅想都是将来它会有一个通用人工智能
就是完全拟人化
人格化的 嗯 对
就是
所以 我
我们有很好奇一个话题啊
就是关于涌现是否代表了意识的产生
对 嗯
我先说观点啊
先说我的一个观点
不一定对啊
首先 第一 我
我否认他有意识
嗯啊 第二
我认为人类可能也不一定真的有意识
对
这里面有个特别有意思的话题
嗯 哎 比如说
其实人类有没有意识这件事
在古希腊就已经
对吧
举个问题
举个问题
我觉得这古希腊很多人
他们研究的就是关于就人类到底有没有意识
嗯 对吧 就是
对对 呃 所以
所以古希腊那会儿他们是怎么去研究什么呢
呃
这个问题说起来也说来话长
如果你翻开整个西方哲学史啊
这个问题可能一直从古希腊时代一直到近代的像笛卡尔时期都还有在聊
流个就是数学
怎么就跟有有有有有有有
我们
我们先得说一下
就是在古希腊时代
有很多的哲学家本身就可能是数学家
比如著名的毕达哥拉斯学派啊
他就是这个一帮数学家搞出来的哲学流派
然后再比如说
呃
可能很多人听过这个原子论啊
原子论就是古希腊的著名哲学家这个
呃
德摩克里搞出来的一个一个个知世世的的方啊
他说这个世界是可以原子就是不不可被分割之物嘛
这个世界最后是由不可被分割的这些所谓的啊
Automatic 就原子构成的
然后他的想法被另外一个学派叫e 壁鸠鲁学派所继承啊
然后e 壁鸠主学派对近代的整个唯物论有重大的影响啊
这个 你看
这影响就非常深啊
因为正好到文艺复兴之后
其实把这些古希腊哲学家东西翻出来了嘛
嗯
所以大家就会在这个基础上
搞出了很多延续的研究
然后
比如说你刚说那个意识的那个问题
我说一个经典的例子吧
近典的例子就是
是那个在二时期
迪卡尔
其代都知道
是著名的法国的数学家和
呃
和哲学家啊
他搞出
他比较有名的是搞出了我们都学
学过的那个什么
这xy 坐
坐标轴是吧
呃 但其实他 他
他当时提过一个问题
就是他心问题
他心问题是什么呢
就是说
假设啊
呃
每个人都知道自己有意识啊
但是呢
我怎么知道你
你是真的有意识
就比如说
我知道我自己有意识
他心
就是指你就对方他者
他者的心理
就我
如果假设有一个世界
你去幻想一下这个世界
今天就是所有的人都是
除了你以外
嗯
所有人都是chat gbd
嗯 啊
他们都能对答如流
反馈正常
并且被设定的很清楚
就是该怎么跟你聊
就像
像楚门世界一样
嗯 让你
你跟他们每个人沟通都没有问题
但这个事情
可能只有你一个人是真人
你永远走不进那个人的内心
你们没有办法在意识层面摆脱语言和其他的外部交流
对吧
来了解对方内心
你该怎么证明对方跟你一样
是一个真正的人
而不是个npc
嗯
而不是个恰恰gpt 呢
嗯 对
当时迪卡就提出了这个问题
就是
毕竟他想自证一下这个问题
但其实没有很法证明
他最后证明的方法
用的是假设上帝的存在啊
那这个就 哦
就比较作弊了
对 就
就比较作弊了
就是
其实也没有办法证明
你要站在今天的角度来看塌陷问题
也没有被很好的证明
嗯
就确实无法证明
就是
就是我该怎么证明你跟我一样
是有意识的
并且
或者我向你证明
我和你一样
我的意识是真的存在的
意识这个东西就很奇怪
就是一个我们每个人都知道我有意识
我但我无法准确描述我的意识是什么
但你坚信你有独立的意识啊
你能清晰的感知并控制它
但你无法描述它的一个东西啊
就是这么
就是这么一个存在
所以就变成了说意识的存在
就像是我们
就像是笛卡尔那个时代人相信上帝一样
嗯
就在他那个时代
每个人的西方世界的每个人都相信上帝
就像阿拉伯人每个都相信有安拉
中国可能很多很有艺术玉皇大帝
对吧 一样
就是我们都坚信无比的相信他存在
没有任何人会去质疑这件事情
并且我们都清晰的感受到它
但是无法证明它的存在
嗯
但后来 我们
我们现在不是在努力证明没有上帝嘛
对吧
虽然也没有完全证明
对吧
但是我们似乎好像大多数于无神论者可以相信没有上帝了
那么问题就来了
为什么我们不可能相信没有意识呢
嗯 对
因为意识也是你无比这样相信而存在的东西嘛
对 所以
现在其实大家对于
呃
Ai 所出现的意识
我觉得这很讨论
就是跟 跟古
古希腊时期
大家对于人类没意识的这方面一些讨论
对
当时还有一个人给了一个很有思
思想实验
这个人说出来
大家都认识
柏拉图 嗯
柏拉图提出一个矮墙实验
那个实验是什么呢
就假设啊 嗯
有一群人
他们从生出来一群奴隶
嗯
那们从深出来
我们就把锁锁在一个墙
墙的后面
这个矮墙前面就一条缝
他们是透过那条缝看到对面的有一面墙壁
墙壁上的纸都会投影了这个人的影子
我们用那个烛光去照人的影子
所以
这群奴隶呢
他们可以吃喝拉撒
但他们永远看不到真正的世界
他们只能看到墙壁上的影子
那么
你问这些奴隶
这个世界是什么样的
他们会回答你
这个世界上的所有人都是影子的样子
因为他们没有见过不是影子样的人
嗯
啊
这是柏拉图提出一个很著名的思想实验
就是说
你所能感知到的
一定是来自于你知道的这个信息喂给你的嘛
嗯 那反过来
柏拉图这个理论你
呃
这个理论后来也被大家经常拿出来重复使用
到今天为止
比如说叫什么什么回音壁效应啊
信息检防啊
对吧 对
大家听过很多这种词儿
其实也都是柏拉图这个思想实验的延伸
嗯
就如果你在今天这个世界当中
你看到的所有信息
都是别人有意识的喂给你的
嗯
那么你看到的这个世界
就不是这个世界的真相
嗯 比如说
美国有很多人相信地平论
他们坚定的相信
地 地
地球是一个扁的圆盘
嗯 啊
然后走到边上是会掉下去的
啊
为什么达伽马能够环绕地球
原来是沿着那个圆盘的周走了一圈啊
所以他围着赤道走
所以没有他没掉下去
他但凡往南边走
他就下去了
嗯 啊 就是 你看
这就是有人信啊
就是有人信
因为他还有一些宗教化的成分在里面
对对
所以很多人
他没办法离开这个社区或者社交环境
对对 哎
但是这里面有个很有意思话题
是关于
比如说刚才说那个矮墙实验
对 那比如说
对于ai
现在我们所训练的ai 来说
他所理解的一切
比如说
比如说这杯啤酒
就是
那比如他的gp 怎么理解这杯啤酒
他可能是用语言的形式
对吧
因为他用人类的方式来理解了这杯啤酒
嗯
但是问题是在于
人类理解啤酒的客观存在吗
对
你说的很对
我们经常说一个话题
叫做如果有个东西
闻起来像啤酒
喝起来像啤酒
喝起来像啤酒
尝起来像啤酒
喝下去之后
它也像啤酒
那我就觉得它是啤酒
尽管人类从头到尾并不知道这杯啤酒的
比如说
从原子层面
它是是不是啤酒
所以
人类是不是人类本身对于事物的定义
比如说我们对于数学上的定义
对吧
就是我们对于所谓的一二三的定义
是不是也都只是非客观
没错 我其实 呃
如
如果你读过数学
或者有学科
呃
什么数论之类的
你会发现一个很有意思的问题
就是
我们今天所用的自然数
嗯
它实际上一点都不自然
就是一
是一个抽象
象人类类义
义出来的义
对 从零 包括零
呃 甚至零
很长一段时间
它到底是不是自然数
我记得还炒过好
好几百年 对
它会非
它没有实体因射
对对对
就是它是不是自然数
都炒过好几百年
就是最后还把它加入自然数里去了
就是说 比如 呃
零一二三四
它们之间的关系是如何被定义的
我记得是有好几条
有五条条
几条公理 嗯 啊
然后去强行定义它们存在的
就 就 就比如
就举个最简单的例子
比如说我们都知道二比一大对不对
那么比如说顺序是一二三四对不对
那凭什么一后面不能得是一点五呢
它必须得是个整数
整数又是什么
就是
就是强行定义出来
就是人通过了一一一一一系列的就是我们叫做合乎逻辑自洽的公理来定义它
哎
但是好像最早也研究出来了一些所谓的就是自然存在的
比如说什么这种种
对 对
如你真的的相信这个界是个世界
这个宇宙当中真的存在一些数的话
那那些数反而是一些看起来特别不自然的数
比如派
就比如说
你去做 你 你
圆周率对吧
你
大家都们都知道
派
但是如果你去用圆的这个周长
去比上圆的
呃
这个直接一端
呃
就很很自然的存在的两个东西嘛
嗯 你会发现
他们的比例是一个三点一四一五九二六五七五八五几数不尽的东西
对
这东西看起来一点都不自然
对
因为它超出了人类的认知范畴嘛
对对对
指我们手指头
Ok 但是你
对对对对
因为人类
人类最早的这个自然所谓的自然数
是人类基于一二三四的十
十个手指头头啊
十进制
就是因为我们十个手指头
嗯 十二星
就是因为我们这个
看那个太阳
那个转的那个
那个
那个转的这个速度
包括还有一个很经典的就是
呃
呃 一个
一个是那个太一年要分成十二个月
所以有了十二
呃
十二进制吧
嗯
还有一个很经典的是七进制和十进制
就什么呢
因为中国人在算一个月的时候
嗯
中国人其实是十进制的
中国人每十日分一个旬
嗯 应该听
听过这个词
中国以前没有周这个字的
嗯
中国人以前是不讲不一个月里有多少周
他不这么讲的
中国人讲一个月里有三旬
嗯 一旬 上旬
中旬下旬嘛
就这么来的嘛
但是西方人是周
他是七天为一个单位
嗯 啊 所以就你
你就完全不一样
它是七天一个
一个
一个一个循环
中国人是十天一个循环
这两个计算体系都不一样
对
所后你就是碰撞了一下
最后觉得谁更牛逼用谁的而已
对
人类确实定义了很多这种非自然存在的
比如说
我们对颜色的定义
对吧
那么颜色的波长
它是连续的
它
它不存在一个所谓的断点
断点对吧
所以
但我们人为的三原色
对吧 七原色 呃
七个基本的红唇黄绿青蓝紫
没错 然后 呃
我们调色的时候
这个样板上
二零到二五五对吧
这是因为比特的问题对吧
六五五三五是因为
对吧 三个
三个巴比特
然后 所以 这
这些对于
呃
概念的切分和定义
完全就是我们认为适
适应人类社会
或者简化
对吧
因为我们算力不够
对 呃
甚至于你刚刚说的颜色
对案例特别好
就甚至于看过一个艺术类的博主教教旅程嘛
他讲过一个
一个很有意思现象
他说
因为人类获得颜色的顺序是不一样的
嗯
就是有一些颜色
我们更早获得
比如说白色
所以在如果按宗教记载或者一些一些艺术记载来看的话
就是三颜色最早的构成
并不是今天我们熟悉的什么红黄蓝啊
或者是什么那个印刷用的三原色是什么
红 蓝 红 呃
红蓝绿还是黄
对 我忘了
反正就是
就不是这样的
最早的三原色是黑白
红
因为这三个颜色人类最容易获得
人类很容易看到它有白色是牛奶
红色是血液
黑色是石头
这是人类最容易接触到的颜色
所以
最早最早
最早人
人类这这三个颜色做
做所谓的三原色
嗯 对
而且早期人类能够使用的颜色也很少嘛
就像证明从矿物也好
或者从植物也好
提取 提取的 对
哎 但是
我觉得这个特别有意思的一个点就是
为什么gpt
呃 直到三
包括instruct gpt 出来之后
都没有涌现所谓的神迹
但是chart gpt 可以
就是 我很
我很好奇的是
比如说
为什么chart 就行了
Ok 呃
我这话题
它跟它的话题跨度越大
它跟人类语言之间有什么关系吗
嗯
其实如果看两个东西
就看工程上
它最大的差异
其实就加了那个所谓的
我们叫
叫这个reinforcement learning from human feedback
嗯
还加了一套这么基于人类的这个反馈的一个标记
呃 一个
一个强化学习网络
嗯啊
其实就是 对
你说的对
就是有监督学习加标记了
嗯啊
其实就是就这么强化了
就强化
强化人类
人类标记
强化了他 但
但这件事儿
其实是在我看来是对的
或者说 你
你那么相信无监督学习这件事
也没什么错
本质上
我们看怎么看监督的问题
就是说 呃 因为
呃
我们说talk 也好
我dialogue 也好
或者说多轮语义聊天这个事儿本身
哪怕是一个自然的小孩学会他
嗯
也会有一个所谓有监督学习的概念输入的过程
这个逻辑你如果要去追寻他的话
其实要回到比如说像啊
维特维维
维特根斯坦讲那个语言图像论
就是说
我对一个东西的认知
其实是
是被灌输的嘛
那这个灌输的
这个灌输信息
它
它最好是个图片
就我看到什么
是
我看到个苹果
嗯
我小时候看到个苹果
我只能知道苹果的图像对不对
我并不知道这个东西吃或者个东西西能嘛
我
我不知道它叫
叫了
那为什么我叫它苹果
就知道它叫康
对
因为我妈妈不停的告诉我
这东西叫appappapple
你可以吃食
甜的 你可以
你多吃两口的
健康 对吧
那你反复重复的训
就是
这就是有监督训练嘛
对吧
你妈可能有监督训练你三年
你终于知道用西叫apple 了
对
然后在这里面我稍微打断一下
就是 呃 我觉
我觉得一个特别讽刺的小点是因为其实在instrucal gpt 的时候
已经开始引入了强化学习
但是cht
Gpt 和
呃
这些里面最大的区别
其实 我 我
我翻阅了一很多资料
是关于他们的第一任务的
嗯 的 的心任务
嗯 嗯
就是在gpt 三里面
核心任务叫准确
就是在要准确的完成任务
嗯
但是在cht
Gpt 里面
任务的准确性优先级被大大降低了
嗯
他们第一优先级是继续对话
一句话 对
就是你问我一个问题
我的第一目的是陪你聊啊
我的 我像
我像基金接触一样
对吧 Esm 的 嗯
对
而不是说我给你一个正确答案
所以他的ppt 里面
他有很多
比如关于主动承认我不会
嗯嗯
就是主动躺平的
对 或者说
你就是你
你我
你说的对
我说的错
然后我就
我就给你改
但
但他的主要目的是让你继续聊到下去
嗯 对
而不再是给你个正确答案
对 这件事情
恰恰就是他神迹的地方
你明白吗 但
但这个就很
很操蛋的是
所有程序员关心的是正确
不不不 这
这就是程序之前所有程序员错的地方
对
但是他很好
他有些有意思
就是在于这些东西
他不正确
反而对
它不正确才是正确的
因为人类就不那么正确
但是如果你看过丹尼尔
卡尼曼
那本就是思考快与慢
你就知道
人类有两种思维系统
一
一套是系统一
一套系统二
所谓系统一
其实就是直觉系统对吧
系统二就是符号创造系统
对吧
逻辑系统
人类只有系统二是非常的准确的人类
系统一旧是非常快
就是往往它根本不靠谱
嗯 这里面
我觉得我还因为一开始我在提差的这个事儿
就是因为我觉得人类语言有一个天生的一个缺陷
就是我们的语言是个一维数据
对吧
它的传输效率极其低
它的比特率极其低
就我们一分钟能够通过语言传输的数据
啊
比如说我提到三倍速
它的数据量仍然是非常小
嗯 呃
恰恰是因为它的比特率很低
所以我们需要持续的对话
对吧
因为比如说大家就能用叉gp 的t 的过程中
你会发现
一般普通人麻瓜是吧
你没办法一次给他五百字的那个提示语
嗯
正常人一次打个两行字三行字就差不多了
但是两到三行字其实很难精确的描述你的需求
对 呃 说话的
对话的过程
其实更像是一个解谜的过程
就是你在想象一下
你面前有一个靶
然后那个你想打到靶心
可是靶心其实你不根本不知道在哪
然后你不停的通过描述来知道那个靶心是在哪个剧情
对
去缩这个范围
对
缩缩那个范围
但这个其实就变成了说
我们难以通过一轮对话来解决所有问题
这个对话不仅是语言表述的传输比特律的问题
它同时跟我们的思维模式有关
因为我们的思规模是被训练成我们所使用的语言
对啊
所以我觉得很好
很有意思一点是
呃
因为我们需要持续的对话
而chat gpt 恰恰解决了持续对话的问题
对
所为他对人类很友好
对对
因为计算机
比如说你
你其实用比如说notion
Notion ai
因为它是基于gpt 三的
嗯 是
其实你会发现他不好用
是因为你给他一个精确的描述的时候
他马上就给你一个精确的结果
但是如果你给错了
他就给你个错误的
嗯 对对
甚至于我朋友就是在聊
就是最近不是
呃
逼引接了chat gpt 嘛
嗯 然我们
我们其实很多人都会觉得
Be in 接叉tgpt 体验不如拆tgpt 本身就是因为be in 它需要
它是个搜索引擎
太严肃了 对
它需要很严肃
并且呢
必须得给出一个很准确的
比如很短的时间
给出比较比较准确的结果吧
然后
但往往结果
就是因为他要判定这个结果是不是准确
于是最大的一个差异就是
如果你一个问题
你告诉拆tgpt
然后他会说
啊
你说的是对的
我我
我说的是错的
那我向你学习对吧
但是牛逼会告诉你
不
老子我说的是对的
你说的是错的
呃 对
这里面就有two office 判断
而这个判断
其实你牛逼in 是根据他搜索的网络搜索到那个结果
尽管那个结果他其实也不知道正确不正确
他是以大概率那个结果出现的次数来断定这件事儿
嗯 呃
从这一点上来说
这牛逼的体验就不如现在gbt 了
嗯
而且gpt 在为了完成这种多轮对话的时候
他因为他引入了几个long lunshal term memory 的一个
就是那个lm
呃呃呃
Ssmtttt
就是 呃
他是为了完成短期的记忆嘛
但是很多人其实开始吐槽的问题就是在于
差gpt 他没没法完成长记记忆
比如我今天跟他完成这个sension 之后
明天我再聊的时候
他就又把我当成一个新人
对吧 就是他
因为他每天每天会失忆嘛
对
所以其实好多人也在研究
说我怎么通过一个外挂的一个记忆体来往
对对对
这个事存下来
但我我特别好奇的一个事儿是
倘若我如果有一
真的有一个插件
能不能够把我们的所有对话
对吧
帮我存起来
那这个 假设
如果我每天大量的使用它
企业我使用一年以上
嗯
那是否这个里面存储的
呃 记忆也好
决策也好
就足够多了
那是否会产生一种人格
比如有些问题
有些问题
他问题他自己能解决好问题
对
就甚至有人开玩笑
这个就是他能
他能复制我的人格
因为他把我所有聊过的内容
和 和我
我跟别人对话
如何对话的这件事情
如果全都记录下来
那是不是就是我
就比如说
我们怎定义人类的人格
人类的人格到底是什么
他
他记忆算人格吗
还是价值观是人格
还是 对
其实都不是
对
就是因为这你这个问题也很经典
就是大家有聊过
就是什么是我的问题嘛
跟他这问题题类似
是说 呃 比如说
有的人说记忆
忆记我
那于是有人提了一个问题
如果有一个人失忆了
他是不是就不是他的
嗯啊 或者说
他就是一个全新的人
他是如果 对
病理性失忆嘛
很正常
你很难确定
大脑
比如说阿尔兹海默
嗯啊
如果有个老年人得了阿尔兹海默
他把他的大部分记忆都忘了
那他是不是就不是他的还
那么 如果
如果我们认定他不是他
那么在法律上
我们是不是也要认定他不是他
对吧 嗯
那就是这个问题变得很复杂
还有
还有一些 呃
有一种说法
就是叫连续论
就是类似于
呃
我继昨天的我
延展变
变成了未
未来我
我的这一整个个续状态态啊
不管我是否失忆
就我失忆本身也是连续当态的一个嘛
嗯
那这个问题就变得也
也变得很复杂
因为在这个过程当中
我可能发生其他的一续变化
嗯
就不同版本的的解释
其实都不太完美
嗯啊
不太完美
因为还有
我看过一个最科幻的一个思想实验
就是说假定啊
我们说假设
世界上如果有一个机器
能够在原子层面完全的复制
嗯 啊 就是从a
然后呢
它干嘛用的呢
就是说
现在要把你空间传送
嗯
从a 点到b 点
比如说上海到北京
啊 你从a
你在a 点这个传输机上站上去
你在上海站上去
然后欻一下
给你到北京
到北京
然后北从北京那儿从原子层面把你重构
嗯 啊 一模一样
很棒
这个技术对不对
这样就实现了远程传输
对吧 可是呢
啊
这个机器有一天突然坏了
因为在上海这边的你应该被分解掉啊
然后在北京销毁
被重塑 对吧 好
这个时候出现个问题
上海这边没有被销毁
对
然后北京那边那个被重却被重塑了
于是这个世界在那一刻同时出现的
上海有一个你
北京有一个你
呃 这两个你
到底哪个才是你
如果其中有一个被认为不是
那么
如果这个传输是那么发生的
那么之前是不是每一次传输的时候
这个你也都不是你
因为他们在时间的连续性上被截裂了
对 对吧
因为它出现了一个下一个问题
你看我
我就同一时间出现
就出现分叉了嘛
对吧
然后质量非常好
似乎都是你
以及 及
为什么有人会提出这个思想实验来
就是因为有更多更早有就细胞记我嘛
就我的细胞记我
这个里面就有人提出一个问题
就是人类
人体的细胞
其实每隔多少天来着
会被重新代谢一次
我忘了一个
就是那个
呃
就是那个什么船
特 特殊 是这产
就是船 对对
就一艘船 船
每每个零年都被换回来一艘船
还是原来一艘船嘛
对
就人体的细胞
每天都会被代谢然后大概每多少天
好
差不多忘了一个月还是多少天
反正就是人体的所有细胞几乎都被全部代谢谢遍
然后这个时时候
你还是你嘛
嗯 对 啊 对
二十一天
谢谢你的提示
嗯 对 就是
就多少天
其实本身不重要
重要的是
那如果二十一天
二
第二十二天的我就不是我了嘛
因为我每个细胞都被代谢过
嗯 对
这就是原子剂我或者细胞肌我本身的一个一个一个一个一个问题
所以这件事情就是
意识到底是什么
然后也有人说
意识及我
那我的意识
我丢失了 嗯
但是我们说到那个
呃
刚才因为我们讨论到这个人格的问题嘛
嗯
假设我们现在定义说
这个人格并不是一个所谓的全
全 全能人格
呃
假如他就是一个免密支付对吧
因为他在过去的一年里面
他经常问你
比如说 我想
我想
我想买个垃圾袋对吧
我想买个洗洁精
我想买个这个洁厕球这种特别初级的生活标品
这个时候你可能给他回答就是
你 我操 你
两百块钱以内事儿不要问我了
谢谢 因 因为
因为人都是有惰性支付对吧
两百块钱的事儿不要问我
你搞定
这是直接下单对吧
选哪个品牌这事都不重要
你只要以
以
以我的价值观
呃
或者以我的利益最大化就行
对吧
你挑一个你觉得我的利益最大化的
这个时候
他其实某种程度给你的就是挺好的选择
你也挺满意
这个时候你会不会逐渐放权
就是 像
就像我们用免密支付
从一百块逐渐的搞到一千块
对
那同样的事儿
比如说我们对于这样一个ai 格格的权限会不会越放越高
因为人都是有惰性
嗯 我
我虽然不知道该不该是他ai 人格
但是如果有这么一个ai 助手
嗯 呃
我确实有可能会授权他
因为鉴于我的个人收入
两百块
这个我确实不敏感
因为他知道你的收入
因为作为他的你的个人ai
因为他绝对保
对 他 他 他知 知我
对
企且我可以告诉他
哪些东西是你可以挑
比如测值 嗯 啊
比如说品类什么
对
比如牛奶这个东西
我
我无所谓品牌
那你就每个
我没有了
你可以给我买
嗯 对
他买到比比
就是买好
比比买好更重要
对
那实际上是实实现实生活当中
就有这样一些服务啊
我确实在用
嗯
订阅式的嘛
对
订阅式的服务嘛
对吧 然后就
就比如送牛奶
就比如
那我是不是就相当于我放弃了每一次我都可以挑选重新挑选一下牛奶品牌的这个权利嘛
对吧 未来 这 因
因为这个是个单年式的嘛
但是假设说
我今天晚上去
呃 不不
是下周周末
咱们要一块聚餐
这个时候咱们一块做饭
那
那你可能要采购的商品就是那多达三十种
对吧
各种菜对吧
那这样一个决策
其实如果每个都过来请示你一遍
就很烦 对
所以我们去餐馆也会说要一个什么团购套餐
嗯
就你大概告诉我
里面菜鸟有些什么
大概什么东西
我就okok 方案
对 对
但是这个模型
因为它跑了足够久了
所以他基基本上知道你的购物习惯
或者你的决策能力
这个时候
你确实会给他一个免密支付
比如说如叫一千块钱以内的事
不要问我
对对 有可能
对吧
因为你了解我
就你
你比我最熟最亲的朋友还要熟悉我
对
你就帮我处理掉
有可能
那随着这样的权利的下放
呃
假设我们去刷dating 的时候
比如说我们这种tinder
对吧
我要跟你个约会
嗯
他可不可以帮我去直接跟那个人的
实际上
今天很多ai 就在替你干这个工作
比如说
我举个最常见的例子
就抖音 嗯
就是你在刷抖音的时候
其实你在选择娱乐嘛
尽管这个娱乐这个事儿不太重要
所以我们忘忽视它
但是他就决定了你接下来看到什么小姐姐
有
对
但这个要变
这个就变成了说
我们从娱选择一个娱乐内容
变成了说我们
我值不值得认识这个人
对吧 一样
你就假
假设你
你能通过抖音社交的话
嗯
现在实际上抖音就能社交
对吧
但你刷到的小姐姐
就是
就是不一样的
嗯 那这 这个
这个刷到哪些小姐姐
这个权利就是他控制掉的
就是我
对对对 这么
这么说好吗
这是机器控制
或者机器筛选过
嗯 对
但他的筛选逻辑确实是以你更满意啊
他怎么来判断你可能更满意呢
就是你的完播率
或者你的留存啊
这样一些行为数据
就是也是一个human feedback 嘛
对吧 嗯 然后 你
你确实更
你更满意
甚至于比你自己主观意识里以为的更满意
因为你的客观的潜意识里的行为证明的
但我所喜欢的
并不是说他一个推荐算法决定了一个结果
而是在于中间哪
就是我
我且且为这个名字啊
就是我所我自己拥有那个私人模型我
我称其为中间脑
因为它沉沉了足够多我的意识形态
嗯吧
我的记忆
忆也好
我决策策 好 好
这个候因为你也沉沉了
了一个你中
中间脑 嗯
但假设说
咱们现来讨论一个事儿
比方说叫明天上午咱们一块儿喝咖啡
去哪儿
那
那咱俩讨讨论
我们俩中间讨论他
因为其实我们俩讨论没什么意义
我们觉得就是这个角策都不够重要
就是要我俩助理讨论这个事
对对对
就是实际性强硬
就是让我俩助理判碰点时间对吧
对
就是我申请跟你的助理聊个天
然后你那一同
或者者可能这事儿根本不用同意
因为他可能也知道你跟我的关系
那我就说明天跟你
跟你 对吧
一块喝东西
嗯嗯
两个ai 直接聊完决定了
就是直接最后发个通知
就是明天您去这儿
车也报已经了了
嗯嗯嗯 检察
就是基建建这
对对对 基建 对
就是会不会有可能出现两个中间的之间的沟通
而我们因为偷懒
我们
嗯
把授权放权了
放权了 对
完全有可能
就是因为实际情况就是有钱人就会让自己助理帮自己沟通这个事儿
在他授权以后
是因为总经理的助理就是干这事儿的
对
就是今天或者明天
比如说我有六个会
这六个会有六个
嗯
投资人也好
或者六个来拜访的客户也好
如果我特别忙
我就是说
你们跟我的助理约时间
对吧
然后因为我的助理足够了解我
所以他帮我安排好
说你们那基本上你两点来
你 你点点来
来这种 对
而很多助理
其实往往确实干的活也不会比现在的强
Sgbt 干的复杂的多
对 哎
那这里面就一个很有意思的问题
就当这个中间脑
它所承接的你的决策足够多的时候
你还是你吗
还是这个中间老师变成了你
我觉得
他可能只是我的一部分
或者是
嗯 我我我
我再举一个不可能不那么恰当的例子
就类似于手机
就今天
手机其实有一点像我的一个外界器官
嗯 对吧
就我觉得像这句话
很多人应该都完全能理解
就是他对外界器官
你丢了手机
感觉你丢了很重要的东西
对它有很多记忆也放在
但是你的记忆
你的眼睛
你的嘴巴
你跟远程的人联系的一个神奇的魔法器官
对吧
你丢了它
这件事儿就受不了
那我觉得
你的中间脑
作为一个中间脑
可能也是一个类似这样的一个东西
就是 呃
他跑在哪个平台上
是另外一个话
就是
但是它的地位
可能类似于smart phone
对
因为它承载了太多的
因为它 因为
比如说
我们的手机
其实现在只承载了账号
对吧
承载了你的
呃 相册 对
因为你的技时通讯录
通讯录或者备忘录
然后这些文档类的东西
嗯 呃
但他没有承载决策
对 对 但是 可能
但它也承载了免密支付
对 对对对 但是
可能在这个中
中间档
这个时代
可为现在还没
没有 因为现
现在差的gpt 还没有这个
这层
嗯 但我坚信
这层一定会出现
因为现在大家
呃
众多的黑客们
正
正在研发说
对吧
我通过一个部部存储储者
通过导出
Markdown 的形式
来把这些对话导出出去
我下次以promote 的形式
把它
把这些东西丢回来
说
你现在回忆起来
与你过去发生的这事儿
对
就特别特别虎闻
我早就 对
嗯
呃 对 然后 所以
刚才我们讨论了很多关于
呃
人格和那个
所以
所以我很好奇一个
一个事儿
就是当这个东西
它
它一定程度上承载了很多人格的时候
会不会出现这种go es in the sale 的情况
嗯 你
你提的这个话题很
我举
我举个例子啊
就是比如说
比方说
呃 明天 你
你要去判断一个项目的
这 这个在
在软件开发层面上
靠不靠谱
对吧 或者在
或者在vr 层面上靠不靠谱
这个时候
你跟我突
突然给我找我
你说 X 我操
就是我能不能借你的ghost 用一下
用一下 对
就是因为你的ghost 在这方面很专业
对 很专业 然后
对吧
那我觉得没问题啊
你用一下我的软个花我时长时间
你就把我的构st 借你用两
因
因为我个算力
明天
比如说是早上
早上九点到十点
没用啊
正好睡觉啊
对啊
我是摄像头的
我就像借 借
借我车给你用一下一样
嗯 但是 你
你是借到的是整个我的这个ghost
你借到是整个这个人格
我可以完整的去用我的人格来帮你做出决策和判断
嗯嗯 对 然后
当然
你也可以说
不用你来直接下判断
但是你可以做一个
呃
Report 给我
或者是你直接跟我的百分之百ghost 当我的投资理用是吧
对 是 就是是
是么 就这
这意思吧 对 对
借你的
借你的ghost 一用
当投资理用一下是吧
上个会嘛
对对对
做了个材料吧
呃
完全有可能
哎
你这个话题虽然有点滑坡啊
就是 呃 我我我
你看你这个
你这个还挺
挺诡辩的
就是你用了ghost 这样一个词儿来叫他
对 嗯 我
我懂你的意思
就是 嗯
我觉得是比较滑坡的
但是你说的这个具体场景
还真有可能会出现
因为它可能包含了你的一些知识体系
包含了你的一些专业判断
嗯 呃
这种可能性是有的
把它作为一种
呃
辅助输出
嗯
因为这就好像一个私人的搜索引擎
对
或者一个私有化部署的有搜索能力的gpt
嗯 对吧
那你说的这件事
还真有可能是会
会有的
但我这是在只差一个特别严肃的话题啊
就是
如果我的这ghost 特别擅长文爱
你会接吗
呃
看来我肯定
我
我进来了之后
干嘛用
是我自己使
还是我给别人使
不是因为我的这个gst st 特别油嘴滑舌
然后特别擅长语言了
挑逗啊
那我会警告他
呃
我看要目这么正经的事
就不要
不要把这个拿出来
对
然后咱们接下来聊点特别黑暗的话题啊
Ok
特别特别忧伤的话题就是
呃
我一直觉得说
现制语言啊
对于人类来说啊
是不是目前的
嗯
比如说eneno mk
它其实说
我们现在人类是ai 的一个badloader
我们是一个ai 的一个加载器
呃 或者一个 呃
药渣对吧
要渣 对吧 去辅
去辅助他的
但我可能
呃 我
我可能的观点是在于说
我们现在的差的gtp
因为是基于nlp
基于人类语言
它训练数据集全部都是所谓的人类语言
对吧
它是英语
然后和其他小众语数
但是英语占百分之九十六
所以基本上就是英语
那人类语言是否是一种祭品
对 这里面
这里面我觉得特别很有意思啊
就是在于
如果叉pgpt 升级到了第十代的时候
是否会去人类语言化
嗯 就是 呃
我再演示一下
就是因为
呃
我们刚才前面说了很多符号化的问题嘛
对吧 比如说
人类不能理解一
人类不能理解苹果这样的
这样抽象的概念
我们是用很多人类化的抽象的概念去理解数字一和理解苹果这个
或
或者啤酒这个东西
嗯
但是到了叉gpt 十的时候
因为有足够多的所谓的抽象概念或者抽象层的神经网络去定义什么叫皮西
而这个啤酒不再叫beer
对吧
因为它是一个抽象的东西
嗯
那人类的这个药渣是否还有必要存在
嗯
尤其是两个boat 之间交流的时候
比如说
两个boat 之间交流的时候
还需要用b 二这个词汇吗
还是中间层的神经网络交互
交互效率更高
嗯
这是一个好问题
确实 呃
如果
嗯
哇
这个问题真的不错
就是 呃
如果我们想象一下
就是两台boat 之间
它进行交流的话
确实
它不需要用人类可以理解的方式展示给我们看
尤其是
我觉得在gpc
今今年下半年
不是gpc 四出来嘛
嗯
Gp 四有很大的点是在于多模态
嗯
因为现在的gpt 全部基于人类语言
就是我要描述尔的时候
我就要用这个词儿
对吧
我就要用这具体的字母来描述它
但是到了beg pt 四
呃
这所谓的恶模态之后
他可以自
他其实不需要去真的理解
就是
他可能开着摄像头
但是黑箱 嗯
对吧
我就是拍了一堆这个周围的环境
然后至于这个环境中什么东西叫比尔
完全是他自己理解之后的
呃 确实就是
实际上
他现在也不理解
就是可以
比尔
或者说人类
也可能 不
就像我们刚才聊的
人类并不理解你喝了那口啤酒
你并不确定那个啤酒里面是个什么玩意儿
对
但目前gpc 三的三点五的这个里面
其实已经进行了抽象化的理解了
嗯嗯 就是你
你给他一个抽象化的啤酒
比如说你在不同语言之间用啤酒这个词的时候
他仍然是可以理解啤酒这个东西
嗯 对 所以
以是他不知道啤酒是那个味儿
或者啤酒长那个样
嗯嗯
因为它现在的维度太少嘛
它现在维度只有语言上面的
比如说啤酒
呃
啤酒苦对吧
啤酒有啤酒花
啤酒的麦
嗯嗯 对 但依然
它能够跨语言的去理解这个抽象的物体
对 但是
当多模态之后
它是否通过视觉
对吧
通过甚至味觉
视听觉
呃
去理解这个
我觉得这个事情是这样子的
呃 如果我们 不
我们不如反过来看这个问题
呃
所有的连接主义的
呃 计算机
呃
这个我们叫模型
或叫神经网络模型吧
神经网络
神网络的模型结构
嗯 呃
本质上都在模拟人类的
呃
大脑是怎么工作的
他使用一一数
数学方法
抽象了人类大脑脑何工工作的这具具体工作法
然后用
用学 学
达达重新构架了一遍这件事情
对 所以
这么说起来的话
他们本质上
他们并没有去理解我们神经在干什么
他们只是看到神经是这样在工作的
然后我用数学的方式
是模拟一下你神经是这样工作的
然后把信息一样输入进去
然后信息就那样输入了出来
至于是怎么发生这件事儿
确实大家并不知道
就于为什么他是你态了
对
就拟态 没错
你说的对
就是他只是拟态
或者
所以最早 呃
就是连接主义也被叫仿生学派嘛
对
因为他在强化学习里边的结果是正确的嘛
对
因为你他飞拜时
呃 你 对
我们只需要知道结果是正确的
至于他中间是怎么工作的
其实黑箱呢
对
至今是个黑箱
嗯 然后 呃
所以大家才会开玩笑叫练丹嘛
对吧
因为其实并没有人知道他到底在这干什么
对 嗯 然后 呃
就像我们不知道我们人脑在干什么一样
就 就 就 这是 这是
这是科学
我们
我们以前的科学方法论里面
最反直觉的一件事情就是
在我们以前学习的大厂长时间的这个科学方法论告诉我们
我们必须得搞明白一个东西的工作原理
然后我们才能比较有效的复现它
对吧
但是在计算机神经网络这个领域域
我们没有
我们并没有搞明白人类神经经如何工作的
然后我们是也没搞明白计算机的这个神经是怎么工作的
可是我们只要输入输出结果是一样的就行
对
那现在看起来
这件事情比较可怕的在这儿
就是
其实我们没搞明白他是怎么工作的
嗯
是因为完全黑线了
对 或者
或者反过来说
我们所有的担忧都是来自于黑箱本身
而不是这件事情能这么干本身
但我刚才质问的这个
关于gpt 十的
因为gp 七十可能是没
呃 对吧
以前没法定义它
是你按过去的研发速度
因为gpt 一到三
是每隔一年对吧
一一九二零二二二
呃 哎 然后
但是那个
呃 我
我倒有提一个
我倒提一个有点不同的角度啊
就是
我知道你刚刚提的那个
是
是个指数级增长的一个一个一个一个一个现象
嗯
那我倒有一个不同的观点
我提一个
我提一个观点
是这样子
就是说
可能到gpt 四
多模态这个东西出现以后
在短期之内
呃
速度会下降
不 它对
它下降不是因为他没有能力去研发
而是我们人类可能不那么需要
是从性能上来说
我们不需要更强大了
是因为我们的语言所能就
就那样的
对对对对
我们
或者我们的文明形态能承载的这个性能
到那儿就到头了
我
我们的大脑进化的速度比较慢
我们能用到的性能就那么多了
但我刚才离说的那个
比如说去语言化
就是所谓的去英语化吧
嗯嗯
但gpp 十的时候
如果他发现英语这事已经没必要了
或者英语语事
对 对 的
的率率来说
占
占百分之一
他用计算机编码的方式解决这个问题
对吧 对吧
因为假设说啊
假设说 我们
我们现在跟成pp 说
帮我写一段程序对吧
呃
建一个网站也好
或者帮我解决一个问题也好
它其实生成的是python 或者是nc
嗯嗯嗯嗯嗯
对
但如果我们现在的指令
假设说
到了gpc 五的时候
四的时候
或者五的时候
他
他的足够强大的时候
我们跟他说的是目的
而不是再是指令
就你给我做个程
扯什么程序
然后帮我管定什么事儿
就是具体语言
我根本不想管
对吧 对
你帮我管定什么事儿
然后具体怎么实现的
什么什么过程什么的
不 我不要管
你不关心
这个时候从他的角度来讲
那给你生成python 干嘛
Ppththon 给人看的
又不是给机器看
就端端端端是
对对 那么端
你直接生成机器码
直接就解析了
我给你个app
你能用就行了
你管那app 怎么跑
甚至
可能到了那个时候
比如芯片的设计
因为现在芯片的设计仍然是基于
对吧 就是最
就是我们人类设计芯片的那核思路
嗯 对吧
因为它是基于过去的汇编
就过去器的机械码的这种设计方式思路设计的这个事儿
大概可能在过去二十年里面都没有变过
对
但是到那个程度的时候
假设到那个程度的时候
人类已经不再关心编程语言了
对
那你就跟机器说
我现在只需要一个最大效率的方式设计芯片
那会不会产生一种人类无法理解的芯片的设计形态
加上人类无法理解的编程形态
呃
你说的这件事情
也完全
也完全可能有一个朋友探讨过
其实meta 前段时间发过一个论文
挺有意思的
就是讲
呃
就是 就是
就是语言模型
嗯
可以使用工具
呃
这个论文你可以看一下
那个
那个论文挺好玩的
呃 这 这个
我当时开 开
开玩笑
我说就是智人拿起了大棒
嗯
然后语言模型拿起了计算器
嗯 呃
就是因为我今天开玩笑说那个ppt 不会做最简单的加减法嘛
然后
但是他可以不会
但他可以摁计算机就行
对不对 然后
那么问题就在这儿
摁计算机本身
摁计算机本身这件事儿
是不是
就是一个本质上其实是个编程的事
是 对吧
它只是一个很简单的编程
它其实也是个编程
但其实我们不需要知道
Cbt 告诉我说
呃 Gbt 说
我摁了几 呃
比如四加二
我摁了一个四加
摁了一个加
按那个二
然后输出了等于六
他并不需要给我这个公式
他只要告诉我等于六就行了
嗯
因为它摁了
计算机在那输出六就行了
那人类也不
不关心嘛
也不关心你怎么算出来的
对吧
因为主要是人类的算力不足以关心
对 对 我
我们也不
不一定需要知道你
因为他解释给你
也
你也理解不了
烦啊
反正我就可以跳过过程
如果是这样子的话
那么你说的那件事情是已经出现了
就是
就是就我我我
我跳过中间步骤
直接给你一个你要的东西
然后这个中间步骤
可能步骤可能是个编程
或者是个什么
是个什么玩意儿
然后我对接了
然后那个
我有两台机器
实际上才是两个
两个程序嘛
我两台机器对接出来
输出给你就完了
所以
刚才那个特别黑暗的设定就是说
当这批p 十的时候
开始去人类语言化了
就比如说
当现在gpt 三点五的时候
你问任何一个
呃 就个人
人工智能开发者
大家会到你
这叫nlp
这叫人 对吧
自然语言模型
嗯
但是到gpt 十的时候了
现 我操
这个模型里面可能只有不少百分之一的元素是人类的东西
嗯
但是你不能否认
他大概的还得
还需要跟我们交互
当他跟我们交互的时候
他可能还得使用自然语言
但那里面可能只占很小的比例了
因为 有可能
因为他那部分只关心能不能听懂你的话
对 这个比例
其实取
取于他是如何何工作的
我举例例子
比如说的
的具体使用场景
需要处 处很
很多复杂的工作
那些工作需要跟人
Boat 嗯
跟robot 去
去对接的
对吧
那他就有可能就是出现
我们刚说
他就不需要跟人类说话
他不需要跟人
我 我跟
我犯不着
我跟你们说一下
对 对吧 但就 就
所以我看很多科幻片
看到两个机器人在那边用人类语言对话
这种东西
特别可笑
对吧
就是那种感觉
没一啊 对
就像两个英国人在中国用中文对话的那种
有就有喜感
你明白吗
就是 嗯
你俩为什么要说话
让我听懂了
就好奇怪对吧
对 就
就有点像这种感觉
嗯 对
所作为最后啊
就是最后一个话
最后一个章节
就是 呃
作为降临派
就是
你也是降临派
是 嗯 没错 对
就是作为降临派
我觉得咱们接下来未来的这四百年里面
我们是否应该好好的参加新派对
呃 呃 首先 第一
我们不一定有四百年
我不觉得我不能
能 这
这四百年来自于三体嘛
就是三体的有
有点梗嘛
有梗 对
三体人降临是四百年中
我这 这里 我我
我顺着这个小话题啊
就是第一个是咱们那个工业革命之后啊
其实诞生劳动力泛化
就是这
这个工业革命
我觉得他
它和过去的工业革命最大区别在于
于去啊
因为我们生产了了纺织机
对吧
我们生产了这个
呃 熔 呃 这吧
就是炼
炼钢的这些机器
那我们需要足够多的麻瓜加入到这个机器中对吧
然后从他从一个普通的工人
变成了一个技工
嗯
来完成生产
生产力的这个
呃 最大化 嗯
但是
过去的这些机器是有编辑成本的
嗯嗯
但在ai 这个事儿上面
它的编辑成本极大的降低了
因为我工厂里面需要一百台纺织机是成本是乘一百啊
对
但是在ai 里面
它的
它的编辑成本特别的低
这个时候突然发现
八十亿
现在地球人口是八十是吧
嗯 八十对吧
就八十
八十亿的麻瓜里面不需要那么多人
就是这个时候会
就是时候会
那个尤尔赫拉利预测的二零五零年才诞生的无用阶层
会不会更提早的出现
嗯 呃
你这个很有意思啊
这个问题就是
那天我有一天突然间抽风了
我在gq 上发了一条
我说
我觉得ai 可能更接近我们的抗命主义
对 嗯 就是
而不是资本主义
因为你看
资本主义诞生是伴随大工业机器生产诞生的
原因是什么
就马克思其实已经告诉我们了嘛
嗯 因为 呃
在大机械诞生之前
嗯 呃
人类的工作实质上是比如说手工业也好
就是或者是农业也好
它其实没有办法被那么好的分成那么精细化的流程
就每个人处理的工作还是相对复杂的
对不对
所以其实你比较用脑
但是到了大机器生产的工业时代的时候
大部分的生产劳动被分的非常非常细的流水线上的一个事儿
所以你刚刚说的
麻瓜也可以做这个工作
所以从单个人所从事的工作的复杂程度上来说
它实际上是降低了这个复杂程度
但这种复杂程度降低
就会使你
你这个人跟这个产品
这个复杂产品之间的连接变得很弱
嗯 啊
那么由于这样子
就没有
几乎没有一个人可以完整的掌握一个复杂的商品再次被生产出来
对
所以这样子剥削这件事情就变得非常合理
嗯
就生产资料再次跟人
人脱离嘛
脱节嘛
就是彻底脱节了
你没有这样的技术
这个 是这个
这个生产资料里面就包含了
隐性的包含了这个生产这个东西所需要的所有技术
嗯 对
你是不掌握的
对 那 那你 你
你就算知道也没有用
对吧 你这
这里那么多的原材
那 那多技 技术
就 就工艺 这
这不仅仅是知识
比如说
我知道这个铝
铝
你知道有铝有什么用
那这个工艺很复杂
你不可能马上给它复制出来
或者你复制出来之后
它的成本就居高无比
跟拆开的之后成本差很大
那这就产生了剥削
就产生了资本主义
但是
如果未来的ai 可以让我们把工作原子化到又回到了那个生产的好的
好的团
团体是一个很原子化的一个小团队
嗯
就其实又回
好像看起来又回到了农
农耕时代
或者手工业时代
然后
但你的生产力是飞速提升的
因为可能
比如以前工厂需要九十五
呃
一百个人去干这个活
嗯
现在五个人能干
原因不是这五个人变得很强大
而是 呃 就
就五个人加约等于九十五个人战斗力的这么一个ai
比如说 嗯 然后
但是团队又变成非常的
非常的原子化
这这这
这个在我看来
可能是很comy 的
对 很comy 的
但是里面
比如说像现在的那个叉
Hgpt 是二十美金一个月嘛
然后
而且我看了其他几家
大概就是十到二十美金一个月
但从目前的成本核算来看
我猜未来极有可能会上升到两千美金一个月
嗯哼 对
那从是如果他是个奢侈品的话
呃
人类的本能应该会主动的把它推向两万美金一个月
因为 嗯
掌握了ai 生产力的这些所谓的法师们
他们会希望跟马关们产生隔绝
嗯
我觉得这种希望是毫无吃徒劳的
没
没有意义的
因为从交互上来说
它一定会变得越来越自然
就咒语这个东西
最后可能会越来越接近自然语言
这是一方面
嗯 因为想吧
有越接近自然语言的那个ai 应用
肯定会有更多的人用
嗯啊 因为这
这也是资本主义的
就是我需要垄断更大的市场
嗯
那这些反向的推动你就是
呃
生产更容易使用的产品
就像我们今天使用iphone 而不使用更复杂手机一样
就是因为iphone 更容易用
对吧
那么这必然导致麻瓜最终会涌入这个市场
并且成为这个市场的主
主要的这个构成者
这是一方面
另外一方面呢
就是价格竞争
也是资本主义的一套东西
就是你你你
你搞两万美金
那就一定会有人拿出两千美金一个月的service 来把亏本来争夺市场
然后紧接着会人掏出又重新掏出这二十美金一个的问题是
需要那么多麻瓜进来吗
呃 这个
这个是我唯一可能无法准确回答的一个问题
呃 呃
但是如果在资本主义的角度
就是我们 我
我记得上次我跟老编辑有套
Ai 的生产力是否真的需要八十亿人人口参与啊
你说的这个问题
我觉得最大问题就在这儿
就我
我们说点上了
就是我跟老编辑在抗美主义和资本主义这个两个问题里
最大的一个分歧点就是
老编辑觉得康美主义很难实现的原因是
人的欲望真的填不满
嗯 啊
然后我认为
呃 但是 我认为
人的
人的欲望也许在我们看来填不满
但是生产力可能是是可以走上无限的
我们能理解这句话吗
就是说 如果
如果说我们的生产力达到了地球上有一半的人
他看起来是无用者的时候
嗯
你反过过来想没想过
他可能会创造出新的需求
这个需求需要更大的生产力去填
填补它
那
但这种阶级还是存在
但阶级可能会被拉平啊
我就我的一个观点是
阶级可能永远会always 存在
但阶级可能会改变它的结构
来 继续一下
我们应该聊到抗议主义
对
对
但那从我刚刚才说的那个
对
一个是关于两万美金一个月的ai 服务出现之后
就是
会不会导致说
比如说
买得起两万美金的人
他们变成了一个新的阶级
然后买不起的人
他们反而成了这种
呃
它的生产力被极大的差异
对
我刚回答你的那个
就是 第一
我认为这大概率不会
因为市场是充分竞争的
嗯
就一定会有人推出更便宜的服务
直到像我们今天互联网一样
会有人推出免费服务
他用别的一种
呃
Business mode 来满足他的收益
这是一种可能
第二种可能是
如果没有人怎么干
就真的有他不能再便宜了
比如他就两千美金那么
如果这件事情是真的
有可能出现另外一种情况
就马克思讲过一件事情
就是如果当生产关系
你不主动调整他
嗯
那就得被动调整他
嗯
而社会可能会爆发一些不稳定的因素
比如革命
或者暴动
或者
但这里面
我觉得跟过去的
比如马克思所说的年代
因为马克思还是比较老
老的一辈嘛
练一练就
他们的生产资料是设备
是机器
他们的生产场地是厂房
对 这个时候
比如说
我们所谓的大土豪
对
那个土豪在那儿
你去堵他
你去打他 对
但是问题现在是赛博化了
就是他么这土豪也在那个机房啊
不
是这老板开那个机房
其实 这 这老板
他第一
他不在你的所在的国家
第二
他的机房也不在你所在的国家
不可能 我
我不抓那个老板
嗯 就是 比如说
第一啊 机
这个机房
可能
对 对 大国家
比如中国
美国
它大概率还在在自己所在的国家吧
但现在 因为
因为有你可以
对吧
有分布式的集群
就是中国 不
这中国这样的国家
并不允许数据离开中国嘛
可能这不是为什么嘛
对吧 你回 你你
你回答你的问题嘛
为什么数据要在贵州
对吧 在
在云上贵州
爷也不能凋零贵州啊
对不对 就是
就是 就是
就是你 你
你这个数据
最后还得
得有一个土豪
土豪的 对 所在
对 对 我得
我得确保你的数据在哪
第二 你
你得有发电厂
这也是很合理的一件事情
第二 你 你
世界发电的能力
到目前为止
它不是均等分布的
嗯 所以
有哪些国家
能够造多少数据
就是能够承载多少数据这件事
其实是能被算出来的
不是你 对吧
我们经常开玩笑
这
这件事其实是能被算出来的
得
他得当这个完家的水资源这个条件
水资源
然后气 呃 气气
水温条件
气候条件
人口条件
呃 地质条件
都有关系
嗯
然后包括他最后
最后它能承载的发电量对吧
呃 然 比如说
你又采用什么发电方式对吧
你比如
哪怕你
你核聚变
那你也得有对应的一些条件嘛
就是你
你会筛出这样的国家
对
然后这些服务器和这些能源
Always 会在一些比较确定的地方
嗯 所以
我倒是觉得说
出现说完全不可控的情况是比较少的
大概率会出现什么呢
就是像如果是一个康美主义的国家
他可能就会出现政府府收收没收收
企 企业
完全控制这种
呃
运算能力的能力
对吧
这件事在
但我们在看国家
你发现
你说但是我们看
比如说 呃
北美对吧
就是我以美国为典型的例子
就是 呃
他们还是是有很多那种种
这不就是睡在街上**的这些人
嗯
那他们并没有得到adobe 全家桶的赋能
所以他们有muaga
他们会冲进国会
是 但是教他
教议员做人
但目
从目前的结果来看
仍然是产生了
对吧 有 有很多
嗯
和不食肉迷的这些所谓的上层人士
嗯
和这些仍然在街上
对吧
无家可归的这些人
就是从
从客观上来看
他们还是确实存在产生了分化
然后
所以这里面我觉得一个特别有意思的就是在于
对对对
因为在马克思当时的那个畅想里面啊
就是私有化的那个极端
其实是引发更大的这种联合和对抗
对
然后他崩溃
也是在私有化的这个程程崩溃的
嗯 嗯 然后
呃
这里面我觉得有
有两个挺
挺有意思的未来的可能性啊
我目前不知道哪个是可能
一方面是随着我们的
比如说ai 赋能之后
我们的生产力极大提升
相当于我们养了一批奴隶
嗯
那我们有没有可能变成希腊的这种状态
就是大家不用劳动了
我们作为公民
我们就去广场上吹牛逼就行了
如果奴隶生产的东西的分配
嗯
就奴隶所生产的物资的分配是公允的
嗯
就有可能出现你刚说那种情况
就每家都有奴隶
每家都有奴隶啊
然后每家都有相对等的一些奴隶
然后每家都让这些奴隶生产
每家
大家都喜
然后人追求的就是
就我
我今前举一个例子
就是
假如这个社会的总生产力
百分之九十五是来自于奴隶
啊
就打引号的
就是boat
机器努力
然后剩下人类
不管你努力不努力
你主观上是否努力
你聪明不聪明
你对这个生产社世界产生的生产力
可能就always 百分之五
然
然后那样的环境下下实
你生
生不不生产
以及你挣不挣钱
都不重要
公民就是没有意义
有这些 对 而你
你作为你
你感兴趣的一件事
对你个人来说
你去做你感兴趣的事儿
得到的情绪
价值 嗯
和你去做你觉得正确的事
比如对
推动社会啊
进步啊
去调整
比如公民去去讨论这个社会该怎么怎么发展
对吧 啊
去去判断某一些事情
对吧 嗯
这些事儿可能更重要
那么
确实
那个所谓理想的康美主义理想的这个大同世世界就会降临
对
但这里面有另外一个极端
就是在于说如
因为在 呃
古罗马也好
还是古希腊也好
因为他们的奴隶都是所谓的公民
你只要是公民
你就有 嗯
然后如果你不是我们的公民
你倒霉
就们对吧
逮起来你们对吧
抓你 然后
那因为它是有一套良好的机制来保护
说只要你是公民
你就有这东东西
是 是如果
倘若没有这样的机制
那是不是会出现类似于种族隔离
就是 对吧
就是回到美国早新的一个时代
就是有ai 的人
变成了特别有生
生产力的人
对吧
然后而没有的那人
变成了特别落魄的人
这个时候
由于我怕你闹事儿
我怕你大富豪
我 我接产
产社区区隔离
就是你我建围墙
拿 拿ak 站在
站在墙上
嗯嗯对
嗯 好问题 所以
好 好消息是
我们先有了抗平主义
嗯
再有了这些
就是 对 就是
就是抗美主义已经有了
啊就他不是没有
嗯
就是他已经有了
这
这个客观事实已经存在了
如果美国人这么干
那么那些相信抗美主义的人和抗
比如美
美美共
美美共对吧
就会站出来
比如
抗美主义是在强的这头
还是那那头呢
嗯 对
他的屁股是在哪边
这个问题能聊吗
我相信
真正的抗美主义一定是站在弱者那一头
我只能这么说
站在人民
就如果不在人
人民一头的抗美主义
看来可能也不是真正的抗美主义了
对对对对
最后
最后还是
还是那个
呃
就是call back 一下
到咱们那个关于
呃
这个性来俱乐部的问题
就是 我觉得
如果是这样的话
那新爱俱乐部就是
是需要的 嗯
因为
因为其实在那个
呃
人类历史上
出现了几次这种比较大的虚无主义
比如从这个古罗马
对吧
我们掌握
掌握了这个奴隶
嗯
是因为没事吧
然后物质极恶主义了
物质极大富足
这个时候
我操
我们就要吃到吐
然后我们就要性爱到
对 对吧 颓 颓掉
就是
就是所谓的把我们的胜利逼近极限去行了
然后
那在这个战
美国的战后
也出现了这种席皮士运动
包括出现了就是像那个凌人之七书里面说的那个沙鹰俱乐部这样所谓的伊甸园
对吧 然后
呃
但我看到的所谓的可悲的点是在于说
呃 一方面
物质的极大富足
会诞生伊甸园
嗯
也就是罗马时代的伊甸园
嗯
一方面是物质的极大匮乏
或者你的虚无主义变得特别大的时候
也可能会诞生伊甸园
就是因为我发现
人类的正反馈其实特别容易
嗯
就是我们人类所谓的好生活
就是叫田园牧歌
嗯 你养 养只鸡
养只 养只牛
养个羊
然后大家有草地
对吧 有蓝天
有太能 能 能诞
能阻碍
也就是 嗯
这就人类就很满足了
你正 几乎
几乎你的正常正反馈都有
也是反馈馈满
满足了 对 然后
后
至于你能不能听到诗歌
听完音乐
搞不搞ai
其实不是最重要的问
哎
这个问题很有意思
我们刚刚前面讲到哲学
讲到 呃 什么 呃
毕达哥斯学派
我去
我当时我提了一个学派
叫一比一比九六学派
嗯
一比九路学派
呃
除了原子论以外
他们还有一个很重要的一个
一个对社会的影响
就是他们影响了后世的功利主义
就是边庆
包括边境的学生
呃 穆勒 对
就是所谓公主游戏
描述一下它的一定定义
啊
它的最核心的一个一个思想就是追求人类社会幸福的更大化
嗯
但我们定义这个幸福是什么
因为人类是一个
是一个群体的概念啊
对对
它就是首先是群体
就是人类社会
它不是说人类个体的幸福最大化
当然
边境有一个认知
就是
假定如果每个人的快乐
嗯
都更大化了
那这个世界就一定更快乐一点
对不对 啊 就是
而且假定这些快乐是不互相冲突的
嗯
就是假定他们实际上都是同一个方向的话
对吧 啊
至少是不冲突的方向的话
那么就一定会产生一个更大的结果啊
那么这个就要人类幸福的更大化
所以当他个学生穆勒就问了他一个问题
呃
就穆勒写的不是很有名
说论自由嘛
就
就那个穆勒
穆勒就提提问他老师一个问题
说 呃
那如果说你说的这个快乐
他是有高尚和堕落之分的
嗯吧
就是比如说你刚刚说的
比如说吐
还是 对 就对
不停的性
性交 就
就是很堕落的快乐
就得很快乐
对吧 还是说
我去研究诗歌
我去研究物理学
那可能有很多人也会觉得很快乐
嗯
然后那他说
那这两种快乐很明显是不一样
那那
那如果他们都堆积
堆
堆积在一起
那到底我该选什么样的社会呢
就是 还是说
大家都
都可以的
因为我们这个有个先缺条件
是因为我们知道四百年后
对吧
Ai 要降临了对吧
对对对
但是站在一比九鲁就回到两千年前的一
就是最早提这个问题
一比九鲁的角度来说
他就会觉得符合德性啊
就是他们叫德性
符合德性的高尚的快乐
是更快乐的
最后穆勒也比较相信一b 九鲁
而不是他老实
就是边境其实觉得无所谓
但那个时候
因为战构也可以
人类并没有面临一个所谓的对吧就没希望了
或者对吧就是一个终点
就是对
但我们现在
因为我们知道
四百年后
这边人类可能就没有价值了
你也不能这么说
人类没有价值
就是
这就是一个问题
就是人类的价值到底是什么本身是一个问题
就是
也许我们真的就没有存在的价值
因为我
我要跟好多搞哲学或者搞物理朋友聊过一个话题
就是人
人类文明的最终灭亡的概率是多少
嗯 对 他
他都会给我一个答案
是无限接近百分之百
嗯
就人类大概率最终一定会灭亡
嗯
只是中间时间有多久
但我刚才提到那个田园牧歌
我觉得它是一个特别有意思点是在于
可能人类觉得田园牧歌就是一个特别满足的状态
那这个时候
一但
但所谓的田园牧歌
我觉得对于ai 的能力来说
这是一个 啊
非常渺
渺小的事儿
你不就要绿
绿地
你不要叫蓝天
对 没问题 就这
这事本身没有问题
嗯 是因为 呃
人类就是比较短视嘛
嗯 如果说
或者说
我们经常说
所谓自甘堕落的快乐
是因为它更容易获得
对吧
而那些比所谓高尚的
符合德性的快乐
获得的过程有点痛苦
对吧
你先学会数学
然后你去研究科学
完了之后
得到五大
你为全人类奉献
你就很快乐
但是
因为我们现在不看
当你比如说三群里面
大家叫
叫虫子 对吧 嗯
你比如说
我们在这个房间里面
就是房间里面有一堆很多蟑螂
嗯 我们
我现在把这个
这 我们现在 餐
餐厅嘛 对吧
我们把餐厅里装满食物
嗯
全部放在这儿
给战蟑螂吃
对蟑螂来说
就叫田园牧歌
但我不如换一种说法啊
人类可能当我
我
我举个例子
可能百分之九十九的人类
嗯
是符合火鸡农场
或者你说的蟑螂
或者足料 对
就是他需要田园牧歌的这种
这种解法
甚至于是逆比田园牧歌远堕堕落的解法
嗯
这件事情是完全没有意义的
但是
我们要知道
人类是很特异的一种生物
我们并不是每一个人都一样
人类当中
可能只需要百分之一的所谓的泛谷的这些叛逆的
叛逆的
他们就觉得我追求高尚
嗯 啊
实际这个比远高于一个比例
对吧
我们招近十几个
比例远高于一个比例
我追求更高尚的快乐
才能让我得出个专
专业 这些 对
然后他就有道德
他有德性上的追求的话
这些人
可能才是那些真正带动人类文明往前走的人
这就是一个经典的话题嘛
叫做 呃
是时势造英雄
还是英雄造时势
嗯 实际上
我们人类文明
无数次都是被这样的一个神奇的拐点所所所所
所引导的
我去年的时候
我去了一次钓鱼城
嗯
就是重庆那个很有名的那座
那座山
钓鱼城
然后那座城之所以有名
是因为在
呃
南宋末年的时候
呃 城上孤
孤城
这个其实因为当时重庆都已经陷落了嘛
嗯
然后在钓鱼城上
就是有
有一支孤军
对吧
然后在那边守
守孤城
然后在那边干了一炮
然后炸死了那个
呃 远原原
原蒙古可汗的
的
就是那个蒙哥汗被炸死在那儿
然后这件事情直接影响了整个人类文明史
就是因为他的弟弟都需要从欧洲回来争夺汗位啊
然后并且影响了这个蒙古大汗的继承
对 就 就
就这么件事儿
那你说
上面那个掉沉上那些人啊
那些首将
他们
他们的追求是什么
他们难道不知道投降就能够填牧哥
就能 嗯
黄金财富
然后封王富世吗
我觉得这其实是人类的最闪光的那些点
因为其实我今天想了很多
关于这
这到底人类盛世啊
然后比如说很多人提到艺术创作呀
然后的什么同情心啊
什么情感爱啊什么的
我发现这些东西
其实ai 如果想做
都能做得到
对 对 然后
但唯独所谓的这种牺牲精神
对吧
所谓的这种英雄主义和德行的追求
对对对 这
我觉得这没准是人类比较闪光的点
因为ai 它是一个群体的存在
但人类是个体的存在
对
群体是不可能做出的所谓的不好的决策
但个体可以做出绝对极端的不好的决策
一个好的不好的
对 有可能
比如说
你让一个群体选择自杀
这是不可能的
对 对吧
因为他从
从所有数学上来讲
它都是有不合理的解
但从人类个体上来讲
这个英雄就是可以自杀
对
他可以愿意运用自己的生命
甚至他可以让很多跟他一样的人去牺牲自我的生命来换取一个好的结果
好的结果 对
对 没错
这可能确实就是我们人类厉害的地方
嗯
但在我们的
对
Windows 就是
啊 对
我我我顺便
顺便说一个很
很有意思的案例啊
之前看过
呃
一个星际一个玩家
嗯 对
叫叫叫叫叫叫叫craft dog 还dodocraft 的一个星际玩家
他
他当时跟那个
呃
基于qq learning 的一个
就是 呃
或者是一个类似于消猫消息的一个类似于一个阿尔法zero 的一个引擎
嗯
在对战这个星际二
嗯
然后当时他连玩了三把
他前两把都是输
嗯
完全打不过
然后
呃
他第三把的时候
他选择了一种在前期
呃
看起来让对方建立优势
然后中期突然间大量的牺牲自己的单位
然后在后期整个变换这个战术的打法
把ai 给赢了
然后他发现ai 的一个很大的缺点
就是你刚说的那个问题
就是ai 并不理解牺牲
他甚至于也不理解自我牺牲会带来更大的机会
嗯 对
他并不完全理解人
一个人类
比如说在星际这种战术里面
就拿
拿矿工上的焊
对 对
而且甚至拿矿工上来打
就是 对
因为那种什么远程
比如说龙器
让单位嘛
对吧
比如说龙起种
对吧 你
你设一下去
你如果打的是他的战斗单位
那他可能
对吧
影响他的dps
但如果你让矿工上去扛
虽然矿工挂了
对
但是你可以换得局部的战
战斗优势 对
就是
就至少q learning
它不是很能理解
就是 呃
丢失一些单位的分数这件事情
就连家都不要了
对 可以 对
甚至连家都不要了这件事情
可以带来更大的这个分数
对
就是最终的那个结果
因为q learning 就来来理解一个很远的一个胜利的结果
建设它其实靠很多小分堆积的
嗯 对
至少一种算法有
有这样的一个问题
我不能说所有算法可能都不学不会啊
嗯
但至少我们目前的一些非常优秀的算法学不会啊
嗯 对 学不会
人类的牺牲和奉献
对 可以 对 但 呃 对 就
谁知道呢
就是可能未来几年
因为现在这个ai 进步速度实在太快了
呃 就那时候
可能过五年之后
我们现在讨论的这些所谓人的光辉
以后不来持取代队伍
就完全有可能
我觉得
那如果是真是那样的话
可能是个好事儿啊
如果ai 知道牺牲自己来让人过得更好的话
有什么不好的呢
是让人过得更好
那如果真
呃 那句话 那个
那首歌怎么唱的
等到问题出现的时候
我们再来讨论它
可以
感谢大家收听这这期节目
然后 呃 最后
因为这期节目还没有起名字
是第零七
然后
呃
这段毕竟被剪进去
你觉得这个节目叫什么名字
叫 我不知道
我想的是
第一个是这这个节目
它不一定是探
探讨科学
科技
编程或者创业
那他更多是讨论关于四百年
这四百年期间我们该干嘛的类人该干嘛
然后它里面有很多
比如跟关于人类的欲望
人类的情欲
那就不如叫最后四百年吧
最后的四百年了
Last four years
不知道他容易理解吗
这个名字 呃
挺好的
最后的四百年啊
看我三喜的人知道这就一定定知道改这个梗
一定知道这个last four hundred years
可以 可以 对
就这样 Ok
