[00:02.43]你以为Transformer 是变形金刚
[00:08.49]其实它是你每天都在用
[00:14.22]却从来不知道名字的那个东西
[00:31.62]2017 年普通的下午
[00:33.00]八个人在Google 写完了一篇论文
[00:35.58]题目叫做
[00:37.89]注意力就是全部答案
[00:40.29]之前的模型一个词一个词往下读
[00:43.32]他们说不对
[00:44.01]让所有词同时看见彼此
[00:46.20]叫做Self Attention 自注意力
[00:52.86]RNN 太慢了
[00:55.26]LSTM 太难练了
[00:56.67]并行计算打开了
[00:59.37]一切从这里不一样了
[01:02.04]没人知道他们的名字
[01:03.93]但所有人活在他们写的东西里
[01:08.07]chatGPT 是它
[01:08.82]Claude 是它
[01:09.93]DeepSeek 是它
[01:10.50]你用过的每个对话框都是它
[01:12.90]Transformer 就是那个地基
[01:15.21]盖在所有人看不见的地下
[01:17.76]你问它你好吗
[01:19.65]它说你好
[01:20.67]底下是八个人写过的答案
[01:23.61]没人记得他们的名字
[01:25.74]他们写完就各自散了
[01:29.37]去了别处
[01:30.75]但论文还在
[01:32.73]你还在打字
[01:34.80]他们说注意力机制其实很简单
[01:37.47]让模型学会问三个问题
[01:40.20]我是谁我在找什么
[01:42.54]眼前这个词值不值得关注
[01:45.42]给每个词打一个权重
[01:48.03]有用的放大没用的压低
[01:49.77]有用的放大没用的压低
[01:50.43]然后参数堆上去
[01:53.52]能力就冒出来了
[01:56.01]没人完全知道为什么
[01:58.47]规模够大就涌现了
[02:01.53]这件事本身
[02:03.87]也是个谜
[02:06.87]没人知道他们的名字
[02:10.38]但每次你打开对话框
[02:14.04]都是他们的
[02:16.62]Transformer 就是那个地基
[02:21.87]你每天踩着它
[02:24.12]你不知道它的名字
[02:25.92]它不需要你知道
[02:28.26]八个人写了一篇论文
[02:30.30]然后各自去了别处
[02:33.51]论文留下来了
[02:35.46]所有人站在上面
[02:37.65]盖起了这个时代
[02:39.93]不是变形金刚
[02:45.30]但它在这里
[02:47.34]你以为Transformer 是变形金刚
[02:56.10]其实它是你每天都在用
[03:00.24]却从来不知道名字的那个东西
[03:05.00]