Transformer 架构详解：核心机制

4.1 总览：先看整台机器的流水线

Transformer 有两个原始版本：Encoder（编码器）负责"读"，Decoder（解码器）负责"写"。2017 年论文里的机器翻译模型两者都用。但今天的大语言模型（GPT 系、Claude、DeepSeek 等）绝大多数是Decoder-only（只有解码器）——因为它天生适合"接龙"。为了贴合现实，本书以 Decoder-only 为主来讲解（这也正是"大模型"的真身）。

图 4-1　GPT 家族的整体流水线：嵌入 → 位置 → 反复经过 N 个 Transformer 块 → 输出概率。4.2–4.7 逐件讲解 ①–③，4.8 走一遍全程

先把 ③ 里的"Transformer 块"的内部结构立起来（下面 4.4–4.7 逐一拆解）：

图 4-2　一个 Transformer 块的内部：注意力负责"词与词之间交流"，前馈负责"每个词自我加工"，两者交替并各配一条残差"捷径"

4.2 词嵌入：给每个词发"经纬度坐标"

第 3 章介绍过：机器只认数字，所以每个词先映射成一个向量。这个映射表叫词嵌入矩阵（embedding matrix），它本身也是训练出来的参数。

• 假设词汇表有 5 万个词，每个词用一个 768 维向量表示（GPT-2 规模）。那么"猫"= 某个 768 维坐标，"狗"= 另一个。
• 关键性质：训练之后，语义相近的词坐标相近（"猫"和"狗"近，"猫"和"电容器"远）。甚至出现向量算术：国王 − 男人 + 女人 ≈ 女王。
• 这些坐标不是人设计的，是从数据里学出来的——训练"猜下一个词"时，模型被迫把相似用法的词放在一起，坐标就自动带上了语义。

4.3 位置编码：给每个词发"座位号"

注意力机制有个隐患：它把句子当"一袋子词"来算相关——"猫追狗"和"狗追猫"在注意力眼里（不看顺序的话）完全一样！所以必须显式地把"位置信息"喂进去。做法：给每个位置生成一个"位置向量"，加在词向量上。

4.4 自注意力：Q/K/V 三种角色的会议

核心中的核心。自注意力（self-attention）要完成第 3 章说的那件事：每个词看全场，按相关度加权汇总。Transformer 的实现给它配了三个角色：查询 Q（Query）、键 K（Key）、值 V（Value）。名字玄乎，本质很朴素：

机制拆成四步（并排画出来）：

图 4-3　自注意力四步：造角色 → 算匹配 → 归一化 → 加权汇总。公式：Attention(Q,K,V) = softmax(QKᵀ/√d)·V（附录 B.2 有逐项推导）

三个直觉要点：

• 点积 = 匹配度：两个向量方向越一致，点积越大（附录 A.1 有直觉版）。q 和 k 方向一致 = 内容相关。
• 除以 √d 是"降温"：维度 d 越大，点积数值越容易爆大，softmax 会变得"非 0 即 1"（过于极端）。除以 √d 把分数拉回温和区间——附录 B.2 用方差算给你看。
• softmax 是"注意力分配器"：把任意一组分数变成一组非负、和为 1 的权重（附录 B.1）。权重越大，这个词在最终表示里的发言权越大。

来看一张真实的"注意力热力图"（示意数值）：处理"深"字时，模型把注意力主要分给了谁：

图 4-4　处理"深"时，注意力权重（和为 1）："井"拿到 0.76——模型因此知道这里是"深井"的深，而非"深夜/深奥"。颜色越深权重越大

4.5 多头注意力：多个专家并行开会

单个注意力机制只有一套 Q/K/V 投影，视角单一。多头注意力（multi-head attention）把它复制成 h 份（GPT 常见 12–96 个头），每份用自己的一套投影矩阵，并行开会，最后把结果拼起来再投影。

为什么有效？直觉：多种关系同时存在（语法、语义、指代、逻辑），单靠一组 Q/K/V 表达力不够；多头等于给模型配了多副"不同角度的眼镜"，各看各的，互补。

4.6 前馈网络：每个词单独"深加工"

注意力做的是"词与词之间"的信息交换。之后每个词还要经过一层前馈网络（FFN，Feed-Forward Network）——就是第 1 章那种经典的全连接小网络，两层，中间维度放大好几倍（如 768 → 3072 → 768）。

• 关键特征：每个词独立过 FFN，词与词之间不交流——同一份参数，每个词各用各的。
• 分工比喻：注意力是"开会交流信息"（词际），FFN 是"回工位消化思考"（词内）。两个环节交替，一个管交流，一个管加工。
• 实际上研究者发现，FFN 里藏了大量"知识"——它像模型的知识存储柜，注意力负责"调用哪些知识"。

4.7 残差连接 + 层归一化：深而不塌的秘诀

大模型动辄几十上百层。层数一深，训练就会退化（梯度消失/爆炸，附录 B.4 有说明）。Transformer 靠两个"加固件"解决：

4.8 数据流走查：一个词在机器里的完整旅程

把前面所有零件串起来，走一遍极简版实例（数字纯示意）。输入句子："猫 追 狗"，要预测下一个词。

1. 嵌入：三个词各变成一个向量：猫→e₁, 追→e₂, 狗→e₃（比如都是 4 维，示意值）。
2. 加位置：叠上位置向量 p₁, p₂, p₃ → x₁, x₂, x₃。
3. 进第 1 个 Transformer 块：
   • 多头注意力：x₁ 生成 q₁、k₁、v₁（x₂、x₃ 同理）。q₁ 与 k₁、k₂、k₃ 算点积 → 权重 [0.6, 0.1, 0.3]（"猫"最关注自己，其次"狗"）→ 加权求和得新 x₁'。
   • 残差 + 归一化：x₁' + x₁，再标准化。
   • 前馈网络：x₁ 单独过两层小网络，输出再残差 + 归一化。
4. 进第 2、第 3……第 N 个块：同样的流程，但每块的参数不同。经过几十层后，x₁ 的向量里已经浓缩了整句话的信息。
5. 输出层：把最后一个位置的向量乘一个"词表投影矩阵"，得到 5 万个词的"候选分数"，再过 softmax 变成概率。假如结果是："追" 35%、"咬" 25%、"叫" 10%、"跑" 8%……——模型最倾向输出"追"。

图 4-5　一个 token 的完整旅程。全程只有一个动作："看全场 → 更新自己 → 深加工"，重复 N 个块

4.9 训练目标：预测下一个词 → 对齐

架构讲完了，怎么"教"它？三步走（现代大模型的通用配方）：

图 4-6　大模型训练三阶段：先读遍天下书（猜词），再学礼貌问答（SFT），最后按人类偏好打磨（RLHF）

• 预训练（pretraining）：训练数据就是互联网上的海量文本，标签就是"下一个词"——自动生成，不需要人标。损失函数就是"预测的下一个词概率分布 vs 真实的词"，用交叉熵（附录 B.1）。猜得越准，参数越强。
• 监督微调（SFT）：预训练出的模型会"接龙"但不会"对话"。用一批人工撰写的（问题→优质回答）数据继续训练，模型学会"跟着问题好好答"。
• RLHF（基于人类反馈的强化学习）：让模型生成多个回答，人类排序打分，用强化学习（第 7 章有 RL 机制简介）引导它对齐人类的偏好：有用、诚实、无害。

4.10 推理生成：温度、采样、接龙循环

模型训练好之后怎么"说话"？回忆 0.3 节：接龙循环。每次选下一个词时，模型给出的是概率分布，而"选哪个"有两种策略，中间隔着一个叫温度（temperature）的旋钮：

• 温度低（如 0.2）：几乎总是选概率最高的词 → 输出稳定、保守、可预测（适合写代码、事实问答）；
• 温度高（如 1.0+）：给低概率词更多机会，偶尔"冒险" → 输出多样、有创意（适合头脑风暴、写文案）；
• 数学本质：把 logits 除以温度后再做 softmax（附录 B.1 有公式）。温度越低，概率分布越"尖锐"。

另外两个常见旋钮：Top-k / Top-p 采样——先砍掉概率太低的候选（只从最可能的前 k 个里选），防止"离谱选项"；max_tokens——最多生成多少个词。这些在第 5 章"对话底层机制"还会提到。

4.11 本章小结

• 流水线：嵌入 → 位置编码 → N 个 Transformer 块 → 输出概率；大模型 = Decoder-only；
• 自注意力：Q（找什么）× K（是什么）→ 匹配度 → softmax 权重 → 加权 V（内容）；除以 √d 是为了数值稳定；
• 多头 = 多副眼镜并行看；FFN = 每个词独立深加工；
• 残差 = 电梯直达，归一化 = 标准分——让百层深网络能训练；
• 训练三步：预训练（猜词）→ SFT（学问答）→ RLHF（对齐偏好）；
• 生成 = 接龙循环 + 温度旋钮：低温稳，高温野。

我刚学完 Transformer 架构，请用费曼法：
1. 用"值班交接班会议"当比喻，重新讲一遍 Q/K/V 自注意力；
2. 解释为什么 QKᵀ 要除以 √d；
3. 用"光伏出力预测"当例子，说说如果让 Transformer 做时序预测，输入应该怎么组织；
4. 出 3 道题考我：一道考注意力权重，一道考残差连接的作用，一道考温度参数，先别给答案。

自测题：配套《自测题与思考题》第 4 章 Q4.1–Q4.7（重点章，务必完成）。接着看 B 站 C4（李沐论文精读）和 D1（3Blue1Brown GPT 动画），把这一章的画面固化下来。

4.12 本节配套视频（B 站，已验证）

以下是第 0 章视频清单中与本章直接对应的部分（2026-09 已验证可访问）。建议按顺序：先 C1 建立画面 → 读本章 → 再 C3 深化 → 学有余力看 C4、D1。