| 1 | 多层感知机 | 通过张量形状、反向传播推导及 XOR 实例，解析 MLP 的表达能力、优化陷阱与归纳偏置。 |
| 2 | 激活函数与门控前馈网络 | 区分 ReLU、GELU、SiLU/Swish 与 GLU 变体，并用等预算实验选择现代神经网络的非线性。 |
| 3 | 卷积神经网络 | 解析 CNN 的归纳偏置、通道、填充、步幅、池化机制，厘清平移等变与平移不变的核心差异。 |
| 4 | 循环神经网络 | 从状态压缩、时间反向传播和 LSTM 门控理解 RNN 的优势、梯度失败与流式边界。 |
| 5 | Tokenization 与模型内部的文本表示 | 沿着文本、token ID、嵌入和上下文表示理解模型输入，并解释分词、位置、补齐与检索向量之间的区别。 |
| 6 | 注意力机制 | 从 Q/K/V、mask 和数值例子理解内容寻址、多头注意力、复杂度与解释边界。 |
| 7 | Transformer：从原始架构到现代组件 | 厘清 2017 年原始 Encoder-Decoder 与现代 Decoder-only 架构在 Norm、位置编码、注意力变体及 FFN 上的差异，并分析训练与推理成本。 |
| 8 | Encoder、Decoder 与 Encoder–Decoder：信息怎样流动 | 用可见上下文、训练目标与输出头区分模型家族，理解 BERT 分类器、生成模型和序列转换模型的职责。 |
| 9 | 自回归生成与解码：模型怎样逐个输出 token | 从下一个 token 的概率分布走到完整回答，理解温度、top-k、top-p、搜索、停止条件与结构化输出。 |
| 10 | 变分自编码器 | 基于摊销变分推断、ELBO 和重参数化技巧训练的潜变量生成模型。 |
| 11 | 扩散模型 | 前向加噪、学习式逆向转移、噪声预测训练、迭代采样、条件控制和计算权衡。 |
| 12 | 多模态模型：对齐、融合与视觉问答 | 通过图文检索与视觉问答区分多模态目标，解释图像 patch、跨模态连接、信息损失和评估方法。 |
| 13 | 混合专家 MoE：稀疏计算、路由与部署成本 | 沿着一个 token 的路由过程解释 MoE，区分总参数、激活参数、显存与速度，并分析负载均衡和通信。 |