多层感知机
通过张量形状、反向传播推导及 XOR 实例，解析 MLP 的表达能力、优化陷阱与归纳偏置。
6 篇文档带有标签「neural-networks」
查看所有标签注意力机制
从 Q/K/V、mask 和数值例子理解内容寻址、多头注意力、复杂度与解释边界。
激活函数与门控前馈网络
区分 ReLU、GELU、SiLU/Swish 与 GLU 变体，并用等预算实验选择现代神经网络的非线性。
用线性单元做回归
单个线性单元的回归实现，涵盖平方损失、链式法则求导及参数更新。
神经网络分类原理
单隐藏层分类器的前向传播、反向传播推导及参数更新机制。
逻辑回归：线性分类与梯度推导
解析逻辑回归的线性得分、Sigmoid 激活、对数损失及基于链式法则的梯度推导。