机器学习与训练

学习通过数据或交互改变模型参数。先明确输入、目标、损失和评估划分，再问：训练中学到的关系，凭什么能够用于一个新样本？

线性回归介绍模型和梯度更新，最小二乘进一步讨论闭式解、统计条件和正则化。分类与训练机制连接到模型适配；树、聚类和强化学习则展示固定标签神经网络之外的其他问题形式。

阅读顺序

顺序	文章	解决的问题
1	机器学习核心概念速查	梳理模型、损失、经验风险、似然、正则化、优化及泛化的关键定义与边界。
2	线性回归：建模与梯度下降	从预测直线、残差到梯度更新理解线性回归；闭式求解与统计推断另见最小二乘。
3	普通最小二乘与正则化	最小二乘估计原理，以及利用岭回归、Lasso 和弹性网络惩罚项来约束系数稳定性与模型复杂度的方法。
4	Softmax 回归	基于 Logit、Softmax 概率和交叉熵的多类别线性分类，明确其与多标签任务的边界。
5	线性与二次判别分析	基于高斯分布的生成式分类器；共享或分类别协方差假设分别产生线性或二次决策边界。
6	训练过程：梯度、优化器与学习率	从一次参数更新理解小批量训练、优化器状态、验证集和可恢复检查点。
7	预训练、监督微调与偏好优化	解释训练目标怎样塑造表示、指令遵循和偏好行为，并区分偏好与事实正确。
8	迁移学习、LoRA 与蒸馏	围绕明确任务选择冻结编码器、全量微调、低秩适配或小型学生模型。
9	树模型、随机森林与梯度提升	通过一次分裂和一次残差更新理解树模型，并比较归纳偏置、验证方式与局限。
10	聚类与降维	通过 k-means 与 PCA 算例，区分发现分组和压缩表示，并解释距离、尺度与可视化的局限。
11	强化学习：奖励、价值与序列决策	用两状态算例区分即时奖励、长期价值、探索和学出来的 Agent 策略。

怎样把这些内容用起来

用一个小例子把预测、损失和参数更新连起来。数据划分与评估不能被优化过程取代：训练损失下降，并不足以说明模型能够有效泛化。

需要接着学习其他环节时，回到AI 阅读路径选择相邻主题。

我的阅读 · 打开过的笔记会记在当前浏览器里。