Softmax 回归
基于 Logit、Softmax 概率和交叉熵的多类别线性分类,明确其与多标签任务的边界。
基于 Logit、Softmax 概率和交叉熵的多类别线性分类,明确其与多标签任务的边界。
量化不确定性、信息量、压缩极限及分布差异的基础知识地图。
梳理凸集、凸函数、对偶理论及具备全局最优保证的优化问题基础。
用两状态算例区分即时奖励、长期价值、探索和学出来的 Agent 策略。
训练究竟改变什么,为什么能用于新样本?
对数损失如何衡量概率分类误差,以及微积分如何将其与似然优化联系起来。
梳理模型、损失、经验风险、似然、正则化、优化及泛化的关键定义与边界。
通过一次分裂和一次残差更新理解树模型,并比较归纳偏置、验证方式与局限。
区分预测准确、概率可信和动作值得执行,用独立数据设置校准与弃权规则。
不同架构如何表示输入、产生输出?
基于高斯分布的生成式分类器;共享或分类别协方差假设分别产生线性或二次决策边界。
梳理向量、线性变换、矩阵分解及其在数据领域应用的核心知识脉络。
从预测直线、残差到梯度更新理解线性回归;闭式求解与统计推断另见最小二乘。
通过 k-means 与 PCA 算例,区分发现分组和压缩表示,并解释距离、尺度与可视化的局限。
从一次参数更新理解小批量训练、优化器状态、验证集和可恢复检查点。
围绕明确任务选择冻结编码器、全量微调、低秩适配或小型学生模型。
解释训练目标怎样塑造表示、指令遵循和偏好行为,并区分偏好与事实正确。