12 篇文档带有标签「optimization」

从微积分极值到目标函数与机器学习损失函数的桥梁。

基于微积分的优化流程，将目标函数、极值、约束与应用建模案例联系起来。

单变量梯度下降更新、学习率权衡、局部极小值和简明实现示例。

通过偏导数、向量更新和收敛考虑把梯度下降扩展到两个参数。

利用导数判定极值、单调性、凹凸性，以及隐函数求导和牛顿迭代法。

对数损失如何衡量概率分类误差，以及微积分如何将其与似然优化联系起来。

梳理模型、损失、经验风险、似然、正则化、优化及泛化的关键定义与边界。

梯度作为局部变化方向与速率的向量，及其在多维优化和回归问题中的应用。

推导线性回归中斜率与截距的梯度下降更新公式，并给出实现步骤。

单个线性单元的回归实现，涵盖平方损失、链式法则求导及参数更新。

从一次参数更新理解小批量训练、优化器状态、验证集和可恢复检查点。

解析逻辑回归的线性得分、Sigmoid 激活、对数损失及基于链式法则的梯度推导。