多元函数与偏导数

概述

微积分从单变量函数及其导数扩展到多元函数。这一进阶对于优化和机器学习等领域至关重要， 因为其中的函数通常依赖许多变量。

切线：从直线到平面

单变量情形

考虑单变量函数 $f(x)=x^2$。其导数 $\frac{df}{dx}$ 表示曲线上任意点的切线斜率。 例如在 $x=0.2$ 处，函数值为 $f(0.2)=0.04$，切线斜率为 $f'(0.2)=0.4$。

多变量情形

对于二元函数 $f(x,y)=x^2+y^2$，相切概念由直线扩展为平面。 可用三维图表示：$x$ 和 $y$ 轴构成平面，$z$ 轴表示函数值 $f(x,y)$。

推导切平面

要构造曲面在某点的切平面，可以分析经过该点的两条不同路径上的函数行为。

固定 $y$

1. 固定 $y$（例如 $y=4$），沿 $x$ 轴得到单变量切片 $f(x,4)=x^2+16$。
2. 对 $x$ 求导，$\frac{\partial f}{\partial x}=2x$ 给出 $x$ 方向的切线斜率。

固定 $x$

1. 固定 $x$（例如 $x=2$），沿 $y$ 轴得到切片 $f(2,y)=4+y^2$。
2. 对 $y$ 求导，$\frac{\partial f}{\partial y}=2y$ 给出 $y$ 方向的切线斜率。

合成切平面

函数在该点可微时，切平面由这两条相交的切线张成。仅有偏导数不能保证可微，反例见下文。

偏导数

把三维曲面 $f(x,y)$ 用平行于 $x$ 轴或 $y$ 轴的平面切开，会在曲面上得到一条曲线。 曲线在某点的切线斜率就是函数沿该切片方向的偏导数。

• 平行于 $x$ 轴的切片： 固定 $y$，将 $f(x,y)$ 看作 $x$ 的单变量函数； 切线斜率是 $\frac{\partial f}{\partial x}$ 或 $f_x$。
• 平行于 $y$ 轴的切片： 固定 $x$，将函数看作只依赖 $y$； 切线斜率是 $\frac{\partial f}{\partial y}$ 或 $f_y$。

计算偏导数

对于 $f(x,y)=x^2+y^2$：

• 将 $y$ 视为常数，$\frac{\partial f}{\partial x}=2x$。
• 将 $x$ 视为常数，$\frac{\partial f}{\partial y}=2y$。

一般方法是固定其他变量，再对目标变量使用普通求导法则。

对于 $f(x,y)=3x^2y^3$：

• $\frac{\partial f}{\partial x}=6xy^3$。
• $\frac{\partial f}{\partial y}=9x^2y^2$。

切平面何时能近似函数

在内部点 $(a,b)$，偏导数是在另一变量固定时取极限：

$$f_x(a,b)=\lim_{h\to0}\frac{f(a+h,b)-f(a,b)}h.$$

切平面要能近似所有方向上的变化，函数必须在该点可微，即

$$f(a+h,b+k)=f(a,b)+f_x(a,b)h+f_y(a,b)k+r(h,k), \qquad \frac{r(h,k)}{\sqrt{h^2+k^2}}\to0.$$

偏导数在邻域内连续，是可微的充分条件。因此，$x^2+y^2$ 在 $(2,4)$ 处的切平面为 $z=20+4(x-2)+8(y-4)$。在 $(2.1,3.9)$ 处，近似值是 $19.6$，精确值是 $19.62$；差值 $0.02$ 来自被略去的二次项。

仅有偏导数还不够。令原点以外的 $f(x,y)=xy/(x^2+y^2)$，并定义 $f(0,0)=0$。原点处两个偏导数都为零，但沿 $y=x\ne0$ 有 $f=1/2$。函数在原点甚至不连续，因此不能仅凭坐标切片就使用切平面近似。

我的阅读 · 打开过的笔记会记在当前浏览器里。