$\grad F$ は $F$ の値が最も急激に増加する方向である

$\Omega$ は $\R^n$ の開集合、 $F\colon\Omega\to\R$ は $C^1$ 級、 $a\in\Omega$, $\nabla F(a)\ne 0$ とする。十分小さい $h$

$$F(a+h)-F(a)=F'(a) h+o\left(\left\Vert h\right\Vert\right)$$   $$\mbox{($h\to 0$)}$$

であるから、$\Vert h\Vert$ が十分に小さいとき、

$$\sharp F(a+h)-F(a)\kinji F'(a) h=\left(\nabla F(a),h\right) =\left\Vert\nabla F(a)\right\Vert\;\left\Vert h\right\Vert\cos\theta(h).$$

ここで $\theta(h)\in[0,\pi]$ は $\nabla F(a)$ と $h$ のなす角である。

$\left\Vert h\right\Vert$ を固定して、 $h$ の方向だけを動かしたとき、 式 ($\sharp$) の右辺は、 $\theta(h)=0$ ( $\cos\theta(h)=1$) のとき最大となり、 $\theta(h)=\pi$ ( $\cos\theta(h)=-1$) のとき最小となる。