アイディア

解くためには、次のアイディア一発で十分である。

$$F(t):=f(a+t h)$$   $$\mbox{($t\in[0,1]$)}$$

とおくと、$F(0)=f(a)$, $F(1)=f(a+h)$ であるから、

$$f(a+h)-f(a)=F(1)-F(0).$$

この $F$ は1変数関数であるから、1変数関数の平均値定理、 Taylor の定理が使える。

$F$ の導関数 $F'$ はどうなるか？ $\varphi(t):=a+t h$ とおくと、$F$ は $f$ と $\varphi$ の合成関数である: $F=f\circ\varphi$. また、 $\varphi'(t)=h$. 実際、

$$\varphi(t) =a+t h =\begin{pmatrix} a_1+t h_1\\ a_2+t h_2\\ \vdots\\ a_n+t h_n \end{pmatrix}$$

であるから、

$$\varphi'(t) =\begin{pmatrix} \left(a_1+t h_1\right)' \\ \left(a_... ...t)' \end{pmatrix}=\begin{pmatrix} h_1\\ h_2\\ \vdots\\ h_n \end{pmatrix}=h.$$

ゆえに合成関数の微分法から、

$$F'(t)=\frac{\D}{\D t}f(a+t h)=f'(\varphi(t))\varphi'(t) =f'(a+t h)h=\nabla f(a+th)\cdot h.$$

特に

$$F'(0)=\left.\frac{\D}{\D t}f(a+t h)\right\vert _{t=0}=f'(a)h=\nabla f(a)\cdot h.$$

この量を、$a$ における、$f$ の $h$ 方向の方向微分係数と呼び、 $\dfrac{\rd f}{\rd h}(a)$ で表す。

記号の約束: 方向微分係数

$$\frac{\rd f}{\rd h}(a) :=\left.\frac{\D}{\D t}f(a+t h)\right\vert _{t=0}=f'(a)h=\nabla f(a)\cdot h.$$