ベクトルの微分

SVMの導出をやろうとして、ベクトルを微分する必要があったので覚え書き。

まずは単純にベクトルをスカラで偏微分
{\mathbf{a}=\begin{pmatrix}a_1\\ \vdots \\ a_i \\ \vdots \\ a_n \end{pmatrix}}
{\frac{\partial \mathbf{a}}{\partial x}=\begin{pmatrix} \frac{\partial a_1}{\partial x}\\ \vdots \\ \frac{\partial a_i}{\partial x} \\ \vdots \\ \frac{\partial a_n}{\partial x} \end{pmatrix}}}
プレビューでは括弧がずれてるけどまあ大体分かるはず。

次にスカラをベクトルで微分
{\frac{\partial x}{\partial\mathbf{a}}=\left(\begin{array}\frac{\partial x}{\partial a_1}\\ \vdots\\ \frac{\partial x}{\partial a_i}\\ \vdots\\ \frac{\partial x}{\partial a_n}\end{array}\right)}

行列をベクトルで微分
前提として、行列の横のサイズはベクトルの長さと等しい。
{\mathbb{A}=\begin{pmatrix} a_{11} & \dots & a_{1n} \\ 
\vdots & \ddots & \vdots \\ 
a_{m1} & \dots & a_{mn} \end{pmatrix}}
{\frac{\partial \mathbb{A}}{\partial \mathbf{x}}=\mathbb{A}\left(\begin{array}\frac{\partial}{\partial x_1}\\ \vdots \\ \frac{\partial}{\partial x_n} \end{array}\right)}
{{\frac{\partial \mathbb{A}}{\partial \mathbf{x}}=\left( \begin{array}&\dots&\\ \dots& \frac{\partial a_{ji}}{\partial x_i} & \dots \\&\dots& \end{array} \right)}

導出よりもTeXに落とし込む方が面倒。