正定値行列と共分散(に関する駄文)

  • ????????????????????

昨日、クラメール・ラオの下限について書いたが、そもそもなんで
\begin{align}
\mathrm{Cov}_{\boldsymbol{\theta}}
\left(\boldsymbol{W}(\boldsymbol X)\right)\geq \frac {\partial \boldsymbol{\tau}
\left(\boldsymbol{\theta}\right)} {\partial \boldsymbol{\theta}}
[I\left(\boldsymbol{\theta}\right)]^{-1}
\left( \frac {\partial
\boldsymbol{\tau}\left(\boldsymbol{\theta}\right)}
{\partial \boldsymbol{\theta}}\right)^T
\end{align}
だと共分散行列の下限を定めたことになるの?という話について。

一次元の場合は
\begin{align}
V[X]\ge V[Y]
\end{align}
ならば X のバラつきは Y より大きい、ということはわかるけど、
\begin{align}
\rm{Cov}[\boldsymbol X]\ge A
\end{align}
という場合、つまり \(\rm{Cov}[\boldsymbol X]-A\) が(半)正定値行列のとき、この式から \(\rm{Cov}[\boldsymbol X]\) について何が言えるのだろうか?

以下、答え。\(\rm{Cov}[\boldsymbol X]\) の対角成分に注目する。これはそれぞれ確率変数ベクトル \(\boldsymbol X\) の第 i 成分の分散に相当する。\(\rm{Cov}[\boldsymbol X]-A\) が正定値行列という仮定より、この行列の対角成分は0以上になる(後述)。つまり \(V[X_i]\ge a_{ii}\) がいえる。なので最初に戻って
\begin{align}
\mathrm{Cov}_{\boldsymbol{\theta}}
\left(\boldsymbol{W}(\boldsymbol X)\right)\geq \frac {\partial \boldsymbol{\tau}
\left(\boldsymbol{\theta}\right)} {\partial \boldsymbol{\theta}}
[I\left(\boldsymbol{\theta}\right)]^{-1}
\left( \frac {\partial
\boldsymbol{\tau}\left(\boldsymbol{\theta}\right)}
{\partial \boldsymbol{\theta}}\right)^T
\end{align}
から言えることは、

  • \(\boldsymbol W(\boldsymbol X)\) の成分ごとの分散は右辺の行列の対角成分の値以上になる

となってやっぱり下限を定めていることになる。というあたりまえのことをなんとなくやる気なさげに書いてみました。おしまい。

おまけ

半正定値行列の任意の対角成分は0以上になることは、半正定値性の定義、つまり任意のベクトル u に対して
\begin{align}
 u^TAu\ge0
\end{align}
となることを考えればすぐわかる。つまり u を第i成分だけ1であとは0みたいなベクトルにすれば対角成分だけ取り出されて \(a_{ii}\ge0\) がわかる。

はてなブックマーク - 正定値行列と共分散(に関する駄文)
Pocket