重点サンプリング (2)

前回は正規分布の裾の積分をなんとなく決めた提案分布による重点サンプリングで求めた。今回は提案分布の違いがどのような誤差の違いを生むのかについて実験した。ただし、今回の積分範囲は [4,∞) とした。ようするに \(f\) を標準正規分布のpdfとして

\begin{align}
\int_4^\infty f(x)dx
\end{align}

を求める問題。
“重点サンプリング (2)”の続きを読む

ハミルトン系の数値計算 (PRML11章)

PRML (→amazon;パターン認識と機械学習 下) の11章に出てくるハミルトン系の話。ここではハイブリッドモンテカルロのためにハミルトン系を導入して、リープフロッグスキームと呼ばれる数値積分(差分スキーム)を導入している。リープフロッグとかは昔ひと通り勉強したのだけど、久しぶりに見て懐かしかったので思い出しながら/遊びがてら計算してみた。
“ハミルトン系の数値計算 (PRML11章)”の続きを読む

微分の近似について

すこしマニアックな話題を。ある関数の微分をコンピュータ上で計算するための近似式として最も基本的なものは以下のものでしょう。差分(商)とか呼ばれるものですね。
\begin{align*}
f'(x)\simeq\frac{f(x+\Delta x)-f(x)}{\Delta x}
\end{align*}
もうすこし精度をよくしたい場合に次のような式もよく利用されます。
\begin{align*}f'(x)\simeq\frac{f(x+\Delta x)-f(x-\Delta x)}{2\Delta x}\end{align*}
しかし複素数を使ったこんな近似の仕方もあるようです。
\begin{align*}f'(x)\simeq\frac{\text{Im}(f(x+i\Delta x))}{\Delta x}\end{align*}
直感的にはよくわからないこの式がうまくいくことを理論と数値実験でみてみよう、というのがこの記事の目的です。 “微分の近似について”の続きを読む