可逆ジャンプマルコフ連鎖モンテカルロ

計算統計学において、可逆ジャンプマルコフ連鎖モンテカルロ法は、ピーター・グリーンによって導入された標準マルコフ連鎖モンテカルロ法 (MCMC) の拡張であり、さまざまな次元の空間での事後分布のシミュレーション(サンプルの作成)を可能にします。^{[1]したがって、}モデル内のパラメータ 数が不明な場合でもシミュレーションが可能です。「ジャンプ」とは、連鎖の実行中にあるパラメータ空間から別のパラメータ空間への切り替えを指します。RJMCMCは、異なる次元のモデルを比較して、どのモデルがデータに最も適合するかを調べるのに役立ちます。また、新しいデータポイントの予測にも役立ちます。モデルを選択して固定する必要がなく、RJMCMCではすべてのモデルの新しい値を同時に直接予測できるためです。データに最も適合するモデルは、適合度の低いモデルよりも頻繁に選択されます。

RJMCMCプロセスの詳細

をモデル指標とし、パラメータ空間をその次元数がモデルに依存するものとしましょう。モデル指標は有限である必要はありません。定常分布は、値を とするの結合事後分布です。 ${\displaystyle n_{m}\in N_{m}=\{1,2,\ldots ,I\}\,}$ ${\displaystyle M=\bigcup_{n_{m}=1}^{I}\mathbb{R}^{d_{m}}}$ ${\displaystyle d_{m}}$ ${\displaystyle n_{m}}$ ${\displaystyle (M,N_{m})}$ ${\displaystyle (m,n_{m})}$

この提案は、との写像で構築できる。ここで は上の密度を持つランダム成分から抽出される 。したがって、状態 への移行は次のように定式化できる。 ${\displaystyle m'}$ ${\displaystyle g_{1mm'}}$ ${\displaystyle m}$ ${\displaystyle u}$ ${\displaystyle u}$ ${\displaystyle U}$ ${\displaystyle q}$ ${\displaystyle \mathbb {R} ^{d_{mm'}}}$ ${\displaystyle (m',n_{m}')}$

${\displaystyle (m',n_{m}')=(g_{1mm'}(m,u),n_{m}')\,}$

機能

${\displaystyle g_{mm'}:={\Bigg (}(m,u)\mapsto {\bigg (}(m',u')={\big (}g_{1mm'}(m,u),g_{2mm'}(m,u){\big )}{\bigg )}{\Bigg )}\,}$

1対1かつ微分可能で、非ゼロのサポートを持つ必要があります。

${\displaystyle \mathrm {supp} (g_{mm'})\neq \varnothing \,}$

逆関数が存在する

${\displaystyle g_{mm'}^{-1}=g_{m'm}\,}$

微分可能である。したがって、と は次元が等しくなければならない。これは次元基準が ${\displaystyle (m,u)}$ ${\displaystyle (m',u')}$

${\displaystyle d_{m}+d_{mm'}=d_{m'}+d_{m'm}\,}$

は の次元で満たされます。これは次元マッチングと呼ばれます。 ${\displaystyle d_{mm'}}$ ${\displaystyle u}$

すると、次元マッチング条件は次のように簡約できる。 ${\displaystyle \mathbb {R} ^{d_{m}}\subset \mathbb {R} ^{d_{m'}}}$

${\displaystyle d_{m}+d_{mm'}=d_{m'}\,}$

と

${\displaystyle (m,u)=g_{m'm}(m).\,}$

受理確率は次のように表される。

${\displaystyle a(m,m')=\min \left(1,{\frac {p_{m'm}p_{m'}f_{m'}(m')}{p_{mm'}q_{mm'}(m,u)p_{m}f_{m}(m)}}\left|\det \left({\frac {\partial g_{mm'}(m,u)}{\partial (m,u)}}\right)\right|\right),}$

ここでは絶対値、は結合事後確率である。 ${\displaystyle |\cdot |}$ ${\displaystyle p_{m}f_{m}}$

${\displaystyle p_{m}f_{m}=c^{-1}p(y|m,n_{m})p(m|n_{m})p(n_{m}),\,}$

ここで、正規化定数です。 ${\displaystyle c}$

ソフトウェアパッケージ

オープンソースのBUGsパッケージには、実験的な RJ-MCMC ツールが用意されています。

Gen 確率的プログラミング システムは、Involution MCMC 機能の一部として、ユーザー定義の可逆ジャンプ MCMC カーネルの受け入れ確率計算を自動化します。

参考文献

1. Green, PJ (1995). 「可逆ジャンプマルコフ連鎖モンテカルロ計算とベイズモデル決定」. Biometrika . 82 (4): 711– 732. CiteSeerX  10.1.1.407.8942 . doi :10.1093/biomet/82.4.711. JSTOR  2337340. MR  1380810.