事前確率

不確実な量の事前確率分布（単に事前分布と呼ばれる）は、何らかの証拠が考慮される前の仮定された確率分布です。例えば、事前分布は、将来の選挙で特定の政治家に投票する有権者の相対的な割合を表す確率分布である可能性があります。未知の量は、モデルのパラメータ、または観測可能な変数ではなく潜在変数である可能性があります。

ベイズ統計では、ベイズの定理は、新しい情報で事前分布を更新して事後確率分布（新しいデータが与えられた場合の不確実な量の条件付き分布）を取得する方法を規定します。歴史的に、事前分布の選択は、与えられた尤度関数の共役族に制限されることがよくありました。そのため、同じ族の扱いやすい事後分布が得られることになります。しかし、マルコフ連鎖モンテカルロ法が広く利用可能になったため、これはそれほど懸念されなくなりました

事前分布を構築する方法は数多くあります。^[1]場合によっては、事前分布は過去の情報、例えば以前の実験から決定されることがあります。また、事前分布は経験豊富な専門家の純粋に主観的な評価から導き出されることもあります。 ^[2]^[3]^[4]情報が利用できない場合は、無差別原理によって正当化されるとして、無情報事前分布が採用されることがあります。^[5]^{[6]現代の応用では、}正則化や特徴選択などの機械的な特性に基づいて事前分布が選択されることもよくあります。^[7]^[8]^[9]

モデルパラメータの事前分布は、多くの場合、それ自体のパラメータに依存します。これらの超パラメータに関する不確実性は、超事前確率分布として表現できます。例えば、ベルヌーイ分布のパラメータpの分布をベータ分布を使用してモデル化する場合、次のようになります。

pは基礎となるシステム（ベルヌーイ分布）のパラメータであり、
αとβは事前分布（ベータ分布）のパラメータであり、したがってハイパーパラメータです。

原理的には、事前分布は多くの条件付きレベルの分布、いわゆる階層的事前分布に分解できます。^[10]

有益な事前分布

有益な事前分布は、変数に関する具体的で明確な情報を表します。例としては、明日の正午の気温の事前分布があります。合理的なアプローチは、事前分布を、期待値が今日の正午の気温に等しく、分散が気温の日々の変動に等しい正規分布、または年間のその日の気温の分布にすることです

この例は多くの事前分布と共通する性質を持っています。つまり、ある問題（今日の気温）の事後分布が別の問題（明日の気温）の事前分布になるということです。すでに考慮されている既存の証拠は事前分布の一部であり、証拠が蓄積されるにつれて、事後分布は元の仮定ではなく証拠によって大きく決定されます。ただし、元の仮定が証拠が示唆している可能性を認めている必要があります。「事前分布」と「事後分布」という用語は、一般的に特定のデータまたは観測値に相対的なものです。

強い事前分布

強い事前分布とは、新しい情報を考慮した後、現在の仮定、理論、概念、またはアイデアの基盤となる、先行する仮定、理論、概念、またはアイデアです。^[要出典]強い事前分布は、事前分布に含まれる情報が分析対象のデータに含まれる情報よりも優勢となる、有益な事前分布の一種です。ベイズ分析では、事前分布に含まれる情報とデータから抽出された情報を組み合わせて事後分布を生成します。「強い事前分布」の場合、事後分布は事前分布とほとんど変わりません。

弱有益な事前分布

弱情報事前分布は、変数に関する部分的な情報を表現し、結果を過度に制約したり極端な推定値を防ぐことなく、既存の知識と一致する解へと分析を導きます。例えば、明日のセントルイスの正午の気温の事前分布を設定する場合、平均華氏50度、標準偏差40度の正規分布を使用します。これは、気温を（10度、90度）の範囲に非常に緩く制約し、-30度未満または130度を超える可能性はわずかです。弱情報事前分布の目的は、正則化、つまり推論を妥当な範囲に保つことです。

無情報事前分布

無情報事前分布、平坦事前分布、または拡散事前分布は、変数に関する漠然とした、または一般的な情報を表します。^[5]「無情報事前分布」という用語は、やや誤解を招く可能性があります。このような事前分布は、あまり情報を与えない事前分布、または客観的事前分布、つまり主観的に導き出されない事前分布とも呼ばれます。

無情報事前分布は、「変数は正である」や「変数はある限界値より小さい」といった「客観的な」情報を表現することができます。無情報事前分布を決定する最も単純かつ古くからの規則は、無差別原理であり、これはすべての可能性に等しい確率を割り当てるというものです。パラメータ推定問題において、無情報事前分布を用いると、従来の統計分析とそれほど変わらない結果が得られます。これは、尤度関数が無情報事前分布よりも多くの情報をもたらすことが多いためです。

事前確率、すなわち、ある意味では不確実性の状態の性質によって論理的に必要とされる確率分布を見つけようとする試みがいくつか行われてきました。これらは哲学的な論争の対象であり、ベイズ主義者は大まかに2つの学派に分かれています。「客観的ベイズ主義者」は、そのような事前確率が多くの有用な状況に存在すると信じる学派であり、「主観的ベイズ主義者」は、実際には事前確率は通常、厳密に正当化できない主観的な意見の判断を表すと信じる学派です（Williamson 2010）。客観的ベイズ主義に対する最も強力な議論は、おそらくエドウィン・T・ジェインズによって示され、主に対称性の結果と最大エントロピーの原理に基づいています。

Jaynes (2003) による事前事前分布の例として、A、B、C の 3 つのカップのいずれかの下にボールが隠されていることはわかっているものの、その位置に関するその他の情報は得られない状況を考えてみましょう。この場合、p ( A ) = p ( B ) = p ( C ) = 1/3という一様事前分布が直感的に唯一合理的な選択肢のように思えます。より形式的に言えば、カップのラベル (「A」、「B」、「C」) を入れ替えても問題は同じであることがわかります。したがって、ラベルの入れ替えによってボールがどのカップの下にあるかという予測が変わってしまうような事前分布を選択するのは奇妙です。この不変性を保つのは一様事前分布だけです。この不変性原理を受け入れるならば、この知識状態を表すのに一様事前分布が論理的に正しい事前分布であることがわかります。この事前分布は、特定の知識状態を表すための正しい選択という意味で「客観的」ですが、観察者に依存しない世界の特徴という意味では客観的ではありません。実際には、ボールは特定のカップの下に存在し、この状況で確率について話すことは、システムに関する知識が限られている観察者が存在する場合にのみ意味を持ちます。^[11]

より物議を醸す例として、ジェインズはパラメータの変化に対する事前分布の不変性に基づく議論を発表しました。この議論では、確率に関する完全な不確実性を表す事前分布は、ハルデン事前分布 p ⁻¹ (1 − p ) ⁻¹であるべきであると示唆しています。^[12] ジェインズが示す例は、実験室で化学物質を見つけ、繰り返し実験でそれが水に溶けるかどうかを尋ねることです。ハルデン事前分布^[13]は、とに圧倒的に最大の重みを与えており、サンプルが毎回溶解するか、まったく溶解しないかが等しい確率で示されていますしかし、ある実験では化学物質のサンプルが溶解し、別の実験では溶解しないことが観測された場合、この事前分布は区間[0, 1]の一様分布に更新されます。これは、溶解する観測値と溶解しない観測値からなるデータセットに、上記の事前分布を用いてベイズの定理を適用することで得られます。ハルデン事前分布は不適正な事前分布です（つまり、質量が無限大です）。ハロルド・ジェフリーズは、ベルヌーイ確率変数に対するジェフリーズ事前分布p ^−1/2 (1 − p ) ^−1/2のように、無情報事前分布を設計するための体系的な方法を考案しました。 $p=0$ $p=1$

パラメータ空間Xが自然な群構造を持ち、それがベイズ知識の状態を不変にする場合、ハール測度に比例する事前分布を構築できます。 ^[12]これは、上記の例の 3 つのカップ上の均一事前分布を正当化するために使用された不変原理の一般化として考えることができます。たとえば、物理学では、座標系の原点の選択に関係なく、実験は同じ結果を与えると予想する場合があります。これにより、X上の移動群の群構造が誘導され、事前確率が定数不適切な事前分布として決定されます。同様に、一部の測定値は、任意のスケールの選択に対して自然に不変です (たとえば、センチメートルを使用するか、インチを使用するかに関係なく、物理的な結果は同じである必要があります)。このような場合、スケール群は自然な群構造であり、対応するX上の事前分布は 1/ xに比例します。左不変ハール測度を使用するか、右不変ハール測度を使用するかが重要な場合があります。たとえば、アフィン群上の左不変ハール測度と右不変ハール測度は等しくありません。 Berger (1985, p. 413) は、右不変ハール測度が正しい選択であると主張している。

エドウィン・T・ジェインズが提唱したもう一つのアイデアは、最大エントロピー原理（MAXENT）を用いることです。その根拠は、確率分布のシャノンエントロピーが、その分布に含まれる情報量を測るという点にあります。エントロピーが大きいほど、その分布が提供する情報は少なくなります。したがって、X上の適切な確率分布集合においてエントロピーを最大化することで、その集合を定義する制約を満たす情報量が最も少ないという意味で、最も情報量の少ない分布が見つかります。例えば、離散空間における最大エントロピー事前分布は、確率が1に正規化されているという条件のみで、各状態に等しい確率を割り当てる事前分布です。また、連続空間の場合、密度が平均0、分散1で正規化されているという条件で、最大エントロピー事前分布は標準正規分布です。最小クロスエントロピー原理は、MAXENTを、最大エントロピーの意味で適切な制約を持つ任意の事前分布を「更新」する場合に一般化します。

関連する考え方である参照事前分布は、ホセ・ミゲル・ベルナルドによって導入されました。ここでの考え方は、事後分布の期待カルバック・ライブラー・ダイバージェンスを事前分布と比較して最大化することです。これは、事前密度がp ( x )のときにXに関する期待事後情報を最大化します。したがって、ある意味では、p ( x )はXに関する「最も情報量の少ない」事前分布です。参照事前分布は漸近極限で定義されます。つまり、データ点の数が無限大に近づくにつれて、このようにして得られる事前分布の極限を考慮します。この場合、事前分布と事後分布間のKLダイバージェンスは次のように与えられます。 $KL=\int p(t)\int p(x\mid t)\log {\frac {p(x\mid t)}{p(x)}}\,dx\,dt$

ここで、はあるパラメータに対する十分な統計量です。内部積分は事後分布と事前分布間のKLダイバージェンスであり、結果はすべての値に対する加重平均です。対数を2つの部分に分割し、2番目の部分で積分の順序を逆にし、がに依存しないことに注意すると、 $t$ $x$ $p(x\mid t)$ $p(x)$ $t$ $\log \,[p(x)]$ $t$ $KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int \log[p(x)]\,\int p(t)p(x\mid t)\,dt\,dx$

2番目の部分の内側の積分は、結合密度の積分です。これは周辺分布なので、 $t$ $p(x,t)$ $p(x)$ $KL=\int p(t)\int p(x\mid t)\log[p(x\mid t)]\,dx\,dt\,-\,\int p(x)\log[p(x)]\,dx$

ここで、エントロピーの概念を用いる。これは確率分布の場合、確率質量または密度関数の対数の負の期待値である。これを最後の式に用いると、次の式が得られる。 ${\textstyle H(x)=-\int p(x)\log[p(x)]\,dx.}$ $KL=-\int p(t)H(x\mid t)\,dt+\,H(x)$

言葉で言えば、KL は、を条件とするのエントロピーの上における負の期待値との周辺（つまり無条件）エントロピーを加えたものです。サンプルサイズが無限大に近づく極限のケースでは、ベルンシュタイン-フォンミーゼスの定理によれば、の与えられた観測値に対する条件付きのの分布は、の「真の」値におけるフィッシャー情報量の逆数に等しい分散を持つ正規分布となります。正規密度関数のエントロピーはの対数の半分に等しく、は分布の分散です。したがってこの場合、は任意に大きなサンプルサイズ（フィッシャー情報量はこれに比例する）で、は「真の」値です。これはに依存しないため、は積分から取り除くことができ、この積分は確率空間上にあるため 1 になります。したがって、KL の漸近形はと書くことができ、は（漸近的に大きい）サンプルサイズに比例します。の値はわかりません。実際、この考え方自体が、パラメータの「真の」値を事前分布と事後分布に置き換えるベイズ推論の哲学に反しています。そこで、をで置き換え、正規エントロピーの期待値を取得します。これは、を乗じてで積分することで得られます。これにより、対数を組み合わせることで $t$ $x$ $t$ $x$ $x$ $t$ $x$ $2\pi ev$ $v$ $H=\log {\sqrt {\frac {2\pi e}{NI(x^{*})}}}$ $N$ $x*$ $t$ $KL=-\log \left(1{\sqrt {kI(x^{*})}}\right)-\,\int p(x)\log[p(x)]\,dx$ $k$ $x*$ $x*$ $x$ $p(x)$ $x$ $KL=-\int p(x)\log \left[{\frac {p(x)}{\sqrt {kI(x)}}}\right]\,dx$

これは準KLダイバージェンスです（「準」とは、フィッシャー情報量の平方根が不適正な分布の核となる可能性があるという意味です）。マイナス記号のため、最初のKLダイバージェンスを最大化するには、これを最小化する必要があります。最後の式の最小値は、対数引数の2つの分布が、不適正であろうとなかろうと、発散しないときに発生します。これは、事前分布が尤度関数のフィッシャー情報量の平方根に比例するときに発生します。したがって、単一パラメータの場合、ジェフリーズの根拠は非常に異なりますが、参照事前分布とジェフリーズ事前分布は同一です

多変量問題では、他のルール（例えば、ジェフリーズのルール）では問題のある挙動を示す事前分布が生じる可能性があるため、参照事前分布が客観的事前分布として選択されることがよくあります。^{[説明が必要：ジェフリーズの事前分布はKLダイバージェンスと関連していますか？ ]}

客観的事前分布は、情報理論や符号化理論（例えば、最小記述長を参照）や頻度主義統計（いわゆる確率マッチング事前分布）などの他の原理から導出されることもあります。^{[14]このような手法は}、ソロモンオフの帰納的推論理論で用いられています。客観的事前分布の構築は、バイオインフォマティクス、特にサンプルサイズが限られており膨大な事前知識が利用可能な癌システム生物学における推論において、最近導入されました。これらの手法では、KLダイバージェンスなどの情報理論に基づく基準、または二項教師あり学習問題^[15]や混合モデル問題に対する対数尤度関数^{[16]が用いられます。}

無情報事前分布に関連する哲学的問題は、適切な測定尺度、つまり測定尺度の選択に関連しています。未知のランナーの走行速度の事前分布が必要だとします。例えば、彼の速度の事前分布として正規分布を指定できますが、代わりに、100メートルを走るのにかかる時間について、最初の事前分布の逆数に比例する正規分布を指定することもできます。これらは非常に異なる事前分布ですが、どちらが望ましいかは明らかではありません。ジェインズの変換群法は、状況によってはこの質問に答えることができます。^[17]

同様に、0から1の間の未知の割合を推定するように求められた場合、すべての割合が等しく起こりうると言い、一様事前分布を使用するかもしれません。あるいは、割合のすべての桁が等しく起こりうると言うかもしれません対数事前分布は、比率の対数に関する一様事前分布です。ジェフリーズ事前分布は、どの指標が使用されても同じ信念を表す事前分布を計算することで、この問題を解決しようとします。未知の比率pp^−1/2(1 − p)^−1/2であり、これはジェインズの推奨とは異なります。

アルゴリズム的確率の概念に基づく事前分布は、非常に一般的な設定における帰納法の基礎として、帰納的推論において使用されます

無情報事前分布に関連する実際的な問題には、事後分布が適切であるという要件が含まれます。連続的で有界でない変数に対する通常の無情報事前分布は不適切です。事後分布が適切であれば、これは問題にはなりません。もう1つの重要な問題は、無情報事前分布を日常的に、つまり多くの異なるデータセットで使用する場合、良好な頻度論的特性を持つ必要があるということです。通常、ベイズ主義者はこのような問題を気にしませんが、この状況では重要になる可能性があります。例えば、事後分布に基づく決定ルールは、採用された損失関数の下で許容されることが望まれます。許容性を確認することはしばしば困難ですが、いくつかの結果は知られています（例：Berger and Strawderman 1996）。この問題は階層型ベイズモデルで特に深刻です。通常の事前分布（例：Jeffreysの事前分布）は、階層の上位レベルで使用された場合、非常に許容できない決定ルールを与える可能性があります。

不適切な事前分布

事象は相互に排他的かつ網羅的であるとします。ベイズの定理がと書かれる場合、すべての事前確率P ( A _i ) とP ( A _j ) に与えられた定数を掛けても同じ結果が得られることは明らかです。連続確率変数についても同じことが言えます。分母の和が収束する場合、事後確率は事前値が1にならなくても合計（または積分）1になるため、事前値は正しい比率で指定するだけでよい場合があります。この考え方をさらに進めると、多くの場合、事後確率の妥当な答えを得るために、事前値の合計または積分が有限である必要さえないかもしれません。この場合、事前値は不適正事前値と呼ばれます。しかし、事前値が不適正であれば、事後分布は適正分布である必要はありません。[ ^{18]これは、事象}BがすべてのA _jから独立している場合から明らかです $A_{1},A_{2},\ldots ,A_{n}$ $P(A_{i}\mid B)={\frac {P(B\mid A_{i})P(A_{i})}{\sum _{j}P(B\mid A_{j})P(A_{j})}}\,,$

統計学者は、非情報的事前分布として不適切な事前分布を用いることがある。^[19] 例えば、確率変数の平均と分散の事前分布が必要な場合、p ( m , v ) ~ 1/ v ( v > 0の場合 ) と仮定することがある。これは、平均値の値はどれも「等確率」であり、正の分散の値は、その値に反比例して「確率が低くなる」ことを示唆する。多くの著者 (Lindley, 1973; De Groot, 1937; Kass and Wasserman, 1996) ^{[要出典] は}、これらの事前分布は確率密度ではないため、過度に解釈することの危険性について警告している。事前分布が持つ唯一の関連性は、すべての観測値に対して明確に定義されている限り、対応する事後分布にある。(ハルデイン事前分布は典型的な反例である。^[要説明]^[要出典] )

対照的に、尤度関数は積分する必要がなく、一様に1である尤度関数はデータがない場合（データがない場合、すべてのモデルは等しく起こり得る）に対応します。ベイズの定理は事前分布と尤度を掛け合わせ、空の積は単に定数尤度1です。ただし、事前確率分布から始めなければ、事後確率分布は得られず、したがって積分したり期待値や損失を計算したりすることはできません。詳細は、尤度関数 § 非積分性を参照してください。

例

不適切な事前分布の例には以下が含まれます。

無限区間（つまり、半直線または実数直線全体）上の一様分布。
β (0,0)、α =0、β =0の場合のベータ分布（対数オッズスケール上の一様分布）。
正の実数上の対数事前分布（対数スケール上の一様分布）。^[要出典]

これらの関数は、一様分布として解釈され、データがない場合の尤度関数としても解釈できますが、適切な事前分布ではありません

統計力学における事前確率

ベイズ統計では事前確率は不確実なパラメータについての初期の信念を表すのに使われるのに対し、統計力学では事前確率はシステムの初期状態を記述するのに使われる。^{[20]古典的なバージョンは、}基本事象の数（例えば、サイコロを振る回数）と総事象数の比として定義され、これらは純粋に演繹的に、すなわちいかなる実験もなしに考えられたものである。サイコロの場合、サイコロを振らずにテーブルの上で見ると、各基本事象は同じ確率を持つと演繹的に推論される。したがって、（完璧な）サイコロを想像上で振った場合の各結果の確率、または単に面の数を数えた場合の確率は 1/6 である。サイコロの各面は等しい確率で現れる。確率は各基本事象に対して定義される尺度である。サイコロを 20 回投げて、上の面に 6 が出る回数（20 回中）を尋ねた場合、結果は異なる。この場合、時間が関係し、時間やサイコロを振る回数に応じて異なる種類の確率が存在します。一方、事前確率は時間とは無関係です。つまり、テーブルの上のサイコロを触らずに好きなだけ見ていても、上面に6が出る確率は1/6であると推測できます。

統計力学、例えば有限体積に含まれる気体などの統計力学では、個々の気体要素（原子または分子）の空間座標と運動量座標は、これらの座標が張る位相空間内で有限です。サイコロの場合と同様に、事前確率はここで（連続体の場合）、位相空間の体積要素をで割った値に比例し、はそこに含まれる定在波（つまり、状態）の数です。ここでは変数の値域、は変数の値域です（ここでは簡単にするために 1 次元で考えます）。1 次元（長さ）では、この数、統計的重み、つまり事前重みはです。通常の 3 次元（体積）では、対応する数はと計算できます。^{[21]この量が量子（つまり波動）力学における状態の数を与えるものとして理解するために、量子力学ではすべての粒子が}シュレーディンガー方程式の解である物質波と関連していることを思い出してください。体積の箱の中の気体のような自由粒子（エネルギー）の場合、そのような物質波は明示的にで、は整数です。間の領域における異なる値の数、つまり状態の数は、これらの点が覆う領域を考えることで上記の式になることがわかります。さらに、 1 空間次元ではである不確定性関係を考慮すると、これらの状態は区別できません（つまり、これらの状態にはラベルがありません）。重要な結論は、リウヴィルの定理として知られる結果、つまりこの位相空間体積要素の時間独立性と、したがって事前確率の時間独立性です。この量の時間依存性は、システムのダイナミクスに関する既知の情報を意味するため、事前確率ではありません。^[22]したがって、領域を時間について微分すると、ゼロになります（ハミルトン方程式の助けを借りて）。時刻での体積は、時刻 0 での体積と同じです。これは、情報保存としても説明できます。 $V$ $q_{i}$ $p_{i}$ $\Delta q\Delta p$ $h$ $\Delta q$ $q$ $\Delta p$ $p$ $L$ $L\Delta p/h$ $V$ $V4\pi p^{2}\Delta p/h^{3}$ $\epsilon ={\bf {p}}^{2}/2m$ $V=L^{3}$ $\psi \propto \sin(l\pi x/L)\sin(m\pi y/L)\sin(n\pi z/L),$ $l,m,n$ $(l,m,n)$ $p,p+dp,p^{2}={\bf {p}}^{2},$ $V4\pi p^{2}dp/h^{3}$ $\Delta q\Delta p\geq h,$ $\Omega :={\frac {\Delta q\Delta p}{\int \Delta q\Delta p}},\;\;\;\int \Delta q\Delta p=\mathrm {const.} ,$ $t$ $t$

完全な量子理論にも、同様の保存則が存在します。この場合、位相空間領域は射影演算子で表される状態空間の部分空間に置き換えられ、位相空間における確率の代わりに、部分空間の次元数である確率密度が与えられます。この場合の保存則は、S行列のユニタリー性によって表現されます。いずれの場合も、考察は閉じた孤立系を前提としています。この閉じた孤立系とは、(1) 一定のエネルギーと (2) 一定数の粒子が(c) 平衡状態にある系です。この系の膨大な数の複製を考察すると、ミクロカノニカル集団と呼ばれるものが得られます。量子統計学では、この系に対して「孤立系の等確率事前確率の基本公理」が提唱されています。これは、平衡状態にある孤立系は、そのアクセス可能な各状態を同じ確率で占めるというものです。したがって、この基本公理により、事前確率を系の縮退、すなわち同じエネルギーを持つ異なる状態の数と等しくすることができます。 $P$ $\Sigma :={\frac {P}{{\text{Tr}}(P)}},\;\;\;N={\text{Tr}}(P)=\mathrm {const.} ,$ $N$ $E$ $N$

例

次の例は、(a)古典的および(b)量子的文脈における事前確率（または事前重み付け）を示しています。

古典的な事前確率
球面極座標における慣性モーメントIを持つ二原子分子の回転エネルギーEを考えます（つまり、上はここです）。すなわち、定数Eとに対する -曲線は面積の楕円です。そしてを積分することにより、定数エネルギーEに対して覆われる位相空間の全体積は、したがってエネルギー範囲における古典的な事前重み付けは、 $\theta ,\phi$ $q$ $\theta ,\phi$ $E={\frac {1}{2I}}\left(p_{\theta }^{2}+{\frac {p_{\phi }^{2}}{\sin ^{2}\theta }}\right).$ $(p_{\theta },p_{\phi })$ $\theta$ $\oint dp_{\theta }dp_{\phi }=\pi {\sqrt {2IE}}{\sqrt {2IE}}\sin \theta =2\pi IE\sin \theta .$ $\theta$ $\phi$ $\int _{0}^{\phi =2\pi }\int _{0}^{\theta =\pi }2I\pi E\sin \theta d\theta d\phi =8\pi ^{2}IE=\oint dp_{\theta }dp_{\phi }d\theta d\phi ,$ $dE$

$\Omega \propto$ (における位相空間の体積)から(における位相空間の体積)を引いたものは、次のように与えられます。 $E+dE$ $E$ $8{\pi }^{2}IdE.$
量子的な事前確率
各運動方向に対する範囲内の量子状態の数が、要素ごとに係数で与えられると仮定すると、回転する二原子分子について (a) で示されるように、エネルギー範囲 dE 内の状態の数はです。波動力学から、回転する二原子分子のエネルギーレベルは、各レベルが (2n+1) 倍縮退していることが知られています。を評価すると、次の式が得られます。したがって、上記と比較すると、範囲 dE 内の状態の概数は縮退、つまりで与えられることがわかります。したがって、古典的なコンテキスト (a) での事前重み付けは、ここでの量子的なコンテキスト (b) での事前重み付けに対応します。固有振動数の 1 次元単純調和振動子の場合は、同様に (a) 、(b) (縮退なし) がわかります。したがって、量子力学では、事前確率は実質的に縮退、つまり同じエネルギーを持つ状態の数の尺度です。 $\Delta q\Delta p$ $\Delta q\Delta p/h$ $8\pi ^{2}IdE/h^{2}$ $E_{n}={\frac {n(n+1)h^{2}}{8\pi ^{2}I}},$ $dn/dE_{n}=1/(dE_{n}/dn)$ ${\frac {dn}{dE_{n}}}={\frac {8\pi ^{2}I}{(2n+1)h^{2}}},\;\;\;(2n+1)dn={\frac {8\pi ^{2}I}{h^{2}}}dE_{n}.$ $\Omega$ $\Sigma \propto (2n+1)dn.$ $\nu$ $\Omega \propto dE/\nu$ $\Sigma \propto dn$
水素原子またはクーロンポテンシャルの場合（定常エネルギーに対する位相空間体積の評価はより複雑です）、量子力学的縮退はであることが分かっています。したがって、この場合はです。 $n^{2}$ $E\propto 1/n^{2}$ $\Sigma \propto n^{2}dn$

事前確率関数と分布関数

統計力学（任意の書籍を参照）では、さまざまな統計に対して、いわゆる分布関数を導出します。フェルミ-ディラック統計とボーズ-アインシュタイン統計の場合、これらの関数はそれぞれ次のようになります。これらの関数は、(1) 動的平衡（つまり、安定した均一な条件下）にあるシステムで、(2) 総（かつ膨大な）粒子数（この条件によって定数が決定されます）、および (3) 総エネルギー、つまり、各粒子のエネルギーがであるシステムに対して導出されます。導出において重要な点は、量子統計における粒子と状態の区別不能性、つまり、粒子と状態にはラベルがないことを考慮に入れていることです。パウリの原理（状態ごとに粒子は 1 つのみ、または粒子は 1 つも許可されない）に従う電子などのフェルミオンの場合、次の式が得られます。したがって、は、エネルギーおよび温度において電子が実際に占める状態の割合の尺度です。一方、事前確率は、利用可能な波動力学状態の数の尺度です。したがって、均一条件下ではは一定であり（体積要素から流出する粒子の数と同じ数の粒子も着実に流入するため、要素内の状況は静的に見える）、つまり時間に依存しないため、また前述のように時間にも依存しないため、次式が得られます。この方程式を偏微分で表すと、ボルツマン輸送方程式が得られます。ここで座標などが突然現れるのはなぜでしょうか？上記では電場やその他の場については触れていません。したがって、そのような場が存在しない場合は、上記のようなフェルミ-ディラック分布が得られます。しかし、そのような場が存在する場合は、のこの追加の依存性が得られます。 $f$ $f_{i}^{FD}={\frac {1}{e^{(\epsilon _{i}-\epsilon _{0})/kT}+1}},\quad f_{i}^{BE}={\frac {1}{e^{(\epsilon _{i}-\epsilon _{0})/kT}-1}}.$ $N=\Sigma _{i}n_{i}$ $\epsilon _{0}$ $E=\Sigma _{i}n_{i}\epsilon _{i}$ $n_{i}$ $\epsilon _{i}$ $0\leq f_{i}^{FD}\leq 1,\quad {\text{whereas}}\quad 0\leq f_{i}^{BE}\leq \infty .$ $f_{i}^{FD}$ $\epsilon _{i}$ $T$ $g_{i}$ $n_{i}=f_{i}g_{i}.$ $n_{i}$ $t$ $g_{i}$ $t$ ${\frac {df_{i}}{dt}}=0,\quad f_{i}=f_{i}(t,{\bf {v}}_{i},{\bf {r}}_{i}).$ ${\bf {r}}$ $f$

参照

注釈

^ Robert, Christian (1994). "From Prior Information to Prior Distributions". The Bayesian Choice . New York: Springer. pp. 89– 136. ISBN 0-387-94296-3.
^ キャサリン・チャロナー(1996). 「事前分布の導出」. ドナルド・A.ベリー、ダレン・スタングル（編）.ベイズ生物統計学. ニューヨーク：マルセル・デッカー. pp. 141– 156. ISBN 0-8247-9334-X.
^ ミッコラ・ペトラス他 (2024). 「事前知識の獲得：過去、現在、そして未来」.ベイズ分析. 19 (4). doi :10.1214/23-BA1381. hdl : 11336/183197 . S2CID 244798734.
^ Icazatti, Alejandro; Abril-Pla, Oriol; Klami, Arto; Martin, Osvaldo A. (2023年9月). 「PreliZ：事前情報抽出のためのツールボックス」. Journal of Open Source Software . 8 (89): 5499. Bibcode :2023JOSS....8.5499I. doi : 10.21105/joss.05499 .
^ ab Zellner, Arnold (1971). 「『ほとんど何も知らない』を表現するための事前分布」「計量経済学におけるベイズ推論入門」 . ニューヨーク：John Wiley & Sons. pp. 41– 53. ISBN 0-471-98165-6.
^ Price, Harold J.; Manson, Allison R. (2001). 「ベイズの定理のための無情報事前分布」. AIP Conf. Proc . 617 : 379–391 . doi :10.1063/1.1477060.
^ Piironen, Juho; Vehtari, Aki (2017). 「馬蹄型事前分布およびその他の収縮事前分布におけるスパース情報と正則化」. Electronic Journal of Statistics . 11 (2): 5018–5051 . arXiv : 1707.01694 . doi : 10.1214/17- EJS1337SI
^ シンプソン、ダニエル他 (2017). 「モデル構成要素の複雑性へのペナルティ：事前分布構築への原理的かつ実践的なアプローチ」.統計科学. 32 (1): 1– 28. arXiv : 1403.4630 . doi :10.1214/16-STS576. S2CID 88513041.
^ フォーチュイン、ヴィンセント (2022). 「ベイズ深層学習における事前分布：レビュー」.国際統計レビュー. 90 (3): 563– 591. doi :10.1111/insr.12502. hdl : 20.500.11850/547969 . S2CID 234681651
^ コングドン、ピーター・D. (2020). 「階層的事前分布を用いた回帰分析手法」ベイズ階層モデル（第2版）ボカラトン：CRCプレス. pp. 253– 315. ISBN 978-1-03-217715-1.
^ フローレンス、ジャン＝ピエール、ムシャール、ロリン、ジャン＝マリー (1990). 「ベイズ統計における不変性の議論」.経済的意思決定：ゲーム、計量経済学、最適化. ノースホランド. pp. 351– 367. ISBN 0-444-88422-X.
^ ab Jaynes, Edwin T. (1968年9月). 「事前確率」(PDF) . IEEE Transactions on Systems Science and Cybernetics . 4 (3): 227– 241. doi :10.1109/TSSC.1968.300117.
^ この事前分布は、 J.B.S. Haldaneによって「逆確率に関する注記」（ケンブリッジ哲学協会数学紀要 28, 55–61, 1932, doi :10.1017/S0305004100010495）で提案されました。また、J. Haldane、「小さな頻度の観測値の精度」（Biometrika, 35:297–300, 1948, doi :10.2307/2332350, JSTOR 2332350 ）も参照してください。
^ Datta, Gauri Sankar; Mukerjee, Rahul (2004). Probability Matching Priors: Higher Order Asymptotics . Springer. ISBN 978-0-387-20329-4.
^ Esfahani, MS; Dougherty, ER (2014). 「最適ベイズ分類のための事前分布の構築における生物学的経路知識の組み込み - IEEE Journals & Magazine」IEEE/ACM Transactions on Computational Biology and Bioinformatics . 11 (1): 202–18 . doi :10.1109/TCBB.2013.143. PMID 26355519. S2CID 10096507
^ Boluki, Shahin; Esfahani, Mohammad Shahrokh; Qian, Xiaoning; Dougherty, Edward R (2017年12月). 「最大知識駆動型情報事前分布によるベイズ学習への生物学的事前知識の組み込み」BMC Bioinformatics . 18 (S14): 552. doi : 10.1186/s12859-017-1893-4 . ISSN 1471-2105. PMC 5751802. PMID 29297278.
^ Jaynes (1968), pp. 17, see also Jaynes (2003), chapter 12. Note that chapter 12 is not available in the online preprint but can be previewed via Google Books.
^ Dawid, A. P.; Stone, M.; Zidek, J. V. (1973). "Marginalization Paradoxes in Bayesian and Structural Inference". Journal of the Royal Statistical Society. Series B (Methodological). 35 (2): 189–233. doi:10.1111/j.2517-6161.1973.tb00952.x. JSTOR 2984907.
^ Christensen, Ronald; Johnson, Wesley; Branscum, Adam; Hanson, Timothy E. (2010). Bayesian Ideas and Data Analysis : An Introduction for Scientists and Statisticians. Hoboken: CRC Press. p. 69. ISBN 9781439894798.
^ 伊庭雄三 (1989). 「ベイズ統計と統計力学」. 高山秀夫 (編).複雑物理系における協調ダイナミクス. シュプリンガー・シナジェティクス・シリーズ. 第43巻. ベルリン: シュプリンガー. pp. 235– 236. doi :10.1007/978-3-642-74554-6_60. ISBN 978-3-642-74556-0.
^ ミュラー＝キルステン, HJW (2013).統計物理学の基礎（第2版）. シンガポール: ワールドサイエンティフィック. 第6章.
^ ベン＝ナイム, A. (2007).エントロピーの謎解き. シンガポール: ワールドサイエンティフィック.

参考文献

Bauwens, Luc; Lubrano, Michel; Richard, Jean-François ( 1999). 「回帰モデルのための事前密度」.動的計量モデルにおけるベイズ推論. オックスフォード大学出版局. 94–128ページ. ISBN 0-19-877313-7.
Rubin, Donald B.; Gelman, Andrew ; John B. Carlin; Stern, Hal (2003).ベイズデータ分析（第2版）. ボカラトン：チャップマン＆ホール/CRC. ISBN 978-1-58488-388-3 MR 2027492.
Berger, James O. (1985).統計的決定理論とベイズ分析. ベルリン：シュプリンガー出版社. ISBN 978-0-387-96098-2 . MR 0804611.
Berger, James O.; Strawderman, William E. (1996). 「階層的事前分布の選択：正規平均の推定における許容性」Annals of Statistics . 24 (3): 931–951 . doi : 10.1214/aos/1032526950 . MR 1401831. Zbl 0865.62004
ベルナルド、ホセ・M. (1979).「ベイズ推論のための参照事後分布」.王立統計学会誌、シリーズB. 41 ( 2): 113–147 . doi :10.1111/j.2517-6161.1979.tb01066.x. JSTOR 2985028. MR 0547240
ジェームズ・O・バーガー、ホセ・M・ベルナルド、ドンチュー・サン（2009）「参照事前分布の正式な定義」Annals of Statistics . 37 (2): 905–938 . arXiv : 0904.0156 . Bibcode :2009arXiv0904.0156B. doi :10.1214/07-AOS587. S2CID 3221355
ジェインズ、エドウィン・T. (2003). 確率論：科学の論理. ケンブリッジ大学出版局. ISBN 978-0-521-59271-0.
Williamson, Jon (2010). 「Bruno di Finetti. Philosophical Lectures on Probability のレビュー」(PDF) . Philosophia Mathematica . 18 (1): 130– 135. doi :10.1093/philmat/nkp019. オリジナル(PDF)から2011年6月9日にアーカイブ。 2010年7月2日閲覧。

外部リンク

PriorDB：モデルとその事前分布の共同データベース