Probability distribution
確率論 と 統計学 において 、 正規分布 または ガウス分布は、 実数値 確率変数 に対する 連続確率分布 の一種である。その 確率密度関数 の一般的な形は [2] [3] [4] である。
f
(
x
)
=
1
2
π
σ
2
e
−
(
x
−
μ
)
2
2
σ
2
.
{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.}
パラメータ
μ
{\displaystyle \mu }
は分布の 平均 または 期待 値(および 中央値 と 最頻値 )であり、パラメータは 分散 です 。 分布の 標準偏差は (シグマ)です。ガウス分布に従う確率変数は 正規分布に 従うと言われ、 正規偏差 と呼ばれます 。
σ
2
{\textstyle \sigma ^{2}}
σ
{\displaystyle \sigma }
正規分布は統計学 において重要であり、 自然科学 や 社会科学 において、 分布が未知である 実数値の ランダム変数を表すためによく用いられます。 [5] [6] 正規分布の重要性は、 中心極限定理 に一部起因しています。中心極限定理とは、ある条件下では、有限の平均と分散を持つランダム変数の多数のサンプル(観測値)の平均は、それ自体がランダム変数であり、その分布はサンプル数が増えるにつれて正規分布に 収束するというものです。したがって、 測定誤差 など、多くの独立したプロセスの合計であると予想される物理量は 、ほぼ正規分布に従う分布を示すことが多いです。 [7]
さらに、ガウス分布は解析研究において有用ないくつかの独特な性質を持っています。例えば、独立した正規偏差の固定集合の任意の 線形結合は正規偏差です。 不確実性の伝播 や 最小二乗法 [8]による パラメータフィッティングなど、多くの結果や手法は、 関連する変数が正規分布している場合、明示的に解析的に導くことができます。
正規分布は非公式には ベル曲線 と呼ばれることもあります。 [9] [10] しかし、 ベル曲線の形状を持つ分布は他にも数多くあります( コーシー分布 、 スチューデントの t 分布、 ロジスティック 分布など )。(その他の名称については 命名法を 参照してください。)
単 変量確率分布は、 多変量正規分布 の ベクトルと 行列正規分布 の行列 に対して一般化されます 。
定義
標準正規分布
正規分布の最も単純なケースは、 標準正規分布 または 単位正規分布 として知られています。これは、およびの特別なケースであり 、次の 確率密度関数 (または密度) で記述されます。 [11]
変数 の平均は0、分散と標準偏差は1です。密度は で ピークを持ち 、 で 変曲点を 持ちます。
μ
=
0
{\textstyle \mu =0}
σ
2
=
1
{\textstyle \sigma ^{2}=1}
φ
(
z
)
=
e
−
z
2
/
2
2
π
.
{\displaystyle \varphi (z)={\frac {e^{-z^{2}/2}}{\sqrt {2\pi }}}\,.}
z
{\displaystyle z}
φ
(
z
)
{\textstyle \varphi (z)}
1
2
π
{\textstyle {\frac {1}{\sqrt {2\pi }}}}
z
=
0
{\textstyle z=0}
z
=
+
1
{\textstyle z=+1}
z
=
−
1
{\displaystyle z=-1}
上記の密度は 標準正規分布として最もよく知られていますが、 他のバージョンの正規分布を説明するためにこの用語を使用している著者もいます。 例えば、
カール・フリードリヒ・ガウスは かつて標準正規分布を次のように定義し
、その分散は です。また、 スティーブン・スティグラー [12] はかつて標準正規分布を次のように定義し、
その単純な関数形と分散は
φ
(
z
)
=
e
−
z
2
π
,
{\displaystyle \varphi (z)={\frac {e^{-z^{2}}}{\sqrt {\pi }}},}
1
2
{\displaystyle {\frac {1}{2}}}
φ
(
z
)
=
e
−
π
z
2
,
{\displaystyle \varphi (z)=e^{-\pi z^{2}},}
σ
2
=
1
2
π
.
{\textstyle \sigma ^{2}={\frac {1}{2\pi }}.}
一般正規分布
すべての正規分布は、標準正規分布の定義域が係数
σ
{\displaystyle \sigma }
(標準偏差) で引き伸ばされ、次に
μ
{\displaystyle \mu }
(平均値) で変換されたバージョンです。
f
(
x
∣
μ
,
σ
2
)
=
1
σ
φ
(
x
−
μ
σ
)
.
{\displaystyle f(x\mid \mu ,\sigma ^{2})={\frac {1}{\sigma }}\varphi \left({\frac {x-\mu }{\sigma }}\right)\,.}
確率密度は、 積分 が 1 のままになるようにスケーリングする必要があります 。
1
/
σ
{\textstyle 1/\sigma }
Z
{\displaystyle Z}
が 標準正規偏差 の場合 、 は期待値 、標準偏差 の正規分布になります 。これは、標準正規分布 を係数 で拡大/縮小し、 シフトして、 と呼ばれる別の正規分布を生成できるということと同じです 。逆に、 がパラメータ および を持つ正規偏差の場合 、この 分布は、式を使用して再拡大縮小およびシフトすることで標準正規分布に変換できます。この変量は の標準化された形式とも呼ばれます 。
X
=
σ
Z
+
μ
{\textstyle X=\sigma Z+\mu }
μ
{\displaystyle \mu }
σ
{\displaystyle \sigma }
Z
{\displaystyle Z}
σ
{\displaystyle \sigma }
μ
{\displaystyle \mu }
X
{\displaystyle X}
X
{\displaystyle X}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
X
{\displaystyle X}
Z
=
(
X
−
μ
)
/
σ
{\textstyle Z=(X-\mu )/\sigma }
X
{\displaystyle X}
表記
標準ガウス分布(平均ゼロ、分散1の標準正規分布)の確率密度は、ギリシャ文字の
ϕ
{\displaystyle \phi }
( ファイ ) で表されることが多い。 [13] ギリシャ文字ファイの代替形である
φ
{\displaystyle \varphi }
もよく使われる。
正規分布は、しばしば または と呼ばれます 。 [14]したがって、 確率 変数が平均 と標準偏差 で正規分布している場合 、 次 の よう に 書くことが
でき ます 。
N
(
μ
,
σ
2
)
{\textstyle N(\mu ,\sigma ^{2})}
N
(
μ
,
σ
2
)
{\displaystyle {\mathcal {N}}(\mu ,\sigma ^{2})}
X
{\displaystyle X}
μ
{\displaystyle \mu }
σ
{\displaystyle \sigma }
X
∼
N
(
μ
,
σ
2
)
.
{\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2}).}
代替パラメータ化
一部の著者は、分布の幅を定義するパラメータとして、標準偏差や分散ではなく、精度を用いることを提唱している 。 精度 は 通常 、 分散 の 逆数 として 定義される 。 [15] 分布の式は次のように
なる 。
τ
{\displaystyle \tau }
σ
{\displaystyle \sigma }
σ
2
{\displaystyle \sigma ^{2}}
1
/
σ
2
{\displaystyle 1/\sigma ^{2}}
f
(
x
)
=
τ
2
π
e
−
τ
(
x
−
μ
)
2
/
2
.
{\displaystyle f(x)={\sqrt {\frac {\tau }{2\pi }}}e^{-\tau (x-\mu )^{2}/2}.}
この選択は、 が
σ
{\displaystyle \sigma }
ゼロに非常に近い場合の数値計算で利点があり、 多変量正規分布 を持つ変数の ベイズ推論 など、いくつかのコンテキストで式を簡素化すると主張されています 。
あるいは、標準偏差の逆数を 精度 として定義すると 、正規分布の式は次のようになる。
τ
′
=
1
/
σ
{\textstyle \tau '=1/\sigma }
f
(
x
)
=
τ
′
2
π
e
−
(
τ
′
)
2
(
x
−
μ
)
2
/
2
.
{\displaystyle f(x)={\frac {\tau '}{\sqrt {2\pi }}}e^{-(\tau ')^{2}(x-\mu )^{2}/2}.}
スティグラーによれば、この定式化は、式がはるかに単純で覚えやすく、 分布の
分位数の近似式が単純であるため有利です。
正規分布は、 自然パラメータ および 、自然統計量 x および x 2 を持つ 指数分布族 を形成します。正規分布の双対期待パラメータは、 η 1 = μ および η 2 = μ 2 + σ 2 です。
θ
1
=
μ
σ
2
{\textstyle \textstyle \theta _{1}={\frac {\mu }{\sigma ^{2}}}}
θ
2
=
−
1
2
σ
2
{\textstyle \textstyle \theta _{2}={\frac {-1}{2\sigma ^{2}}}}
累積分布関数
標準正規分布の累積分布関数(CDF)は、通常ギリシャ文字の大文字で表記され 、 積分 で
Φ
{\displaystyle \Phi }
ある
。
Φ
(
x
)
=
1
2
π
∫
−
∞
x
e
−
t
2
/
2
d
t
.
{\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-t^{2}/2}\,dt\,.}
誤差関数
関連する 誤差関数は、平均0、分散1/2の正規分布に従う確率変数が の範囲に入る確率を与えます 。つまり、
erf
(
x
)
{\textstyle \operatorname {erf} (x)}
[
−
x
,
x
]
{\displaystyle [-x,x]}
erf
(
x
)
=
1
π
∫
−
x
x
e
−
t
2
d
t
=
2
π
∫
0
x
e
−
t
2
d
t
.
{\displaystyle \operatorname {erf} (x)={\frac {1}{\sqrt {\pi }}}\int _{-x}^{x}e^{-t^{2}}\,dt={\frac {2}{\sqrt {\pi }}}\int _{0}^{x}e^{-t^{2}}\,dt\,.}
これらの積分は初等関数では表現できず、しばしば 特殊関数 と呼ばれる。しかし、多くの数値近似が知られている。詳細は以下を参照のこと。
2つの機能は密接に関連しており、
Φ
(
x
)
=
1
2
[
1
+
erf
(
x
2
)
]
.
{\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right]\,.}
密度
f
{\displaystyle f}
、平均
μ
{\displaystyle \mu }
、分散 を 持つ一般的な正規分布の場合 、累積分布関数は
σ
2
{\textstyle \sigma ^{2}}
F
(
x
)
=
Φ
(
x
−
μ
σ
)
=
1
2
[
1
+
erf
(
x
−
μ
σ
2
)
]
.
{\displaystyle F(x)=\Phi {\left({\frac {x-\mu }{\sigma }}\right)}={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right]\,.}
標準正規累積分布関数の補関数は、特に工学の教科書では Q関数 と呼ばれることが多い 。 [16] [17]これは、標準正規確率変数 の値が : を超える 確率を与える 。 関数の他の定義(すべて の単純な変換である)も時々使用される。 [18]
Q
(
x
)
=
1
−
Φ
(
x
)
{\textstyle Q(x)=1-\Phi (x)}
X
{\displaystyle X}
x
{\displaystyle x}
P
(
X
>
x
)
{\displaystyle P(X>x)}
Q
{\displaystyle Q}
Φ
{\displaystyle \Phi }
標準正規累積分布関数 のグラフ は 、点 (0,1/2) を中心に2回 回転対称性 を持ちます。つまり、 です。その 不定 積分は次のように表されます。
Φ
{\displaystyle \Phi }
Φ
(
−
x
)
=
1
−
Φ
(
x
)
{\displaystyle \Phi (-x)=1-\Phi (x)}
∫
Φ
(
x
)
d
x
=
x
Φ
(
x
)
+
φ
(
x
)
+
C
.
{\displaystyle \int \Phi (x)\,dx=x\Phi (x)+\varphi (x)+C.}
標準正規分布の累積分布関数は、 部分を積分して 級数に展開することができます。
ここで、 は 二重階乗 を表します 。
Φ
(
x
)
=
1
2
+
1
2
π
⋅
e
−
x
2
/
2
[
x
+
x
3
3
+
x
5
3
⋅
5
+
⋯
+
x
2
n
+
1
(
2
n
+
1
)
!
!
+
⋯
]
.
{\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\cdot e^{-x^{2}/2}\left[x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+\cdots +{\frac {x^{2n+1}}{(2n+1)!!}}+\cdots \right]\,.}
!
!
{\textstyle !!}
大きなx に対する累積分布関数の 漸近 展開は 、部分積分を用いて導くこともできる。詳しくは 「誤差関数 § 漸近展開」 を参照のこと。 [19]
標準正規分布の累積分布関数の近似値は、テイラー級数近似を使用して簡単に求めることができます。
Φ
(
x
)
≈
1
2
+
1
2
π
∑
k
=
0
n
(
−
1
)
k
x
(
2
k
+
1
)
2
k
k
!
(
2
k
+
1
)
.
{\displaystyle \Phi (x)\approx {\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\sum _{k=0}^{n}{\frac {(-1)^{k}x^{(2k+1)}}{2^{k}k!(2k+1)}}\,.}
テイラー級数展開による再帰計算
導関数族の再帰的性質を利用すると 、分布の既知の値の任意の点についての再帰要素を使用した、急速に収束する テイラー級数 展開を簡単に構築できます 。
ここで、
e
a
x
2
{\textstyle e^{ax^{2}}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
Φ
(
x
)
=
∑
n
=
0
∞
Φ
(
n
)
(
x
0
)
n
!
(
x
−
x
0
)
n
,
{\displaystyle \Phi (x)=\sum _{n=0}^{\infty }{\frac {\Phi ^{(n)}(x_{0})}{n!}}(x-x_{0})^{n}\,,}
Φ
(
0
)
(
x
0
)
=
1
2
π
∫
−
∞
x
0
e
−
t
2
/
2
d
t
Φ
(
1
)
(
x
0
)
=
1
2
π
e
−
x
0
2
/
2
Φ
(
n
)
(
x
0
)
=
−
(
x
0
Φ
(
n
−
1
)
(
x
0
)
+
(
n
−
2
)
Φ
(
n
−
2
)
(
x
0
)
)
,
n
≥
2
.
{\displaystyle {\begin{aligned}\Phi ^{(0)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x_{0}}e^{-t^{2}/2}\,dt\\\Phi ^{(1)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}e^{-x_{0}^{2}/2}\\\Phi ^{(n)}(x_{0})&=-\left(x_{0}\Phi ^{(n-1)}(x_{0})+(n-2)\Phi ^{(n-2)}(x_{0})\right),&n\geq 2\,.\end{aligned}}}
逆関数にテイラー級数とニュートン法を用いる
上記のテイラー級数展開の応用として、 ニュートン法を 用いて計算を逆にすることができます。つまり、 累積分布関数 の値が分かっているものの、 を得るのに必要な x が分からない場合 、ニュートン法を用いて x を求め、上記のテイラー級数展開を用いて計算回数を最小限に抑えることができます。ニュートン法はこの問題を解くのに最適です。なぜなら 、 の一次導関数は正規標準分布の積分であり、正規標準分布そのものであり、ニュートン法の解法に容易に利用できるからです。
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
x
)
{\textstyle \Phi (x)}
解くには、既知の近似解 を、 目的の に選択します。 は分布表の値、またはインテリジェントな推定値から任意の計算手段を用いて を計算します。 のこの値 と上記のテイラー級数展開
を使用して、計算を最小限に抑えます。
x
0
{\textstyle x_{0}}
Φ
(
x
)
{\displaystyle \Phi (x)}
x
0
{\textstyle x_{0}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
x
0
{\textstyle x_{0}}
計算された値と目的の ( と呼ぶ) の差が 、10 −5 、10 −15 などの許容できる小さな誤差以下になるまで、以下のプロセスを繰り返します 。
ここで
Φ
(
x
n
)
{\textstyle \Phi (x_{n})}
Φ
{\displaystyle \Phi }
Φ
(
desired
)
{\textstyle \Phi ({\text{desired}})}
x
n
+
1
=
x
n
−
Φ
(
x
n
,
x
0
,
Φ
(
x
0
)
)
−
Φ
(
desired
)
Φ
′
(
x
n
)
,
{\displaystyle x_{n+1}=x_{n}-{\frac {\Phi (x_{n},x_{0},\Phi (x_{0}))-\Phi ({\text{desired}})}{\Phi '(x_{n})}}\,,}
Φ
(
x
,
x
0
,
Φ
(
x
0
)
)
{\textstyle \Phi (x,x_{0},\Phi (x_{0}))}
は、 テイラー級数解から 、および
Φ
(
x
)
{\textstyle \Phi (x)}
x
0
{\textstyle x_{0}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
Φ
′
(
x
n
)
=
1
2
π
e
−
x
n
2
/
2
.
{\displaystyle \Phi '(x_{n})={\frac {1}{\sqrt {2\pi }}}e^{-x_{n}^{2}/2}\,.}
繰り返し計算が、選択された許容できるほど小さい値以下の誤差に収束すると、 x は 目的の値 のa を取得するために必要な値になります 。
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
desired
)
{\displaystyle \Phi ({\text{desired}})}
標準偏差とカバレッジ
正規分布の場合、平均値からの標準偏差が 1 未満の値はセットの 68.27% を占め、標準偏差が 2 未満の値はセットの 95.45% を占め、標準偏差が 3 未満の値はセットの 99.73% を占めます。
正規分布から抽出された値の約68%は 平均値から1標準偏差 σ以内に収まり、約95%は2標準偏差σ以内に収まり、約99.7%は3標準偏差σ以内に収まります。 [9] これは 68-95-99.7(経験)則 、または 3シグマ則 として知られています。
より正確には、正規分布が から までの範囲にある確率は 、 で与えられます。
12 桁の有効数字の場合、 の値は 次のようになります。
μ
−
n
σ
{\textstyle \mu -n\sigma }
μ
+
n
σ
{\textstyle \mu +n\sigma }
F
(
μ
+
n
σ
)
−
F
(
μ
−
n
σ
)
=
Φ
(
n
)
−
Φ
(
−
n
)
=
erf
(
n
2
)
.
{\displaystyle F(\mu +n\sigma )-F(\mu -n\sigma )=\Phi (n)-\Phi (-n)=\operatorname {erf} \left({\frac {n}{\sqrt {2}}}\right).}
n
=
1
,
2
,
…
,
6
{\textstyle n=1,2,\ldots ,6}
n
{\displaystyle n}
が大きい場合 、近似値を使用できます 。
1
−
p
≈
e
−
n
2
/
2
n
π
/
2
{\textstyle 1-p\approx {\frac {e^{-n^{2}/2}}{n{\sqrt {\pi /2}}}}}
分位関数
分布の分位関数は、累積分布関数の逆です。標準正規分布の分位関数はプロビット関数と呼ばれ 、 逆 誤差 関数 で表すことができます 。
平均 、分散
の正規ランダム変数の場合 、分位関数は です。
標準正規分布の 分位数
は、一般的に と表記されます。これらの値は、 仮説検定、 信頼区間 の構築 、 Q–Q プロット で使用されます 。正規ランダム変数 は、確率 で区間 外となり、 確率 で区間外となります 。特に、分位数は 1.96 である ため、正規ランダム変数が区間外となるの は 5% のケースのみです。
Φ
−
1
(
p
)
=
2
erf
−
1
(
2
p
−
1
)
,
p
∈
(
0
,
1
)
.
{\displaystyle \Phi ^{-1}(p)={\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
F
−
1
(
p
)
=
μ
+
σ
Φ
−
1
(
p
)
=
μ
+
σ
2
erf
−
1
(
2
p
−
1
)
,
p
∈
(
0
,
1
)
.
{\displaystyle F^{-1}(p)=\mu +\sigma \Phi ^{-1}(p)=\mu +\sigma {\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).}
Φ
−
1
(
p
)
{\textstyle \Phi ^{-1}(p)}
z
p
{\displaystyle z_{p}}
X
{\displaystyle X}
μ
+
z
p
σ
{\textstyle \mu +z_{p}\sigma }
1
−
p
{\textstyle 1-p}
μ
±
z
p
σ
{\textstyle \mu \pm z_{p}\sigma }
2
(
1
−
p
)
{\displaystyle 2(1-p)}
z
0.975
{\textstyle z_{0.975}}
μ
±
1.96
σ
{\textstyle \mu \pm 1.96\sigma }
次の表は、 が 指定された確率 で範囲内に入る ような分位数を示しています。これらの値は、 標本平均 やその他の 正規分布(または 漸近正規分布)の 統計 的推定値の 許容区間 を決定するのに役立ちます 。 [20] 次の表は 、 上記の定義とは異なります。
z
p
{\textstyle z_{p}}
X
{\displaystyle X}
μ
±
z
p
σ
{\textstyle \mu \pm z_{p}\sigma }
p
{\displaystyle p}
2
erf
−
1
(
p
)
=
Φ
−
1
(
p
+
1
2
)
{\textstyle {\sqrt {2}}\operatorname {erf} ^{-1}(p)=\Phi ^{-1}\left({\frac {p+1}{2}}\right)}
Φ
−
1
(
p
)
{\textstyle \Phi ^{-1}(p)}
p
{\displaystyle p}
が小さい場合 、分位関数は有用な 漸近展開を持つ
[ 要出典 ]
Φ
−
1
(
p
)
=
−
ln
1
p
2
−
ln
ln
1
p
2
−
ln
(
2
π
)
+
o
(
1
)
.
{\textstyle \Phi ^{-1}(p)=-{\sqrt {\ln {\frac {1}{p^{2}}}-\ln \ln {\frac {1}{p^{2}}}-\ln(2\pi )}}+{\mathcal {o}}(1).}
プロパティ
正規分布は、最初の2つ(つまり平均と 分散 以外)を超える キュムラント がゼロとなる唯一の分布です。また、 指定された平均と分散に対して 最大エントロピーを持つ連続分布でもあります。 [22] ギアリーは、平均と分散が有限であると仮定した場合、一連の独立した抽出から計算された平均と分散が互いに独立である唯一の分布は正規分布であることを示しました。 [23] [24]
正規分布は楕円分布 のサブクラスです 。正規分布は平均を中心に 対称 であり、実数直線全体にわたって非ゼロです。そのため、人の 体重 や株価など、本質的に正の値を持つ変数や大きく歪んだ変数には適したモデルではない可能性があります。このような変数は、 対数正規分布 や パレート分布 など の他の分布によってより適切に説明される場合があります 。
正規密度の値は、平均値から数標準偏差以上離れている場合、実質的にゼロになります ( 例えば
x
{\displaystyle x}
、 3 標準偏差の広がりは、分布全体の0.27%を除くすべてをカバーします)。したがって、 外れ 値(平均値から多くの標準偏差離れた値)がかなりの割合で存在すると予想される場合、このモデルは適切ではない可能性があります。また、正規分布する変数に最適な最小二乗法などの 統計的推論 手法は、そのようなデータに適用すると、信頼性が非常に低くなることがよくあります。このような場合は、より 裾の重い 分布を仮定し、適切な ロバストな統計的推論 手法を適用する必要があります。
ガウス分布は、平均や分散が有限であるかどうかに関わらず 、独立かつ同一分布の 分布の和のアトラクターとなる 安定分布 の族に属します。極限ケースであるガウス分布を除き、すべての安定分布は裾が重く、分散は無限大です。ガウス分布は、安定しており、確率密度関数を解析的に表現できる数少ない分布の一つであり、他には コーシー分布 と レヴィ分布が あります。
対称性と微分
密度(平均 と分散) を持つ正規分布には、 次の特性があります。
f
(
x
)
{\textstyle f(x)}
μ
{\displaystyle \mu }
σ
2
>
0
{\textstyle \sigma ^{2}>0}
これは分布の 最頻値 、 中央 値、 平均値を 兼ねる点を 中心に対称である。 [25]
x
=
μ
,
{\textstyle x=\mu ,}
これは 単峰性で ある。1次導 関数 は、 に対しては正、 に対しては負 、 に対しては0である。
x
<
μ
,
{\textstyle x<\mu ,}
x
>
μ
,
{\textstyle x>\mu ,}
x
=
μ
.
{\textstyle x=\mu .}
曲線と軸によって囲まれた領域は 1 (
x
{\displaystyle x}
つまり 1 に等しい) です。
その一次導関数は
f
′
(
x
)
=
−
x
−
μ
σ
2
f
(
x
)
.
{\textstyle f'(x)=-{\frac {x-\mu }{\sigma ^{2}}}f(x).}
その2次導関数は
f
″
(
x
)
=
(
x
−
μ
)
2
−
σ
2
σ
4
f
(
x
)
.
{\textstyle f''(x)={\frac {(x-\mu )^{2}-\sigma ^{2}}{\sigma ^{4}}}f(x).}
その密度には2つの 変曲点( 2
f
{\displaystyle f}
次導関数が ゼロで符号が変わる点)があり、平均値から1標準偏差離れたところ、つまり[25] と [26]にある 。
x
=
μ
−
σ
{\textstyle x=\mu -\sigma }
x
=
μ
+
σ
.
{\textstyle x=\mu +\sigma .}
その密度は 対数凹面で ある。 [25]
その密度は無限に 微分可能 であり、実際 2次の 超滑らかさを持つ 。[26]
さらに、標準正規分布の 密度
φ
{\displaystyle \varphi }
(つまり、および ) には次の特性もあります。
μ
=
0
{\textstyle \mu =0}
σ
=
1
{\textstyle \sigma =1}
その一次導関数は
φ
′
(
x
)
=
−
x
φ
(
x
)
.
{\textstyle \varphi '(x)=-x\varphi (x).}
その2次導関数は
φ
″
(
x
)
=
(
x
2
−
1
)
φ
(
x
)
{\textstyle \varphi ''(x)=(x^{2}-1)\varphi (x)}
より一般的には、その n 次導関数は、 n 次 (確率論的) エルミート多項式 である 。 [27]
φ
(
n
)
(
x
)
=
(
−
1
)
n
He
n
(
x
)
φ
(
x
)
,
{\textstyle \varphi ^{(n)}(x)=(-1)^{n}\operatorname {He} _{n}(x)\varphi (x),}
He
n
(
x
)
{\textstyle \operatorname {He} _{n}(x)}
が既知で 、特定のセットに含まれる正規分布変数
X
{\displaystyle X}
の確率は 、分数が 標準正規分布に従うと仮定して計算できます。
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
Z
=
(
X
−
μ
)
/
σ
{\textstyle Z=(X-\mu )/\sigma }
瞬間
変数 の単純モーメントと絶対 モーメント は、それぞれ と の 期待値です。 の 期待値がゼロの場合、これらのパラメータは 中心モーメント と呼ばれ、そうでない場合は 非中心モーメント と呼ばれます。通常 、整数位 のモーメントのみに着目します 。
X
{\displaystyle X}
X
p
{\textstyle X^{p}}
|
X
|
p
{\textstyle |X|^{p}}
μ
{\displaystyle \mu }
X
{\displaystyle X}
p
{\displaystyle p}
が
X
{\displaystyle X}
正規分布に従う場合、実部が−1より大きい任意の
p
{\displaystyle p}
に対して非中心モーメントが存在し、有限である 。任意の非負整数
p
{\displaystyle p}
に対して、単純中心モーメントは次のようになる。 [28]
ここで は 二重階乗 、つまり から1までのすべての数の積で、同じ偶奇性を持つもの を表す。
E
[
(
X
−
μ
)
p
]
=
{
0
if
p
is odd,
σ
p
(
p
−
1
)
!
!
if
p
is even.
{\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]={\begin{cases}0&{\text{if }}p{\text{ is odd,}}\\\sigma ^{p}(p-1)!!&{\text{if }}p{\text{ is even.}}\end{cases}}}
n
!
!
{\textstyle n!!}
n
{\displaystyle n}
n
.
{\textstyle n.}
中心絶対モーメントはすべての偶数次数に対しては単純モーメントと一致するが、奇数次数に対しては非ゼロとなる。任意の非負整数に対して
p
,
{\textstyle p,}
E
[
|
X
−
μ
|
p
]
=
σ
p
(
p
−
1
)
!
!
⋅
{
2
π
if
p
is odd
1
if
p
is even
=
σ
p
⋅
2
p
/
2
Γ
(
p
+
1
2
)
π
.
{\displaystyle {\begin{aligned}\operatorname {E} \left[|X-\mu |^{p}\right]&=\sigma ^{p}(p-1)!!\cdot {\begin{cases}{\sqrt {\frac {2}{\pi }}}&{\text{if }}p{\text{ is odd}}\\1&{\text{if }}p{\text{ is even}}\end{cases}}\\&=\sigma ^{p}\cdot {\frac {2^{p/2}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.\end{aligned}}}
最後の式は、任意の非整数に対しても有効である。 平均が、平モーメントと絶対モーメントは 、合流型超幾何関数 で表すことができ 、 [29]
p
>
−
1.
{\textstyle p>-1.}
μ
≠
0
,
{\textstyle \mu \neq 0,}
1
F
1
{\textstyle {}_{1}F_{1}}
U
.
{\textstyle U.}
E
[
X
p
]
=
σ
p
⋅
(
−
i
2
)
p
U
(
−
p
2
,
1
2
,
−
μ
2
2
σ
2
)
,
E
[
|
X
|
p
]
=
σ
p
⋅
2
p
/
2
Γ
(
1
+
p
2
)
π
1
F
1
(
−
p
2
,
1
2
,
−
μ
2
2
σ
2
)
.
{\displaystyle {\begin{aligned}\operatorname {E} \left[X^{p}\right]&=\sigma ^{p}\cdot {\left(-i{\sqrt {2}}\right)}^{p}\,U{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)},\\\operatorname {E} \left[|X|^{p}\right]&=\sigma ^{p}\cdot 2^{p/2}{\frac {\Gamma {\left({\frac {1+p}{2}}\right)}}{\sqrt {\pi }}}\,{}_{1}F_{1}{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)}.\end{aligned}}}
これらの式は、
p
{\displaystyle p}
が整数でない 場合でも有効です。 一般化エルミート多項式 も参照してください。
が区間内にある という事象を条件とする
の
X
{\displaystyle X}
期待値は、 と は
それぞれ の密度と累積分布関数です 。これは 逆ミルズ比 として知られています 。上記では、逆ミルズ比のように標準正規密度の代わりに の密度 が使用されていることに注意してください。つまり、ここでは の代わりに が使用されています 。
X
{\displaystyle X}
[
a
,
b
]
{\textstyle [a,b]}
E
[
X
∣
a
<
X
<
b
]
=
μ
−
σ
2
f
(
b
)
−
f
(
a
)
F
(
b
)
−
F
(
a
)
,
{\displaystyle \operatorname {E} \left[X\mid a<X<b\right]=\mu -\sigma ^{2}{\frac {f(b)-f(a)}{F(b)-F(a)}}\,,}
f
{\displaystyle f}
F
{\displaystyle F}
X
{\displaystyle X}
b
=
∞
{\textstyle b=\infty }
f
{\displaystyle f}
X
{\displaystyle X}
σ
2
{\textstyle \sigma ^{2}}
σ
{\displaystyle \sigma }
平均 と 分散 を持つ 正規 密度の フーリエ 変換は [30] である 。
f
{\displaystyle f}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
f
^
(
t
)
=
∫
−
∞
∞
f
(
x
)
e
−
i
t
x
d
x
=
e
−
i
μ
t
e
−
1
2
σ
2
t
2
,
{\displaystyle {\hat {f}}(t)=\int _{-\infty }^{\infty }f(x)e^{-itx}\,dx=e^{-i\mu t}e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}\,,}
ここで 、 は
i
{\displaystyle i}
虚数単位 です 。平均が の場合 、最初の因子は 1 であり、フーリエ変換は、定数因子を除けば、 平均 0、分散 の 周波数領域 上の正規密度です。特に、標準正規分布 はフーリエ変換の
固有関数 です。
μ
=
0
{\textstyle \mu =0}
1
/
σ
2
{\displaystyle 1/\sigma ^{2}}
φ
{\displaystyle \varphi }
確率論において、実数値確率変数
X
{\displaystyle X}
の確率分布のフーリエ変換は、その変数の 特性関数 と密接に関連しており、特性関数は、実変数 (フーリエ変換の 周波数 パラメータ)の関数としての の 期待値として定義されます。この定義は、複素数値変数 に解析的に拡張できます 。 [31] 両者の関係は以下のとおりです。
φ
X
(
t
)
{\textstyle \varphi _{X}(t)}
e
i
t
X
{\textstyle e^{itX}}
t
{\displaystyle t}
t
{\displaystyle t}
φ
X
(
t
)
=
f
^
(
−
t
)
.
{\displaystyle \varphi _{X}(t)={\hat {f}}(-t)\,.}
の実部と虚部は それぞれ次の式で
表される
。
f
^
(
t
)
=
E
[
e
−
i
t
x
]
=
e
−
i
μ
t
e
−
1
2
σ
2
t
2
{\displaystyle {\hat {f}}(t)=\operatorname {E} [e^{-itx}]=e^{-i\mu t}e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}
E
[
cos
(
t
x
)
]
=
cos
(
μ
t
)
e
−
1
2
σ
2
t
2
{\displaystyle \operatorname {E} [\cos(tx)]=\cos(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}
E
[
sin
(
t
x
)
]
=
sin
(
μ
t
)
e
−
1
2
σ
2
t
2
{\displaystyle \operatorname {E} [\sin(tx)]=\sin(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}
同様に、
および
。
E
[
cosh
(
t
x
)
]
=
cosh
(
μ
t
)
e
1
2
σ
2
t
2
{\displaystyle \operatorname {E} [\cosh(tx)]=\cosh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}}
E
[
sinh
(
t
x
)
]
=
sinh
(
μ
t
)
e
1
2
σ
2
t
2
{\displaystyle \operatorname {E} [\sinh(tx)]=\sinh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}}
で評価されるこれらの式は、 ガウス確率変数上のこれらの基本的な三角関数と双曲線関数の期待値を与え、それはまた イッサーリスの定理 の結果として見ることもできます 。
t
=
1
{\displaystyle t=1}
X
∼
N
(
μ
,
σ
2
)
{\displaystyle X\sim N(\mu ,\sigma ^{2})}
モーメント生成関数とキュムラント生成関数
実数確率変数 のモーメント 生成関数は、実パラメータ の関数としての の期待値です。密度 、平均 、分散 の 正規分布の場合 、モーメント生成関数は存在し、次の式に等しくなります
。
X
{\displaystyle X}
e
t
X
{\textstyle e^{tX}}
t
{\displaystyle t}
f
{\displaystyle f}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
M
(
t
)
=
E
[
e
t
X
]
=
f
^
(
i
t
)
=
e
μ
t
e
σ
2
t
2
/
2
.
{\displaystyle M(t)=\operatorname {E} \left[e^{tX}\right]={\hat {f}}(it)=e^{\mu t}e^{\sigma ^{2}t^{2}/2}\,.}
任意の
k
{\displaystyle k}
について、 モーメント母関数 ( の 指数級数として表される) における
t
k
/
k
!
{\displaystyle t^{k}/k!}
の係数 は、正規分布の期待値 です。
t
{\displaystyle t}
E
[
X
k
]
{\displaystyle \operatorname {E} [X^{k}]}
キュムラント 母関数 はモーメント母関数の対数であり、すなわち
g
(
t
)
=
ln
M
(
t
)
=
μ
t
+
1
2
σ
2
t
2
.
{\displaystyle g(t)=\ln M(t)=\mu t+{\tfrac {1}{2}}\sigma ^{2}t^{2}\,.}
この指数級数の係数はキュムラントを定義しますが、これは
t
{\displaystyle t}
の二次多項式であるため、最初の 2 つの キュムラント 、つまり平均
μ
{\displaystyle \mu }
と分散
σ
2
{\displaystyle \sigma ^{2}}
のみがゼロ以外になります。
一部の著者は、代わりに特性関数 E[ e itX ] = e iμt − σ 2 t 2 /2 および ln E[ e itX ] = iμt − を用いることを好む。 1 / 2 σ 2 t 2 。
シュタイン演算子とクラス
スタイン法 では 、スタイン演算子と確率変数のクラスは 、 となるすべての絶対連続関数 のクラス です 。
X
∼
N
(
μ
,
σ
2
)
{\textstyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
A
f
(
x
)
=
σ
2
f
′
(
x
)
−
(
x
−
μ
)
f
(
x
)
{\textstyle {\mathcal {A}}f(x)=\sigma ^{2}f'(x)-(x-\mu )f(x)}
F
{\textstyle {\mathcal {F}}}
f
:
R
→
R
{\displaystyle \textstyle f:\mathbb {R} \to \mathbb {R} }
E
[
|
f
′
(
X
)
|
]
<
∞
{\displaystyle \operatorname {E} [\vert f'(X)\vert ]<\infty }
ゼロ分散限界
がゼロに近づく極限で は 、 確率密度は を除くすべての場所でゼロに近づく。では確率密度は に 近づく が、その積分は1のままである。正規分布を分散がゼロの場合に拡張することは、 ディラックのデルタ測度 を用いて定義できるが、結果として得られる確率変数は 絶対的に連続ではないため、 確率密度関数 を持たない 。このような確率変数の累積分布関数は、 平均 によって変換された ヘヴィサイドのステップ関数 、すなわち
σ
2
{\textstyle \sigma ^{2}}
f
{\textstyle f}
μ
{\textstyle \mu }
∞
{\textstyle \infty }
δ
μ
{\textstyle \delta _{\mu }}
μ
{\textstyle \mu }
F
(
x
)
=
{
0
if
x
<
μ
1
if
x
≥
μ
.
{\displaystyle F(x)={\begin{cases}0&{\text{if }}x<\mu \\1&{\text{if }}x\geq \mu .\end{cases}}}
最大エントロピー
指定された有限平均
μ
{\displaystyle \mu }
と有限分散
σ
2
{\displaystyle \sigma ^{2}}
を持つ実数上のすべての確率分布のうち 、正規分布は 最大エントロピー を持つ分布です 。 これを確認するには、 を 確率密度 を持つ 連続ランダム変数 とします。 のエントロピーは次 のように定義されます [32] [33] [34]
ここで、 の場合は常に 0 になると理解されます 。 この関数は、分布が適切に正規化され、指定された平均と分散を持つという制約の下で、 変分計算を使用して最大化できます。 3 つの ラグランジュ乗数 を持つ関数 が定義されます。
N
(
μ
,
σ
2
)
{\textstyle N(\mu ,\sigma ^{2})}
X
{\displaystyle X}
f
(
x
)
{\displaystyle f(x)}
X
{\displaystyle X}
H
(
X
)
=
−
∫
−
∞
∞
f
(
x
)
ln
f
(
x
)
d
x
,
{\displaystyle H(X)=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx\,,}
f
(
x
)
log
f
(
x
)
{\textstyle f(x)\log f(x)}
f
(
x
)
=
0
{\displaystyle f(x)=0}
L
=
−
∫
−
∞
∞
f
(
x
)
ln
f
(
x
)
d
x
−
λ
0
(
1
−
∫
−
∞
∞
f
(
x
)
d
x
)
−
λ
1
(
μ
−
∫
−
∞
∞
f
(
x
)
x
d
x
)
−
λ
2
(
σ
2
−
∫
−
∞
∞
f
(
x
)
(
x
−
μ
)
2
d
x
)
.
{\displaystyle L=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx-\lambda _{0}\left(1-\int _{-\infty }^{\infty }f(x)\,dx\right)-\lambda _{1}\left(\mu -\int _{-\infty }^{\infty }f(x)x\,dx\right)-\lambda _{2}\left(\sigma ^{2}-\int _{-\infty }^{\infty }f(x)(x-\mu )^{2}\,dx\right)\,.}
エントロピーが最大になると、 についての 小さな変化によって についての 変化が生じ、 これは 0 に等しくなります。
δ
f
(
x
)
{\textstyle \delta f(x)}
f
(
x
)
{\textstyle f(x)}
δ
L
{\textstyle \delta L}
L
{\displaystyle L}
0
=
δ
L
=
∫
−
∞
∞
δ
f
(
x
)
(
−
ln
f
(
x
)
−
1
+
λ
0
+
λ
1
x
+
λ
2
(
x
−
μ
)
2
)
d
x
.
{\displaystyle 0=\delta L=\int _{-\infty }^{\infty }\delta f(x)\left(-\ln f(x)-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,dx\,.}
これは任意の小さな
δ
f
(
x
)
{\displaystyle \delta f(x)}
に対して成り立つため、
δ
f
(
x
)
{\displaystyle \delta f(x)}
を乗じる係数は ゼロでなければならず、
f
(
x
)
{\displaystyle f(x)}
について解くと次の式が得られます。
f
(
x
)
=
exp
(
−
1
+
λ
0
+
λ
1
x
+
λ
2
(
x
−
μ
)
2
)
.
{\displaystyle f(x)=\exp \left(-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,.}
f
(
x
)
{\displaystyle f(x)}
が適切に正規化され、指定された平均と分散を持つ というラグランジュ制約は、
λ
0
{\displaystyle \lambda _{0}}
、
λ
1
{\displaystyle \lambda _{1}}
、および
λ
2
{\displaystyle \lambda _{2}}
が次のように選択される
場合にのみ満たされます。
正規分布のエントロピーは に等しく、
平均 とは無関係です。
f
(
x
)
=
1
2
π
σ
2
e
−
(
x
−
μ
)
2
2
σ
2
.
{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.}
X
∼
N
(
μ
,
σ
2
)
{\textstyle X\sim N(\mu ,\sigma ^{2})}
H
(
X
)
=
1
2
(
1
+
ln
2
σ
2
π
)
,
{\displaystyle H(X)={\tfrac {1}{2}}(1+\ln 2\sigma ^{2}\pi )\,,}
μ
{\displaystyle \mu }
その他の特性
ある確率変数 の特性関数が ゼロの近傍で の形をしており、ここで は 多項式 である場合 、 マルチンキエヴィチの定理 ( ユゼフ・マルチンキエヴィチ にちなんで名付けられている)によれば はせいぜい二次多項式であり、したがって は正規確率変数であると主張している。 [35]この結果から、正規分布は有限個(2個)の非ゼロ キュムラント を持つ唯一の分布であることがわかる 。
ϕ
X
{\textstyle \phi _{X}}
X
{\displaystyle X}
ϕ
X
(
t
)
=
exp
Q
(
t
)
{\textstyle \phi _{X}(t)=\exp Q(t)}
Q
(
t
)
{\textstyle Q(t)}
Q
{\displaystyle Q}
X
{\displaystyle X}
X
{\displaystyle X}
と が
Y
{\displaystyle Y}
共に正規分布 かつ 無相関で ある 場合 、それらは 独立である。
X
{\displaystyle X}
と が
Y
{\displaystyle Y}
共に 正規分布である という要件は 不可欠であり、それがなければこの性質は成り立たない。 [36] [37] [証明] 非正規分布の確率変数の場合、無相関であることは独立性を意味しない。 ある正規分布と別の 正規分布の カルバック ・ライブラー距離は 次のように与えられる: [38] 同じ分布間のヘリンガー距離は次のように表さ
れる 。
X
1
∼
N
(
μ
1
,
σ
1
2
)
{\textstyle X_{1}\sim N(\mu _{1},\sigma _{1}^{2})}
X
2
∼
N
(
μ
2
,
σ
2
2
)
{\textstyle X_{2}\sim N(\mu _{2},\sigma _{2}^{2})}
D
K
L
(
X
1
∥
X
2
)
=
(
μ
1
−
μ
2
)
2
2
σ
2
2
+
1
2
(
σ
1
2
σ
2
2
−
1
−
ln
σ
1
2
σ
2
2
)
{\displaystyle D_{\mathrm {KL} }(X_{1}\parallel X_{2})={\frac {(\mu _{1}-\mu _{2})^{2}}{2\sigma _{2}^{2}}}+{\frac {1}{2}}\left({\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}-1-\ln {\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}\right)}
H
2
(
X
1
,
X
2
)
=
1
−
2
σ
1
σ
2
σ
1
2
+
σ
2
2
exp
(
−
1
4
(
μ
1
−
μ
2
)
2
σ
1
2
+
σ
2
2
)
{\displaystyle H^{2}(X_{1},X_{2})=1-{\sqrt {\frac {2\sigma _{1}\sigma _{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}}\exp \left(-{\frac {1}{4}}{\frac {(\mu _{1}-\mu _{2})^{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}\right)}
に対する正規分布の フィッシャー 情報行列は 対角行列であり 、次の形をとる。
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
I
(
μ
,
σ
2
)
=
(
1
σ
2
0
0
1
2
σ
4
)
{\displaystyle {\mathcal {I}}(\mu ,\sigma ^{2})={\begin{pmatrix}{\frac {1}{\sigma ^{2}}}&0\\0&{\frac {1}{2\sigma ^{4}}}\end{pmatrix}}}
正規分布の平均の共役事前分布は別の正規分布である。 [ 39 ] 具体的には、 がiid で事前分布がの場合、 の推定値の事後分布 は
x
1
,
…
,
x
n
{\textstyle x_{1},\ldots ,x_{n}}
∼
N
(
μ
,
σ
2
)
{\textstyle \sim N(\mu ,\sigma ^{2})}
μ
∼
N
(
μ
0
,
σ
0
2
)
{\textstyle \mu \sim N(\mu _{0},\sigma _{0}^{2})}
μ
{\displaystyle \mu }
μ
∣
x
1
,
…
,
x
n
∼
N
(
σ
2
n
μ
0
+
σ
0
2
x
¯
σ
2
n
+
σ
0
2
,
(
n
σ
2
+
1
σ
0
2
)
−
1
)
{\displaystyle \mu \mid x_{1},\ldots ,x_{n}\sim {\mathcal {N}}\left({\frac {{\frac {\sigma ^{2}}{n}}\mu _{0}+\sigma _{0}^{2}{\bar {x}}}{{\frac {\sigma ^{2}}{n}}+\sigma _{0}^{2}}},\left({\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}\right)^{-1}\right)}
正規分布族は 指数分布族 (EF)を形成するだけでなく、実際には 二次 分散関数 ( NEF-QVF )を持つ 自然指数分布族 (NEF)を形成します。正規分布の多くの特性は、NEF-QVF分布、NEF分布、あるいは一般的にはEF分布の特性に一般化されます。NEF-QVF分布は、ポアソン分布、ガンマ分布、二項分布、負の二項分布を含む6つの分布族で構成されますが、確率論や統計学で研究される一般的な分布族の多くはNEFまたはEFです。 情報幾何学 において 、正規分布族は 一定曲率 を 持つ 統計多様体を形成する 。 同じ族は(±1)接続 と に関して 平坦で ある。 [40]
−
1
{\displaystyle -1}
∇
(
e
)
{\textstyle \nabla ^{(e)}}
∇
(
m
)
{\textstyle \nabla ^{(m)}}
が に従って分布している 場合 、 となる 。独立性の仮定は存在しないことに注意すること。 [41]
X
1
,
…
,
X
n
{\textstyle X_{1},\dots ,X_{n}}
N
(
0
,
σ
2
)
{\textstyle N(0,\sigma ^{2})}
E
[
max
i
X
i
]
≤
σ
2
ln
n
{\textstyle E[\max _{i}X_{i}]\leq \sigma {\sqrt {2\ln n}}}
中心極限定理
離散イベントの数が増えると、関数は正規分布に似たものになり始めます。
n 個の6面サイコロ の目の和の確率密度関数 p ( k ) を比較し、中心極限定理に従って、 na の 増加とともに正規分布に収束する様子を示しています。右下のグラフは、前のグラフの平滑化されたプロファイルを再スケールして重ね合わせ、正規分布(黒の曲線)と比較したものです。
中心極限定理は、ある特定の(かなり一般的な)条件下では、多数の確率変数の和が近似的に正規分布に従うことを述べています。より具体的には、 は 独立かつ同一分布 に従う確率変数で、同じ任意分布、ゼロ平均、分散を持ち 、 はそれらの平均を で尺度化した値です。
すると、 が増加するにつれて、 の確率分布は、平均ゼロ、分散 の正規分布に近づくようになります 。
X
1
,
…
,
X
n
{\textstyle X_{1},\ldots ,X_{n}}
σ
2
{\textstyle \sigma ^{2}}
Z
{\displaystyle Z}
n
{\textstyle {\sqrt {n}}}
Z
=
n
(
1
n
∑
i
=
1
n
X
i
)
{\displaystyle Z={\sqrt {n}}\left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)}
n
{\displaystyle n}
Z
{\displaystyle Z}
σ
2
{\displaystyle \sigma ^{2}}
依存度と分布のモーメントに特定の制約が課される場合、
定理は独立していない変数および/または同一に分布していない変数に拡張できます。
(
X
i
)
{\textstyle (X_{i})}
実際に遭遇する 多くの 検定統計量 、 スコア 、 推定値には、特定の確率変数の和が含まれており、さらに多くの推定値は 影響関数 を用いることで確率変数の和として表すことができます。中心極限定理は、これらの統計パラメータが漸近的に正規分布に従うことを示唆しています。
中心極限定理は、特定の分布が正規分布で近似できることも意味します。たとえば、
二 項分布は 、 平均 と分散が 大きい場合 、 および が 0 または 1 に近すぎない場合、 ほぼ 正規分布 になります。
B
(
n
,
p
)
{\textstyle B(n,p)}
n
p
{\textstyle np}
n
p
(
1
−
p
)
{\textstyle np(1-p)}
n
{\displaystyle n}
p
{\displaystyle p}
パラメータ の ポアソン 分布は、 の値が大きい場合、平均 と分散 を持つ正規分布に近似します 。 [42]
λ
{\displaystyle \lambda }
λ
{\displaystyle \lambda }
λ
{\displaystyle \lambda }
λ
{\displaystyle \lambda }
カイ 二乗分布は、 が大きい場合、 平均 、分散でほぼ正規分布になります 。
χ
2
(
k
)
{\textstyle \chi ^{2}(k)}
k
{\displaystyle k}
2
k
{\textstyle 2k}
k
{\displaystyle k}
が大きい場合、 スチューデント のt分布は 平均0、分散1でほぼ正規分布になります。
t
(
ν
)
{\textstyle t(\nu )}
ν
{\displaystyle \nu }
これらの近似値が十分に正確であるかどうかは、それが必要とされる目的と正規分布への収束率に依存します。通常、このような近似値は分布の裾野では精度が低くなります。
中心極限定理における近似誤差の一般的な上限は ベリー・エッシーンの定理 によって与えられ、近似の改良は エッジワース展開 によって与えられます。
この定理は、多数の均一なノイズ源の和をガウスノイズ としてモデル化することを正当化するためにも用いられる。AWGN を 参照 。
通常の変数の演算と機能
a: μ = −2 、 σ = 3 である 正規変数 x の関数 cos x 2 の確率密度。b : 2 つの正規変数 x と y の関数 x y の確率密度。ここで、 μ x = 1 、 μ y = 2 、 σ x = 0.1 、 σ y = 0.2 、 ρ xy = 0.8 。c : 2 つの相関した正規変数 x と y の 2 つの関数の結合確率密度のヒート マップ。 ここで、 μ x = −2 、 μ x = 5 、 σ 2 倍 = 10 , σ 2 歳 = 20 、 ρ xy = 0.495 。d : 4つの iid 標準正規分布変数の関数 | x 1 | + ... + | x 4 | の確率密度。これらはレイトレーシング法によって計算される。 [43]
1つ以上の独立または相関のある正規変数からなる任意の関数の確率 密度 、 累積分布 、および 逆累積分布は、 レイトレーシング法 [43] (Matlabコード)を用いて計算できます。以下のセクションでは、いくつかの特殊なケースについて見ていきます。
単一の通常変数に対する演算
が平均
X
{\displaystyle X}
μ
{\displaystyle \mu }
、分散 で正規分布している 場合 、
σ
2
{\textstyle \sigma ^{2}}
a
X
+
b
{\textstyle aX+b}
は、任意の実数
a
{\displaystyle a}
と
b
{\displaystyle b}
に対して、平均と分散 の 正規分布に従います 。つまり、正規分布族は 線形変換 に対して閉じています。
a
μ
+
b
{\textstyle a\mu +b}
a
2
σ
2
{\textstyle a^{2}\sigma ^{2}}
X
{\displaystyle X}
の指数は 対数正規 分布します : 。
e
X
∼
ln
(
N
(
μ
,
σ
2
)
)
{\textstyle e^{X}\sim \ln(N(\mu ,\sigma ^{2}))}
の 標準 シグモイド は ロジット正規分布に 従います 。
X
{\displaystyle X}
σ
(
X
)
∼
P
(
N
(
μ
,
σ
2
)
)
{\textstyle \sigma (X)\sim P({\mathcal {N}}(\mu ,\,\sigma ^{2}))}
X
{\displaystyle X}
の絶対値は 折り畳み正規分布 に従います : 。これは 半正規分布 と呼ばれます 。
|
X
|
∼
N
f
(
μ
,
σ
2
)
{\textstyle {\left|X\right|\sim N_{f}(\mu ,\sigma ^{2})}}
μ
=
0
{\textstyle \mu =0}
正規化された残差の絶対値 は、 自由度 1 の カイ 分布 に従います 。
|
X
−
μ
|
/
σ
{\textstyle |X-\mu |/\sigma }
|
X
−
μ
|
/
σ
∼
χ
1
{\textstyle |X-\mu |/\sigma \sim \chi _{1}}
の平方は、 自由度が1の 非心カイ2乗分布 に従います 。 の場合 、分布は単に カイ2乗 と呼ばれます。
X
/
σ
{\textstyle X/\sigma }
X
2
/
σ
2
∼
χ
1
2
(
μ
2
/
σ
2
)
{\textstyle X^{2}/\sigma ^{2}\sim \chi _{1}^{2}(\mu ^{2}/\sigma ^{2})}
μ
=
0
{\textstyle \mu =0}
正規変数の対数 尤度は 、単にその
x
{\displaystyle x}
確率密度関数 の対数です 。 これは標準正規変数のスケーリングおよびシフトされた平方であるため、スケーリングおよびシフトされた カイ二乗 変数として分布します。
ln
p
(
x
)
=
−
1
2
(
x
−
μ
σ
)
2
−
ln
(
σ
2
π
)
.
{\displaystyle \ln p(x)=-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}-\ln \left(\sigma {\sqrt {2\pi }}\right).}
変数の分布が 区間に制限されている場合 、 これを
X
{\displaystyle X}
切断正規分布 と呼びます 。
[
a
,
b
]
{\textstyle [a,b]}
(
X
−
μ
)
−
2
{\textstyle (X-\mu )^{-2}}
位置 0 、スケール の レヴィ分布 に従います 。
σ
−
2
{\textstyle \sigma ^{-2}}
2つの独立した正規変数に対する演算
と が、 平均 、 分散 、を持つ 2 つの 独立した 正規確率変数である場合 、それらの合計 も正規分布し、 [証明] 平均 、分散になります 。
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
μ
1
{\textstyle \mu _{1}}
μ
2
{\textstyle \mu _{2}}
σ
1
2
{\textstyle \sigma _{1}^{2}}
σ
2
2
{\textstyle \sigma _{2}^{2}}
X
1
+
X
2
{\textstyle X_{1}+X_{2}}
μ
1
+
μ
2
{\textstyle \mu _{1}+\mu _{2}}
σ
1
2
+
σ
2
2
{\textstyle \sigma _{1}^{2}+\sigma _{2}^{2}}
特に、
X
{\displaystyle X}
と
Y
{\displaystyle Y}
が平均0、分散 の独立した正規分布に従う場合 、 と も独立で正規分布し、平均0、分散 となる。これは 分極恒等式 の特別な場合である 。 [44]
σ
2
{\textstyle \sigma ^{2}}
X
+
Y
{\textstyle X+Y}
X
−
Y
{\textstyle X-Y}
2
σ
2
{\textstyle 2\sigma ^{2}}
、が 平均 、 分散 の 2つの独立した正規偏差であり 、 、 が任意の実数 で ある場合 、変数も 平均 、 分散 の 正規分布に従います 。 したがって、正規分布は 安定 (指数 )です。
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
a
{\displaystyle a}
b
{\displaystyle b}
X
3
=
a
X
1
+
b
X
2
−
(
a
+
b
)
μ
a
2
+
b
2
+
μ
{\displaystyle X_{3}={\frac {aX_{1}+bX_{2}-(a+b)\mu }{\sqrt {a^{2}+b^{2}}}}+\mu }
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
α
=
2
{\textstyle \alpha =2}
、 が正規分布である 場合、それらの正規化された 幾何平均 は、および を満たす 正規分布になります 。
X
k
∼
N
(
m
k
,
σ
k
2
)
{\textstyle X_{k}\sim {\mathcal {N}}(m_{k},\sigma _{k}^{2})}
k
∈
{
0
,
1
}
{\textstyle k\in \{0,1\}}
1
∫
R
n
X
0
α
(
x
)
X
1
1
−
α
(
x
)
d
x
X
0
α
X
1
1
−
α
{\textstyle {\frac {1}{\int _{\mathbb {R} ^{n}}X_{0}^{\alpha }(x)X_{1}^{1-\alpha }(x)\,{\text{d}}x}}X_{0}^{\alpha }X_{1}^{1-\alpha }}
N
(
m
α
,
σ
α
2
)
{\textstyle {\mathcal {N}}(m_{\alpha },\sigma _{\alpha }^{2})}
m
α
=
α
m
0
σ
1
2
+
(
1
−
α
)
m
1
σ
0
2
α
σ
1
2
+
(
1
−
α
)
σ
0
2
{\textstyle m_{\alpha }={\frac {\alpha m_{0}\sigma _{1}^{2}+(1-\alpha )m_{1}\sigma _{0}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}
σ
α
2
=
σ
0
2
σ
1
2
α
σ
1
2
+
(
1
−
α
)
σ
0
2
{\textstyle \sigma _{\alpha }^{2}={\frac {\sigma _{0}^{2}\sigma _{1}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}
2つの独立した標準正規変数に対する演算
とが 平均0、分散1の2つの独立した標準正規確率変数である
場合、
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
それらの和と差は、平均 0、分散 2 で正規分布します 。
X
1
±
X
2
∼
N
(
0
,
2
)
{\textstyle X_{1}\pm X_{2}\sim {\mathcal {N}}(0,2)}
これらの積は、 密度関数 の 積分布 [45] に従う。 ここで、は 第二種修正ベッセル関数 である 。この分布は零点対称で、 で非有界で あり、 特性関数 を持つ。
Z
=
X
1
X
2
{\textstyle Z=X_{1}X_{2}}
f
Z
(
z
)
=
π
−
1
K
0
(
|
z
|
)
{\textstyle f_{Z}(z)=\pi ^{-1}K_{0}(|z|)}
K
0
{\textstyle K_{0}}
z
=
0
{\textstyle z=0}
ϕ
Z
(
t
)
=
(
1
+
t
2
)
−
1
/
2
{\textstyle \phi _{Z}(t)=(1+t^{2})^{-1/2}}
それらの比率は標準の コーシー 分布 に従います。
X
1
/
X
2
∼
Cauchy
(
0
,
1
)
{\textstyle X_{1}/X_{2}\sim \operatorname {Cauchy} (0,1)}
それらのユークリッドノルムは レイリー分布 に従います 。
X
1
2
+
X
2
2
{\textstyle {\sqrt {X_{1}^{2}+X_{2}^{2}}}}
複数の独立した正規変数に対する演算
独立した正規偏差の任意 の線形結合 は正規偏差です。
が独立した標準正規分布に従う場合 、それらの平方和は 自由度 が の カイ二乗分布に従う。
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
n
{\displaystyle n}
X
1
2
+
⋯
+
X
n
2
∼
χ
n
2
.
{\displaystyle X_{1}^{2}+\cdots +X_{n}^{2}\sim \chi _{n}^{2}.}
が平均 と分散 を 持つ独立した正規分布の確率変数である 場合 、それらの 標本平均 は標本 標準偏差 から独立しており、 [46]これは Basuの定理 または Cochranの定理 を用いて証明できます 。 [47] これら2つの量の比は、自由度 を持つ Studentのt分布 に従います。
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
n
−
1
{\textstyle n-1}
t
=
X
¯
−
μ
S
/
n
=
1
n
(
X
1
+
⋯
+
X
n
)
−
μ
1
n
(
n
−
1
)
[
(
X
1
−
X
¯
)
2
+
⋯
+
(
X
n
−
X
¯
)
2
]
∼
t
n
−
1
.
{\displaystyle t={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}={\frac {{\frac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\frac {1}{n(n-1)}}\left[(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}\right]}}}\sim t_{n-1}.}
が独立した標準正規確率変数である場合 、 それらの正規化された平方和の比は 自由度が ( n , m )の F分布 に従う: [48]
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
Y
1
,
Y
2
,
…
,
Y
m
{\textstyle Y_{1},Y_{2},\ldots ,Y_{m}}
F
=
(
X
1
2
+
X
2
2
+
⋯
+
X
n
2
)
/
n
(
Y
1
2
+
Y
2
2
+
⋯
+
Y
m
2
)
/
m
∼
F
n
,
m
.
{\displaystyle F={\frac {\left(X_{1}^{2}+X_{2}^{2}+\cdots +X_{n}^{2}\right)/n}{\left(Y_{1}^{2}+Y_{2}^{2}+\cdots +Y_{m}^{2}\right)/m}}\sim F_{n,m}.}
正規ベクトルの二次形式、つまり複数の独立したまたは相関した正規変数の二次関数は 、 一般 化 されたカイ二乗 変数です。
q
=
∑
x
i
2
+
∑
x
j
+
c
{\textstyle q=\sum x_{i}^{2}+\sum x_{j}+c}
密度関数の演算
分割 正規分布は 、異なる正規分布の密度関数の尺度区間を結合し、密度を再尺度化して1つに統合するという形で最も直接的に定義されます。 切断正規分布は、 単一の密度関数の区間を再尺度化することで得られます。
無限割り算とクラメールの定理
任意の正の整数 nに対して、平均
μ
{\displaystyle \mu }
と分散 を 持つ任意の正規分布は 、それぞれ平均 と分散 を持つ n 個の独立した正規偏差の和の分布である。この性質は 無限割り切れる可能性 と呼ばれる 。 [49]
σ
2
{\textstyle \sigma ^{2}}
μ
n
{\textstyle {\frac {\mu }{n}}}
σ
2
n
{\textstyle {\frac {\sigma ^{2}}{n}}}
逆に、 とが 独立した確率変数であり、それらの和が 正規分布に従う場合、との両方 が 正規偏差になる必要がある。 [50]
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
X
1
+
X
2
{\textstyle X_{1}+X_{2}}
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
この結果は クラメールの分解定理 として知られており、 2つの分布の 畳み込み が正規分布となるのは、両方が正規分布である場合に限る、ということを意味する。クラメールの定理は、独立した非ガウス分布変数の線形結合は、正規分布に厳密に近づくことはあっても、決して正規分布にはならないことを示唆している。 [35]
カック・バーンスタイン定理
カック ・ベルンシュタインの定理は、 X と Y が独立で、 かつXとY も独立であれば、 X と Yは 必ず正規分布に従うことを 述べている。 [51] [52]
X
{\textstyle X}
Y
{\displaystyle Y}
X
+
Y
{\textstyle X+Y}
X
−
Y
{\textstyle X-Y}
より一般的には、 が独立した確率変数である場合、2つの異なる線形結合と が 独立であることは、すべてが 正規分布であり 、 がの分散を表す場合のみである 。 [51]
X
1
,
…
,
X
n
{\textstyle X_{1},\ldots ,X_{n}}
∑
a
k
X
k
{\textstyle \sum {a_{k}X_{k}}}
∑
b
k
X
k
{\textstyle \sum {b_{k}X_{k}}}
X
k
{\textstyle X_{k}}
∑
a
k
b
k
σ
k
2
=
0
{\textstyle \sum {a_{k}b_{k}\sigma _{k}^{2}=0}}
σ
k
2
{\textstyle \sigma _{k}^{2}}
X
k
{\textstyle X_{k}}
拡張機能
確率論において最も重要な分布の一つである正規分布の概念は、単変数(つまり1次元)の場合(ケース1)の標準的な枠組みをはるかに超えて拡張されています。これらの拡張はすべて 正規分布 や ガウス 分布とも呼ばれるため、名称にはある程度の曖昧さが存在します。
多 変量正規分布は、 k 次元 ユークリッド 空間 におけるガウスの法則を記述する 。ベクトル X∈Rk が 多変量正規分布に従うとは、その成分 Σ の任意の線形結合が kj = 1 a j X j は(一変量)正規分布に従う。X の分散は k × k 対称 正定値行列 V である 。多変量正規分布は 楕円分布の特殊なケースである。したがって、 k = 2 の場合の等密度軌跡は 楕円 であり 、任意のk の場合の 等密度軌跡は楕円体 である 。
修正ガウス分布は、 すべての負の要素が 0 にリセットされた、正規分布の修正バージョンです。
複素正規分布は 複素正規ベクトルを扱います。複素ベクトル X ∈ C k は 、その実数成分と虚数成分の両方が 2 k 次元多変量正規分布に従う場合、正規分布であると言われます 。X の分散共分散構造は、 分散 行列 Γ と 関係 行列 C という2つの行列で記述されます 。
行列正規分布は、 正規分布する行列の場合を説明します。
ガウス過程は 正規分布する 確率過程 である。これらは無限次元 ヒルベルト空間 Hの元とみなすことができ、 k = ∞ の場合の多変数正規ベクトルの類似物となる 。任意の定数 a ∈ H に対してスカラー積 ( a , h )が(一変量)正規分布に従うとき、 ランダム元 h ∈ H は正規であるとされる。このようなガウスランダム元の分散構造は、線形 共分散演算子 K : H → H で記述できる 。いくつかのガウス過程は、独自の名前が付けられるほど広く知られるようになった。
ガウス q 分布は 、正規分布の q 類似物 を表す抽象的な数学的構成です。
q- ガウス分布は、 ツァリスエントロピーを 最大化するという意味でガウス分布の類似物であり、 ツァリス分布 の一種です。この分布は、上記の ガウスq分布 とは異なります 。
カニアダキス κ- ガウス分布は 、 カニアダキス統計 から生じるガウス分布の一般化であり 、 カニアダキス分布 の 1 つです。
確率変数 Xは、 μ が平均、 σ が2つの部分
から なる分布に従うとき、2つの部分からなる正規分布に従う。
f
X
(
x
)
=
{
N
(
μ
,
σ
1
2
)
,
if
x
≤
μ
N
(
μ
,
σ
2
2
)
,
if
x
≥
μ
{\displaystyle f_{X}(x)={\begin{cases}N(\mu ,\sigma _{1}^{2}),&{\text{ if }}x\leq \mu \\N(\mu ,\sigma _{2}^{2}),&{\text{ if }}x\geq \mu \end{cases}}}
2 1 および σ 2 2 それぞれ平均の左側と右側の分布の分散です。
この分布の 平均 E( X ) 、分散 V( X ) 、および3次中心モーメント T( X )は決定されている [53]
E
(
X
)
=
μ
+
2
π
(
σ
2
−
σ
1
)
,
V
(
X
)
=
(
1
−
2
π
)
(
σ
2
−
σ
1
)
2
+
σ
1
σ
2
,
T
(
X
)
=
2
π
(
σ
2
−
σ
1
)
[
(
4
π
−
1
)
(
σ
2
−
σ
1
)
2
+
σ
1
σ
2
]
.
{\displaystyle {\begin{aligned}\operatorname {E} (X)&=\mu +{\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1}),\\\operatorname {V} (X)&=\left(1-{\frac {2}{\pi }}\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2},\\\operatorname {T} (X)&={\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})\left[\left({\frac {4}{\pi }}-1\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}\right].\end{aligned}}}
ガウス法則の主な実用的用途の一つは、実際に遭遇する様々な確率変数の経験分布をモデル化することです。このような場合、より豊富な分布族、つまり2つ以上のパラメータを持つ分布族を拡張することで、経験分布をより正確に近似できるようになることが考えられます。このような拡張の例としては、以下のものがあります。
ピアソン分布 — 正規法則を拡張して、異なる歪度と尖度の値を含む 4 つのパラメータを持つ確率分布の族。
一般 化正規分布は 指数分布とも呼ばれ、漸近挙動がより厚くなったり薄くなったりする分布の裾を許容します。
統計的推論
パラメータの推定
正規分布のパラメータが分からず、 推定し たい場合がよくあります。つまり、 正規分布の母集団から標本を抽出し、パラメータ と のおおよその値を知りたいのです 。この問題に対する標準的なアプローチは 最尤法 であり、 対数尤度関数 を最大化する必要があります。
(
x
1
,
…
,
x
n
)
{\textstyle (x_{1},\ldots ,x_{n})}
N
(
μ
,
σ
2
)
{\textstyle {\mathcal {N}}(\mu ,\sigma ^{2})}
μ
{\displaystyle \mu }
σ
2
{\textstyle \sigma ^{2}}
ln
L
(
μ
,
σ
2
)
=
∑
i
=
1
n
ln
f
(
x
i
∣
μ
,
σ
2
)
=
−
n
2
ln
(
2
π
)
−
n
2
ln
σ
2
−
1
2
σ
2
∑
i
=
1
n
(
x
i
−
μ
)
2
.
{\displaystyle \ln {\mathcal {L}}(\mu ,\sigma ^{2})=\sum _{i=1}^{n}\ln f(x_{i}\mid \mu ,\sigma ^{2})=-{\frac {n}{2}}\ln(2\pi )-{\frac {n}{2}}\ln \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}
μ
{\displaystyle \mu }
と について導関数をとり 、 結果として得られる一階条件系を解くと、 最大尤度推定値 が得られます。
σ
2
{\textstyle \sigma ^{2}}
μ
^
=
x
¯
≡
1
n
∑
i
=
1
n
x
i
,
σ
^
2
=
1
n
∑
i
=
1
n
(
x
i
−
x
¯
)
2
.
{\displaystyle {\hat {\mu }}={\overline {x}}\equiv {\frac {1}{n}}\sum _{i=1}^{n}x_{i},\qquad {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}
次に 次のようになります。
ln
L
(
μ
^
,
σ
^
2
)
{\textstyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})}
ln
L
(
μ
^
,
σ
^
2
)
=
(
−
n
/
2
)
[
ln
(
2
π
σ
^
2
)
+
1
]
{\displaystyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})=(-n/2)[\ln(2\pi {\hat {\sigma }}^{2})+1]}
標本平均
推定量はすべての観測値の算術平均であるため、 標本 平均と呼ばれます 。この統計量は に対して 完全 かつ 十分で ある ため、 レーマン・シェッフェの定理 により、 一様最小分散不偏 (UMVU) 推定量となります 。 [54] 有限標本では正規分布します。
つまり
、この推定量の分散は、 逆 フィッシャー情報行列の μμ 要素に等しくなります。これは、推定量が 有限標本効率的で あることを意味します。実用的な重要性は、 の 標準誤差 が に比例することです。つまり、標準誤差を 10 分の 1 に減らしたい場合は、標本内の点の数を 100 倍に増やす必要があります。この事実は、世論調査の標本サイズや モンテカルロシミュレーション の試行回数を決定する際に広く使用されています 。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
x
¯
{\displaystyle \textstyle {\overline {x}}}
μ
{\displaystyle \mu }
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
^
∼
N
(
μ
,
σ
2
/
n
)
.
{\displaystyle {\hat {\mu }}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n).}
I
−
1
{\displaystyle \textstyle {\mathcal {I}}^{-1}}
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
1
/
n
{\displaystyle \textstyle 1/{\sqrt {n}}}
漸近理論 の観点から見ると 、は に 整合して おり 、 つまり のとき確率的に に 収束する 。推定値は漸近的に正規 でもある。 これ は 有限サンプルにおいて正規であることの単純な系である。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
{\displaystyle \mu }
n
→
∞
{\textstyle n\rightarrow \infty }
n
(
μ
^
−
μ
)
→
d
N
(
0
,
σ
2
)
.
{\displaystyle {\sqrt {n}}({\hat {\mu }}-\mu )\,\xrightarrow {d} \,{\mathcal {N}}(0,\sigma ^{2}).}
標本分散
推定値は 標本分散 と呼ばれます 。これは標本 ( ) の分散だからです 。実際には、 の代わりに別の推定値がよく使用されます 。この別の推定値は と表記され 、 標本分散 とも呼ばれますが、これは用語の曖昧さを表しています。その平方根 は 標本標準偏差 と呼ばれます 。推定値は、分母に n ではなく ( n − 1) を持つ点で と異なります (いわゆる ベッセル補正 )。
と の差は 、 n が大きい場合は無視できるほど小さくなります 。 ただし、有限標本では、 を使用する理由は、 が基礎パラメータ の 不偏推定値 であるの に対し、 は偏っているからです。また、レーマン・シェッフェの定理により、推定値 は一様最小分散不偏 ( UMVU ) であり、 [54] すべての不偏推定値の中で「最良」の推定値となります。しかし、 平均二乗誤差 (MSE)基準 に関しては、偏りのある推定値の方 が よりも優れている ことが示されます。有限サンプルでは 、 とはどちらも 自由度
( n − 1)の 尺度カイ二乗分布 に 従います。
これらの式の最初の式は、 の分散 が に等しく、 逆フィッシャー情報行列 の σσ 要素 ( ) よりもわずかに大きいことを示しています 。したがって、 は の効率的な推定値ではなく 、さらに は UMVU であるため、 の有限サンプルの効率的な推定値は存在しないと結論付けることができます 。
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
(
x
1
,
…
,
x
n
)
{\textstyle (x_{1},\ldots ,x_{n})}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
s
{\displaystyle s}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
=
n
n
−
1
σ
^
2
=
1
n
−
1
∑
i
=
1
n
(
x
i
−
x
¯
)
2
.
{\displaystyle s^{2}={\frac {n}{n-1}}{\hat {\sigma }}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
∼
σ
2
n
−
1
⋅
χ
n
−
1
2
,
σ
^
2
∼
σ
2
n
⋅
χ
n
−
1
2
.
{\displaystyle s^{2}\sim {\frac {\sigma ^{2}}{n-1}}\cdot \chi _{n-1}^{2},\qquad {\hat {\sigma }}^{2}\sim {\frac {\sigma ^{2}}{n}}\cdot \chi _{n-1}^{2}.}
s
2
{\textstyle s^{2}}
2
σ
4
/
(
n
−
1
)
{\textstyle 2\sigma ^{4}/(n-1)}
I
−
1
{\displaystyle \textstyle {\mathcal {I}}^{-1}}
2
σ
4
/
n
{\textstyle 2\sigma ^{4}/n}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
漸近理論を適用すると、推定量 と推定量はどちらも 矛盾がなく、つまり、 サンプルサイズ のときに確率が に収束します 。また、2つの推定量はどちらも漸近的に正規分布に従います。
特に、どちらの推定量も に対して漸近的に効率的です 。
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
σ
2
{\textstyle \sigma ^{2}}
n
→
∞
{\textstyle n\rightarrow \infty }
n
(
σ
^
2
−
σ
2
)
≃
n
(
s
2
−
σ
2
)
→
d
N
(
0
,
2
σ
4
)
.
{\displaystyle {\sqrt {n}}({\hat {\sigma }}^{2}-\sigma ^{2})\simeq {\sqrt {n}}(s^{2}-\sigma ^{2})\,\xrightarrow {d} \,{\mathcal {N}}(0,2\sigma ^{4}).}
σ
2
{\textstyle \sigma ^{2}}
信頼区間
コクランの定理 によれば 、正規分布では標本平均 と標本分散 s 2は 独立し ており、これはそれらの 共分布 を考慮しても利点がないことを意味する 。また逆の定理もあり、標本において標本平均と標本分散が独立している場合、その標本は正規分布から来ているに違いない。 と s の間の独立性は、いわゆる t統計量 を構成するために用いることができる。
この量 tは自由度 ( n − 1) の スチューデントt分布 を持ち 、 補助統計量(パラメータの値に依存しない)である。この t 統計量の分布を反転することで、 μ の 信頼区間 を構成することができる 。 [55] 同様に、 統計量 s 2の χ 2分布を反転することで、 σ 2 の信頼区間を得ることができる 。 [56]
ここで t k,p および χ
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
t
=
μ
^
−
μ
s
/
n
=
x
¯
−
μ
1
n
(
n
−
1
)
∑
(
x
i
−
x
¯
)
2
∼
t
n
−
1
{\displaystyle t={\frac {{\hat {\mu }}-\mu }{s/{\sqrt {n}}}}={\frac {{\overline {x}}-\mu }{\sqrt {{\frac {1}{n(n-1)}}\sum (x_{i}-{\overline {x}})^{2}}}}\sim t_{n-1}}
μ
∈
[
μ
^
−
t
n
−
1
,
1
−
α
/
2
s
n
,
μ
^
+
t
n
−
1
,
1
−
α
/
2
s
n
]
{\displaystyle \mu \in \left[{\hat {\mu }}-t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}},\,{\hat {\mu }}+t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}}\right]}
σ
2
∈
[
n
−
1
χ
n
−
1
,
1
−
α
/
2
2
s
2
,
n
−
1
χ
n
−
1
,
α
/
2
2
s
2
]
{\displaystyle \sigma ^{2}\in \left[{\frac {n-1}{\chi _{n-1,1-\alpha /2}^{2}}}s^{2},\,{\frac {n-1}{\chi _{n-1,\alpha /2}^{2}}}s^{2}\right]}
2 k、p はそれぞれt 分布と χ 2 分布の p 番目の 分位数 です 。これらの信頼区間の信頼 水準 は1 − α です。つまり、真の値 μ と σ 2は、確率(または 有意水準 ) α でこれらの区間から外れます 。実際には、 α = 5%とするのが一般的で、その結果は95%信頼区間となります。σ の 信頼区間は、 σ 2 の区間境界の平方根を取ることで求められます 。
および s 2 の漸近分布から近似式を導くことができます 。
近似式は nの大きな値に対して有効となり、標準正規分布の四分位数 z α /2は n に依存しない ため、手計算に便利です 。特に、最も一般的な α = 5%の値は、 | z 0.025 | = 1.96 となります 。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
∈
[
μ
^
−
|
z
α
/
2
|
n
s
,
μ
^
+
|
z
α
/
2
|
n
s
]
{\displaystyle \mu \in \left[{\hat {\mu }}-{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s,\,{\hat {\mu }}+{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s\right]}
σ
2
∈
[
s
2
−
2
|
z
α
/
2
|
n
s
2
,
s
2
+
2
|
z
α
/
2
|
n
s
2
]
{\displaystyle \sigma ^{2}\in \left[s^{2}-{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2},\,s^{2}+{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2}\right]}
正規性検定
正規性検定は、与えられたデータセット{ x 1 , ..., x n }が正規分布に従う 尤度を評価する。典型的には、 帰無仮説 H 0は観測値が不特定の平均 μ と分散 σ 2 で正規分布するというもの 、対立仮説 H a は 分布が任意であるというものである。この問題に対して、多くの検定法(40種類以上)が考案されている。その中でも特に著名なものを以下に概説する。
診断プロット は直感的に魅力的ですが、帰無仮説を受け入れるか拒否するかを非公式な人間の判断に依存するため、同時に主観的です。
Q-Qプロット( 正規確率プロット または ランクイット プロットとも呼ばれる )は、データセットからソートされた値を、標準正規分布の対応する分位点の期待値に対してプロットしたものです。つまり、(Φ −1 ( p k ), x ( k ) ) という形式の点のプロットです。プロット点 p k はp k = ( k − α )/( n + 1 − 2 α ) に等しく、 α は調整定数で、0から1の間の任意の値をとります。帰無仮説が真である場合、プロットされた点はほぼ直線上に並ぶはずです。
P-Pプロット – Q-Qプロットに似ていますが、あまり使用されません。この手法は、点(Φ( z ( k ) ), p k )をプロットすることで構成されます。ここで 、正規分布に従うデータの場合、このプロットは(0, 0)と(1, 1)の間の直線上に位置します。
z
(
k
)
=
(
x
(
k
)
−
μ
^
)
/
σ
^
{\textstyle \textstyle z_{(k)}=(x_{(k)}-{\hat {\mu }})/{\hat {\sigma }}}
適合度検定 :
モーメントベースのテスト :
経験分布関数に基づくテスト :
正規分布のベイズ分析
正規分布データのベイズ分析は、考えられるさまざまな可能性によって複雑になります。
平均または分散のいずれか、あるいはどちらも固定量と見なすことができます。
分散が不明な場合、分析は分散を用いて直接行うか、分散の逆数である 精度 を用いて行うことができます。式を精度で表す理由は、ほとんどの場合、分析が簡略化されるためです。
単変量と 多変量の 両方のケースを考慮する必要があります。
未知の変数には 共役事前分布 または 不適切な 事前分布の いずれかが適用される場合があります。
ベイズ線形回帰 では、基本モデルにおいてデータが正規分布すると仮定し、 回帰係数 に正規事前分布を適用するという追加のケース群が存在します。結果として得られる分析は、 独立かつ同一分布する データの基本ケースと同様です 。
非線形回帰の場合の式は 共役先行 論文にまとめられています。
2つの二次方程式の和
次の補助式は、 事後 更新方程式を簡素化するのに役立ちます。事後更新方程式は、そうでなければかなり面倒になります。
a
(
x
−
y
)
2
+
b
(
x
−
z
)
2
=
(
a
+
b
)
(
x
−
a
y
+
b
z
a
+
b
)
2
+
a
b
a
+
b
(
y
−
z
)
2
{\displaystyle a(x-y)^{2}+b(x-z)^{2}=(a+b)\left(x-{\frac {ay+bz}{a+b}}\right)^{2}+{\frac {ab}{a+b}}(y-z)^{2}}
この式は、 x の2つの二次方程式の和を 、平方展開、 x の項のグループ化、 平方完成 によって書き直したものです。いくつかの項に付随する複素定数因子については、以下の点に注意してください。
係数は y と z の 加重平均 の形式をとります 。
a
y
+
b
z
a
+
b
{\textstyle {\frac {ay+bz}{a+b}}}
a
b
a
+
b
=
1
1
a
+
1
b
=
(
a
−
1
+
b
−
1
)
−
1
.
{\textstyle {\frac {ab}{a+b}}={\frac {1}{{\frac {1}{a}}+{\frac {1}{b}}}}=(a^{-1}+b^{-1})^{-1}.}
これは、この係数が量 a と bの 逆数が 直接加算される 状況から生じるものと考えられることを示しています。したがって、 a と b自体を加算するには、元の単位に戻すために、結果を逆数化し、加算し、さらに逆数化する必要があります。これはまさに 調和平均 によって実行される操作であり、 が a と b の 調和平均 の半分である ことは驚くべきことではありません 。
a
b
a
+
b
{\textstyle {\frac {ab}{a+b}}}
同様の式は、 2つのベクトル二次方程式の和に対しても書けます。x 、 y 、 zが長さ k のベクトルで 、 A と Bが 対称で 逆 行列 のサイズが の とき、
k
×
k
{\textstyle k\times k}
(
y
−
x
)
′
A
(
y
−
x
)
+
(
x
−
z
)
′
B
(
x
−
z
)
=
(
x
−
c
)
′
(
A
+
B
)
(
x
−
c
)
+
(
y
−
z
)
′
(
A
−
1
+
B
−
1
)
−
1
(
y
−
z
)
{\displaystyle {\begin{aligned}&(\mathbf {y} -\mathbf {x} )'\mathbf {A} (\mathbf {y} -\mathbf {x} )+(\mathbf {x} -\mathbf {z} )'\mathbf {B} (\mathbf {x} -\mathbf {z} )\\={}&(\mathbf {x} -\mathbf {c} )'(\mathbf {A} +\mathbf {B} )(\mathbf {x} -\mathbf {c} )+(\mathbf {y} -\mathbf {z} )'(\mathbf {A} ^{-1}+\mathbf {B} ^{-1})^{-1}(\mathbf {y} -\mathbf {z} )\end{aligned}}}
どこ
c
=
(
A
+
B
)
−
1
(
A
y
+
B
z
)
{\displaystyle \mathbf {c} =(\mathbf {A} +\mathbf {B} )^{-1}(\mathbf {A} \mathbf {y} +\mathbf {B} \mathbf {z} )}
x ′ A x の形式は 二次形式 と呼ばれ、 スカラー である 。
言い換えれば、 x の要素のペアの積のすべての可能な組み合わせを、それぞれ別々の係数で和したものである。さらに であるため、 A の非対角要素については 和のみが重要であり、 Aが 対称 で ある と仮定しても一般性は損なわれない 。さらに、 A が対称である場合、形式
x
′
A
x
=
∑
i
,
j
a
i
j
x
i
x
j
{\displaystyle \mathbf {x} '\mathbf {A} \mathbf {x} =\sum _{i,j}a_{ij}x_{i}x_{j}}
x
i
x
j
=
x
j
x
i
{\textstyle x_{i}x_{j}=x_{j}x_{i}}
a
i
j
+
a
j
i
{\textstyle a_{ij}+a_{ji}}
x
′
A
y
=
y
′
A
x
.
{\textstyle \mathbf {x} '\mathbf {A} \mathbf {y} =\mathbf {y} '\mathbf {A} \mathbf {x} .}
平均からの差の合計
もう一つの便利な式は次 のとおりです。
∑
i
=
1
n
(
x
i
−
μ
)
2
=
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
{\displaystyle \sum _{i=1}^{n}(x_{i}-\mu )^{2}=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}}
x
¯
=
1
n
∑
i
=
1
n
x
i
.
{\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.}
既知の差異あり
各点 x が既知の 分散 σ 2 に従う 、 サイズ nの iid 正規分布データ ポイント X のセットの場合、 共役事前 分布も正規分布になります。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
これは、分散を 精度 として書き直すことで、つまり τ = 1/σ 2 を用いることで、より簡単に示すことができます。そして と であれば、 以下のように進めます。
x
∼
N
(
μ
,
1
/
τ
)
{\textstyle x\sim {\mathcal {N}}(\mu ,1/\tau )}
μ
∼
N
(
μ
0
,
1
/
τ
0
)
,
{\textstyle \mu \sim {\mathcal {N}}(\mu _{0},1/\tau _{0}),}
まず、 尤度関数は 次のようになります (平均からの差の合計については上記の式を使用)。
p
(
X
∣
μ
,
τ
)
=
∏
i
=
1
n
τ
2
π
exp
(
−
1
2
τ
(
x
i
−
μ
)
2
)
=
(
τ
2
π
)
n
/
2
exp
(
−
1
2
τ
∑
i
=
1
n
(
x
i
−
μ
)
2
)
=
(
τ
2
π
)
n
/
2
exp
[
−
1
2
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
]
.
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{i=1}^{n}{\sqrt {\frac {\tau }{2\pi }}}\exp \left(-{\frac {1}{2}}\tau (x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left(-{\frac {1}{2}}\tau \sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right].\end{aligned}}}
次に、次のように進めます。
p
(
μ
∣
X
)
∝
p
(
X
∣
μ
)
p
(
μ
)
=
(
τ
2
π
)
n
/
2
exp
[
−
1
2
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
]
τ
0
2
π
exp
(
−
1
2
τ
0
(
μ
−
μ
0
)
2
)
∝
exp
(
−
1
2
(
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
+
τ
0
(
μ
−
μ
0
)
2
)
)
∝
exp
(
−
1
2
(
n
τ
(
x
¯
−
μ
)
2
+
τ
0
(
μ
−
μ
0
)
2
)
)
=
exp
(
−
1
2
(
n
τ
+
τ
0
)
(
μ
−
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
)
2
+
n
τ
τ
0
n
τ
+
τ
0
(
x
¯
−
μ
0
)
2
)
∝
exp
(
−
1
2
(
n
τ
+
τ
0
)
(
μ
−
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
)
2
)
{\displaystyle {\begin{aligned}p(\mu \mid \mathbf {X} )&\propto p(\mathbf {X} \mid \mu )p(\mu )\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]{\sqrt {\frac {\tau _{0}}{2\pi }}}\exp \left(-{\frac {1}{2}}\tau _{0}(\mu -\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(n\tau ({\bar {x}}-\mu )^{2}+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&=\exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}+{\frac {n\tau \tau _{0}}{n\tau +\tau _{0}}}({\bar {x}}-\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}\right)\end{aligned}}}
上記の導出では、2つの二次方程式の和に上記の公式を使用し、 μを 含まない定数因子をすべて除去しました。その結果は、平均 と精度を 持つ正規分布の 核 、すなわち
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
{\textstyle {\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}}
n
τ
+
τ
0
{\textstyle n\tau +\tau _{0}}
p
(
μ
∣
X
)
∼
N
(
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
,
1
n
τ
+
τ
0
)
{\displaystyle p(\mu \mid \mathbf {X} )\sim {\mathcal {N}}\left({\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}},{\frac {1}{n\tau +\tau _{0}}}\right)}
これは、事前パラメータに関する事後パラメータのベイズ更新方程式のセットとして記述できます。
τ
0
′
=
τ
0
+
n
τ
μ
0
′
=
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
x
¯
=
1
n
∑
i
=
1
n
x
i
{\displaystyle {\begin{aligned}\tau _{0}'&=\tau _{0}+n\tau \\[5pt]\mu _{0}'&={\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
つまり、 総精度が nτ (または、総分散が n / σ 2 )で平均値がである n 個 のデータ点を結合し、データの総精度を事前総精度に加算するだけで新しい総精度を導出し、精度 加重平均 (つまり、データ平均と事前平均をそれぞれ関連する総精度で 重み付けした加重平均 )によって新しい平均を形成します。精度が観測値の確実性を示すものと考えれば、これは論理的に意味を成します。事後平均の分布では、各入力要素がその確実性によって重み付けされ、この分布の確実性は個々の確実性の合計です。(このことを直感的に理解するには、「全体は(または全体は)部分の合計よりも大きい」という表現と比較してください。さらに、事後分布の知識は事前分布と尤度に関する知識の組み合わせから得られるため、事後分布のほうがその要素のいずれよりも確実であるというのは理にかなっています。)
x
¯
{\textstyle {\bar {x}}}
上記の式は、正規分布の 共役事前分布 を ベイズ分析 する方が、精度の観点からより便利である理由を明らかにしています。事後精度は、事前精度と尤度精度の和に過ぎず、事後平均は前述のように精度加重平均によって計算されます。同じ式を分散の観点から書くと、すべての精度を逆数にすることで、より見苦しい式が得られます。
σ
0
2
′
=
1
n
σ
2
+
1
σ
0
2
μ
0
′
=
n
x
¯
σ
2
+
μ
0
σ
0
2
n
σ
2
+
1
σ
0
2
x
¯
=
1
n
∑
i
=
1
n
x
i
{\displaystyle {\begin{aligned}{\sigma _{0}^{2}}'&={\frac {1}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]\mu _{0}'&={\frac {{\frac {n{\bar {x}}}{\sigma ^{2}}}+{\frac {\mu _{0}}{\sigma _{0}^{2}}}}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
平均値がわかっている場合
大きさ nの iid 正規分布を持つデータ点 X の集合において、 各点 xが 既知の平均μに 従う場合、 分散 の 共役事前分布は 逆ガンマ分布 または 尺度逆カイ二乗分布 に従う 。これら2つは、 パラメータ化が 異なることを除いて等価である。逆ガンマ分布の方が一般的に用いられるが、便宜上、尺度逆カイ二乗分布を用いる。σ 2 の事前分布は以下のとおりである。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
p
(
σ
2
∣
ν
0
,
σ
0
2
)
=
(
σ
0
2
ν
0
2
)
ν
0
/
2
Γ
(
ν
0
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
∝
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
{\displaystyle p(\sigma ^{2}\mid \nu _{0},\sigma _{0}^{2})={\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\nu _{0}/2}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\propto {\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}}
上記の尤度 関数を 分散の観点から書くと次のようになる。
ここで
p
(
X
∣
μ
,
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
1
2
σ
2
∑
i
=
1
n
(
x
i
−
μ
)
2
]
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
S
2
σ
2
]
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]\end{aligned}}}
S
=
∑
i
=
1
n
(
x
i
−
μ
)
2
.
{\displaystyle S=\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}
それから:
p
(
σ
2
∣
X
)
∝
p
(
X
∣
σ
2
)
p
(
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
S
2
σ
2
]
(
σ
0
2
ν
0
2
)
ν
0
2
Γ
(
ν
0
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
∝
(
1
σ
2
)
n
/
2
1
(
σ
2
)
1
+
ν
0
2
exp
[
−
S
2
σ
2
+
−
ν
0
σ
0
2
2
σ
2
]
=
1
(
σ
2
)
1
+
ν
0
+
n
2
exp
[
−
ν
0
σ
0
2
+
S
2
σ
2
]
{\displaystyle {\begin{aligned}p(\sigma ^{2}\mid \mathbf {X} )&\propto p(\mathbf {X} \mid \sigma ^{2})p(\sigma ^{2})\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]{\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\frac {\nu _{0}}{2}}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\\&\propto \left({\frac {1}{\sigma ^{2}}}\right)^{n/2}{\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\exp \left[-{\frac {S}{2\sigma ^{2}}}+{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}+n}{2}}}}}\exp \left[-{\frac {\nu _{0}\sigma _{0}^{2}+S}{2\sigma ^{2}}}\right]\end{aligned}}}
上記は、スケール逆カイ二乗分布でもあり
、
ν
0
′
=
ν
0
+
n
ν
0
′
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
μ
)
2
{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}\end{aligned}}}
ν
0
′
=
ν
0
+
n
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
μ
)
2
ν
0
+
n
{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\{\sigma _{0}^{2}}'&={\frac {\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{\nu _{0}+n}}\end{aligned}}}
逆ガンマ分布の 観点から再パラメータ化すると 、結果は次のようになります。
α
′
=
α
+
n
2
β
′
=
β
+
∑
i
=
1
n
(
x
i
−
μ
)
2
2
{\displaystyle {\begin{aligned}\alpha '&=\alpha +{\frac {n}{2}}\\\beta '&=\beta +{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{2}}\end{aligned}}}
平均値と分散が不明の場合
大きさ nの iid 正規分布に従うデータ点 X の集合において、 各 点 xが 未知の平均μと未知の 分散 σ2に 従う場合、平均と分散に対して、 正規逆ガンマ分布 からなる複合(多変量)共役 事前分布 が配置される 。論理的には、これは次のように定義される。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
平均は不明だが分散が既知のケースの分析から、更新方程式には、データ ポイントの平均と、データ ポイントの 合計分散 (既知の分散をデータ ポイントの数で割って計算) で構成されるデータから計算された十分な統計量が含まれることがわかります。
分散は不明だが平均値は既知のケースの分析から、更新方程式にはデータ ポイントの数と 偏差の二乗和 で構成されるデータに対する十分な統計量が含まれていることがわかります。
事後更新値は、さらにデータを処理する際の事前分布として機能することを覚えておいてください。したがって、前述の十分統計量に基づいて事前分布を論理的に考え、可能な限り同じ意味論を念頭に置く必要があります。
平均と分散の両方が未知のケースを扱うには、平均と分散に独立した事前分布を配置し、平均、総分散、分散事前分布を計算するために使用されるデータ ポイントの数、および偏差の二乗和を固定推定することができます。ただし、実際には、平均の総分散は未知の分散に依存し、分散事前分布に入る偏差の二乗和は未知の平均に依存する(ように見える)ことに注意してください。実際には、後者の依存関係は比較的重要ではありません。実際の平均をシフトすると、生成されるポイントが同じ量だけシフトし、平均して偏差の二乗は同じままになります。ただし、平均の総分散の場合はそうではありません。未知の分散が増加すると、平均の総分散も比例して増加するため、この依存関係を捉えたいと考えます。
これは、 未知の分散に対する平均の 条件付き事前分布を作成し、事前分布に関連付けられた 疑似観測 の平均を指定するハイパーパラメータと、疑似観測の数を指定する別のパラメータを作成することを示唆しています。 この数は分散のスケーリングパラメータとして機能し、実際の分散パラメータに対する平均の全体的な分散を制御できるようになります。 分散の事前分布にも 2 つのハイパーパラメータがあり、1 つは事前分布に関連付けられた疑似観測の偏差の二乗和を指定し、もう 1 つは再び疑似観測の数を指定します。 各事前分布には疑似観測の数を指定するハイパーパラメータがあり、それぞれの場合でその事前分布の相対的な分散を制御します。 これらは 2 つの別々のハイパーパラメータとして指定されるため、2 つの事前分布の分散 (信頼度とも呼ばれます) を個別に制御できます。
これにより、すぐに 正規逆ガンマ分布 が得られます。これは、 共役事前 分布( 分散上の 逆ガンマ分布と、分散を 条件とする 平均上の正規分布)が使用され、定義したのと同じ 4 つのパラメータを使用して、定義した 2 つの分布の積になります。
事前確率は通常、次のように定義されます。
p
(
μ
∣
σ
2
;
μ
0
,
n
0
)
∼
N
(
μ
0
,
σ
2
/
n
0
)
p
(
σ
2
;
ν
0
,
σ
0
2
)
∼
I
χ
2
(
ν
0
,
σ
0
2
)
=
I
G
(
ν
0
/
2
,
ν
0
σ
0
2
/
2
)
{\displaystyle {\begin{aligned}p(\mu \mid \sigma ^{2};\mu _{0},n_{0})&\sim {\mathcal {N}}(\mu _{0},\sigma ^{2}/n_{0})\\p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})&\sim I\chi ^{2}(\nu _{0},\sigma _{0}^{2})=IG(\nu _{0}/2,\nu _{0}\sigma _{0}^{2}/2)\end{aligned}}}
更新方程式は次のように導出できます。
疑似観測値の個数に実際の観測値を加算します。新しい平均ハイパーパラメータはここでも加重平均ですが、今回は観測値の相対数で重み付けされます。最後に、の更新は 既知の平均値の場合と同様ですが、この場合、真の平均値ではなく観測データ平均値を基準とした偏差の二乗和が取られます。そのため、事前平均値とデータ平均値の偏差に起因する追加の誤差要因に対処するために、新たな相互作用項を追加する必要があります。
x
¯
=
1
n
∑
i
=
1
n
x
i
μ
0
′
=
n
0
μ
0
+
n
x
¯
n
0
+
n
n
0
′
=
n
0
+
n
ν
0
′
=
ν
0
+
n
ν
0
′
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
0
n
n
0
+
n
(
μ
0
−
x
¯
)
2
{\displaystyle {\begin{aligned}{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\\\mu _{0}'&={\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\\n_{0}'&=n_{0}+n\\\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\end{aligned}}}
ν
0
′
σ
0
2
′
{\textstyle \nu _{0}'{\sigma _{0}^{2}}'}
発生と応用
実際の問題における正規分布の出現は、大まかに次の 4 つのカテゴリに分類できます。
正確には正規分布です。
近似的に正規な法則、例えば、そのような近似が 中心極限定理 によって正当化される場合、そして
正規分布としてモデル化された分布 – 正規分布は、 与えられた平均と分散に対して エントロピーが最大となる分布です。
回帰問題 - 体系的な効果が十分にモデル化された後に正規分布が見つかる。
正確な正規性
量子調和振動子 の基底状態は ガウス分布に従います。
正規分布はいくつかの 物理理論 で発生します。
独立して運動する完全に弾性のある球の速度 分布。これは マクスウェルの気体力学理論第1部(1860年) の結果である 。
量子調和振動子 の 位置空間 における 基底 状態 波動関数 。 [59]
拡散 を受ける粒子の位置 。 [ 要出典 ] 粒子が初期に特定の点に位置する場合(つまり、その確率分布が ディラックのデルタ関数である場合)、時刻 t 以降、 その位置は分散 tの正規分布で記述され、 拡散方程式 を満たす 。初期位置が特定の密度関数で与えられる場合、時刻 t における密度は g と正規確率密度関数 の 畳み込み となる。
∂
∂
t
f
(
x
,
t
)
=
1
2
∂
2
∂
x
2
f
(
x
,
t
)
{\textstyle {\frac {\partial }{\partial t}}f(x,t)={\frac {1}{2}}{\frac {\partial ^{2}}{\partial x^{2}}}f(x,t)}
g
(
x
)
{\textstyle g(x)}
おおよその正規性
中心極限定理によって説明されるように、 近似的に 正規分布が成立する状況は数多く存在します 。結果が多数の小さな効果を 独立して加法的に 作用させることによって生じる場合、その分布は正規分布に近似します。効果が加法的ではなく乗法的に作用する場合、あるいは他の効果よりも著しく大きな大きさを持つ単一の外部影響がある場合、正規分布の近似は有効ではありません。
想定される正規性
フィッシャーの アヤメの花のデータセットからの アヤメ の萼片幅のヒストグラム 。重ね合わせた最も適合する正規分布。
正規曲線、つまり誤差のラプラシアン曲線の出現は、非常に異常な現象としか認識できません。これは特定の分布において大まかに近似されます。そのため、そしてその美しい単純さゆえに、特に理論的な研究においては、おそらく第一近似として用いることができるでしょう。
この仮定を経験的にテストする統計的手法があります。上記の正規性テストのセクションを参照してください。
10月の降雨量に当てはめた累積正規分布。 分布の当てはめを参照。
方法論的問題と査読
ジョン・イオアニディスは 、研究結果を検証するための基準として正規分布する標準偏差を使用すると、正規分布しない現象についての 反証可能な予測が検証されないままになる と主張した 。これには、たとえば、すべての必要条件が存在し、加算のように一方が他方の代わりになることができない場合にだけ現れる現象や、ランダムに分布していない現象が含まれる。イオアニディスは、標準偏差中心の検証は、反証可能な予測のうち反証可能な予測のうち証拠がある部分が、反証可能な予測の範囲の非正規分布部分にある場合があり、場合によってはその部分にあるため、すべてではないものの一部の反証可能な予測がある仮説や理論に、正当であるかのような誤った印象を与えるだけでなく、反証可能な予測のいずれも正規分布していない仮説を、実際には反証可能な予測をしているにもかかわらず、あたかも反証不可能であるかのように根拠もなく却下することになる、と主張している。イオアニディスは、相互に排他的な理論が研究雑誌によって検証済みとして受け入れられるケースの多くは、非正規分布の予測に対する実証的な反証を雑誌が考慮に入れなかったことが原因で、相互に排他的な理論が正しいからではないと主張している。しかし、相互に排他的な2つの理論が両方とも間違っていて、3つ目の理論が正しいということはあり得ない。 [63]
計算方法
正規分布から値を生成する
フランシス・ゴルトン が発明した ビーン マシンは 、正規乱数を生成する最初の装置と言えるでしょう。この装置は、ピンが交互に並んだ垂直の板で構成されています。上から小さなボールが落とされ、ピンに当たるとランダムに左右に跳ね返ります。ボールは底部のビンに集められ、ガウス曲線に似たパターンで落ち着きます。
コンピュータシミュレーション、特にモンテカルロ法 の応用においては 、正規分布に従う値を生成することが望ましい場合が多い。以下に挙げるアルゴリズムはすべて標準正規偏差を生成する。これは、 N ( μ , σ 2 )が X = μ + σZ (ここで Z は標準正規分布)として生成できるためである。これらのアルゴリズムはすべて、 一様 乱数を生成できる 乱数生成器 U が 利用可能であることを前提としている 。
最も簡単な方法は、 確率積分変換の 性質に基づくものである。すなわち、 Uが (0,1)に均一に分布する場合、Φ −1 ( U )は標準正規分布に従う。この方法の欠点は、 プロビット関数 Φ −1の計算に依存しており、これは解析的に行うことができないことである。いくつかの近似法は、Hart (1968)および erfの 論文に記載されている 。Wichuraは、この関数を小数点16桁まで計算する高速アルゴリズムを提供しており [64] 、 R はこれを正規分布の乱数を計算するために 使用している。
中心極限定理 に基づく、 プログラムしやすい近似手法は 以下のとおりです。12個の均一な U (0,1)偏差を生成し、それらをすべて加算し、6を引くと、得られるランダム変数はほぼ標準正規分布に従います。実際には、分布は アーウィン・ホール 分布、つまり正規分布の12セクション11次多項式近似になります。このランダム偏差の範囲は(-6, 6)に限定されます。 [65] 真の正規分布では、全サンプルのわずか0.00034%が±6σの範囲外となることに注意してください。
ボックス ・ミュラー法では、(0,1)上に 一様 分布する 2つの独立した乱数 U と V を用いる。この場合、2つの乱数変数 X と Y はともに標準正規分布に従い、 独立となる。この定式化は 、2変量正規 乱数ベクトル( X , Y )に対して、 2乗ノルム X 2 + Y 2 が自由度2の カイ2乗分布 に従うことから生じる。カイ2乗分布は、これらの式における 量−2 ln( U )に対応する、容易に生成可能 な指数乱数変数である。また、角度は乱数変数 V によって選択される円周上に一様分布する 。
X
=
−
2
ln
U
cos
(
2
π
V
)
,
Y
=
−
2
ln
U
sin
(
2
π
V
)
.
{\displaystyle X={\sqrt {-2\ln U}}\,\cos(2\pi V),\qquad Y={\sqrt {-2\ln U}}\,\sin(2\pi V).}
マルサリア 極座標法は 、ボックス・ミュラー法の修正版であり、正弦関数と余弦関数の計算を必要としません。この方法では、 U と Vを 一様分布(-1,1)から抽出し、 S = U 2 + V 2 を計算します。Sが1以上の場合は 、 この手順を最初からやり直し、それ以外の場合は2つの値 を返します。ここでも、 X と Y は独立した標準正規分布の確率変数です。
X
=
U
−
2
ln
S
S
,
Y
=
V
−
2
ln
S
S
{\displaystyle X=U{\sqrt {\frac {-2\ln S}{S}}},\qquad Y=V{\sqrt {\frac {-2\ln S}{S}}}}
比率法 [66] は棄却法である。アルゴリズムは以下のように進行する。
2 つの独立した均一偏差 U と V を生成します。
X = √ 8/ e ( V − 0.5)/ U を計算します 。
オプション: X 2 ≤ 5 − 4 e 1/4 Uの場合、 X を受け入れ てアルゴリズムを終了します。
オプション: X 2 ≥ 4 e −1.35 / U + 1.4の場合は X を拒否し、手順1からやり直します。
X 2 ≤ −4 ln U の場合は X を受け入れ 、それ以外の場合はアルゴリズムを最初からやり直します。
2つのオプションステップにより、最終ステップでの対数評価はほとんどの場合回避できます。これらのステップは大幅に改善され、 対数評価はほとんど行われなくなります [67] 。
ジッグラト アルゴリズム [68] はボックス・ミュラー変換よりも高速でありながら、正確性も維持しています。全ケースの約97%において、2つの乱数(1つはランダム整数、もう1つはランダム一様乱数)と1つの乗算、そして条件判定のみを使用します。これら2つの乱数の組み合わせが「ジッグラトの核」(対数を用いた一種の棄却標本抽出)の外側にくる3%のケースにおいてのみ、指数関数やより一様性の高い乱数を用いる必要があります。
標準正規分布からサンプリングするには整数演算を使用することができる。 [69] [70]この方法は、 理想的な近似 の条件を満たすという意味で正確である 。 [71] つまり、標準正規分布から実数をサンプリングし、これを最も近い表現可能な浮動小数点数に丸めるのと同等である。
高速アダマール変換 と正規分布の関係についても、 いくつかの研究がなされている [72]。 この変換は加算と減算のみを用いており、中心極限定理により、ほぼあらゆる分布の乱数は正規分布に変換されるからである。この点において、一連のアダマール変換とランダムな順列を組み合わせることで、任意のデータセットを正規分布のデータに変換することができる。
正規累積分布関数と正規分位関数の数値近似
標準正規 累積分布関数は 、科学計算や統計計算で広く使用されています。
Φ( x )の値は、 数値積分 、 テイラー級数 、 漸近級数 、 連分数 など、様々な手法によって非常に正確に近似することができます 。求められる精度レベルに応じて、様々な近似法が用いられます。
Zelen & Severo (1964)は、 絶対誤差 | ε ( x ) |<7.5·10−8 ( アルゴリズム26.2.17)で、 x > 0に対するΦ( x )の近似値を与えている。 ここで、 ϕ ( x )は標準正規確率密度関数、 b 0 = 0.2316419、 b 1 = 0.319381530、 b 2 = −0.356563782、 b 3 = 1.781477937、 b 4 = −1.821255978、 b 5 = 1.330274429である。
Φ
(
x
)
=
1
−
φ
(
x
)
(
b
1
t
+
b
2
t
2
+
b
3
t
3
+
b
4
t
4
+
b
5
t
5
)
+
ε
(
x
)
,
t
=
1
1
+
b
0
x
,
{\displaystyle \Phi (x)=1-\varphi (x)\left(b_{1}t+b_{2}t^{2}+b_{3}t^{3}+b_{4}t^{4}+b_{5}t^{5}\right)+\varepsilon (x),\qquad t={\frac {1}{1+b_{0}x}},}
Hart (1968) は、erfc() 関数の近似法として、指数関数 の有無を問わず、有理関数を用いた数十種類の近似法を挙げています。彼のアルゴリズムは、複雑さの度合いと得られる精度がそれぞれ異なり、絶対精度は最大で24桁です。West (2009) のアルゴリズムは、Hart のアルゴリズム 5666 と末尾の 連分数 近似を組み合わせることで、16桁の精度を持つ高速計算アルゴリズムを実現しています。
Cody (1969)は、Hart68の解法がerfには適していないことを思い出した後、有理チェビシェフ近似 によって、相対誤差が最大となるerfとerfcの両方の解法を与えた 。
Marsaglia (2004) は、テイラー級数展開に基づく、任意精度の Φ( x ) を計算するための 単純なアルゴリズム [注 1] を提案しました。このアルゴリズムの欠点は、計算時間が比較的遅いことです(例えば、 x = 10 の場合、16桁の精度で関数を計算するには300回以上の反復処理が必要です)。
Φ
(
x
)
=
1
2
+
φ
(
x
)
(
x
+
x
3
3
+
x
5
3
⋅
5
+
x
7
3
⋅
5
⋅
7
+
x
9
3
⋅
5
⋅
7
⋅
9
+
⋯
)
{\displaystyle \Phi (x)={\frac {1}{2}}+\varphi (x)\left(x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+{\frac {x^{7}}{3\cdot 5\cdot 7}}+{\frac {x^{9}}{3\cdot 5\cdot 7\cdot 9}}+\cdots \right)}
GNU 科学ライブラリは、ハートのアルゴリズムと チェビシェフ多項式 による近似を使用して、標準正規累積分布関数の値を計算します 。
Dia (2023)は、絶対値での 最大相対誤差が 未満となる の次の近似を提案している: および の場合 、
1
−
Φ
{\textstyle 1-\Phi }
2
−
53
{\textstyle 2^{-53}}
(
≈
1.1
×
10
−
16
)
{\textstyle \left(\approx 1.1\times 10^{-16}\right)}
x
≥
0
{\textstyle x\geq 0}
1
−
Φ
(
x
)
=
(
0.39894228040143268
x
+
2.92678600515804815
)
(
x
2
+
8.42742300458043240
x
+
18.38871225773938487
x
2
+
5.81582518933527391
x
+
8.97280659046817350
)
(
x
2
+
7.30756258553673541
x
+
18.25323235347346525
x
2
+
5.70347935898051437
x
+
10.27157061171363079
)
(
x
2
+
5.66479518878470765
x
+
18.61193318971775795
x
2
+
5.51862483025707963
x
+
12.72323261907760928
)
(
x
2
+
4.91396098895240075
x
+
24.14804072812762821
x
2
+
5.26184239579604207
x
+
16.88639562007936908
)
(
x
2
+
3.83362947800146179
x
+
11.61511226260603247
x
2
+
4.92081346632882033
x
+
24.12333774572479110
)
e
−
x
2
2
{\textstyle {\begin{aligned}1-\Phi \left(x\right)&=\left({\frac {0.39894228040143268}{x+2.92678600515804815}}\right)\left({\frac {x^{2}+8.42742300458043240x+18.38871225773938487}{x^{2}+5.81582518933527391x+8.97280659046817350}}\right)\\&\left({\frac {x^{2}+7.30756258553673541x+18.25323235347346525}{x^{2}+5.70347935898051437x+10.27157061171363079}}\right)\left({\frac {x^{2}+5.66479518878470765x+18.61193318971775795}{x^{2}+5.51862483025707963x+12.72323261907760928}}\right)\\&\left({\frac {x^{2}+4.91396098895240075x+24.14804072812762821}{x^{2}+5.26184239579604207x+16.88639562007936908}}\right)\left({\frac {x^{2}+3.83362947800146179x+11.61511226260603247}{x^{2}+4.92081346632882033x+24.12333774572479110}}\right)e^{-{\frac {x^{2}}{2}}}\end{aligned}}}
x
<
0
{\textstyle x<0}
1
−
Φ
(
x
)
=
1
−
(
1
−
Φ
(
−
x
)
)
{\displaystyle 1-\Phi \left(x\right)=1-\left(1-\Phi \left(-x\right)\right)}
ショア(1982)は、信頼性工学や在庫分析といった工学・オペレーションズ・リサーチの確率的最適化モデルに組み込むことができる単純な近似を導入した。p = Φ( z ) と表記すると 、 分 位 関数 の最も単純な近似は次のようになる。
z
=
Φ
−
1
(
p
)
=
5.5556
[
1
−
(
1
−
p
p
)
0.1186
]
,
p
≥
1
/
2
{\displaystyle z=\Phi ^{-1}(p)=5.5556\left[1-\left({\frac {1-p}{p}}\right)^{0.1186}\right],\qquad p\geq 1/2}
この近似では、 z の最大絶対誤差は0.026( 0.5 ≤ p ≤ 0.9999、0 ≤ z ≤ 3.719 に対応 )となる。p < 1/2の場合は、 p を 1 − p に 置き換え 、符号を変える。もう少し精度の低い近似として、単一パラメータ近似がある。
z
=
−
0.4115
{
1
−
p
p
+
log
[
1
−
p
p
]
−
1
}
,
p
≥
1
/
2
{\displaystyle z=-0.4115\left\{{\frac {1-p}{p}}+\log \left[{\frac {1-p}{p}}\right]-1\right\},\qquad p\geq 1/2}
後者は、正規分布の損失積分の簡単な近似を導き出すのに役立ち、次のように定義される。
L
(
z
)
=
∫
z
∞
(
u
−
z
)
φ
(
u
)
d
u
=
∫
z
∞
[
1
−
Φ
(
u
)
]
d
u
L
(
z
)
≈
{
0.4115
(
p
1
−
p
)
−
z
,
p
<
1
/
2
,
0.4115
(
1
−
p
p
)
,
p
≥
1
/
2.
or, equivalently,
L
(
z
)
≈
{
0.4115
{
1
−
log
[
p
1
−
p
]
}
,
p
<
1
/
2
,
0.4115
1
−
p
p
,
p
≥
1
/
2.
{\displaystyle {\begin{aligned}L(z)&=\int _{z}^{\infty }(u-z)\varphi (u)\,du=\int _{z}^{\infty }[1-\Phi (u)]\,du\\[5pt]L(z)&\approx {\begin{cases}0.4115\left({\dfrac {p}{1-p}}\right)-z,&p<1/2,\\\\0.4115\left({\dfrac {1-p}{p}}\right),&p\geq 1/2.\end{cases}}\\[5pt]{\text{or, equivalently,}}\\L(z)&\approx {\begin{cases}0.4115\left\{1-\log \left[{\frac {p}{1-p}}\right]\right\},&p<1/2,\\\\0.4115{\dfrac {1-p}{p}},&p\geq 1/2.\end{cases}}\end{aligned}}}
この近似は、特に右端において正確である( z ≥ 1.4 で最大誤差は10 −3 )。累積分布関数の高精度近似は、 レスポンスモデリング手法 (RMM、Shore, 2011, 2012)に基づいており、Shore (2005)に示されている。
その他の近似については、 誤差関数#基本関数による近似 を参照してください。特に、累積分布関数 と分位関数 の全領域における 相対 誤差が小さいことは、2008年にSergei Winitzkiによって明示的に可逆な式によって実現されています。
Φ
{\displaystyle \Phi }
Φ
−
1
{\textstyle \Phi ^{-1}}
歴史
発達
一部の著者 [73] [74] は、正規分布の発見を ド・モアブル に帰しています。彼は1738年 [注 2]に 『確率論』 第2版で ( a + b ) n の二 項展開 における係数の研究を発表しました 。ド・モアブルは、この展開における中間項がおよそ の大きさを持ち 、「 m または
2
n
/
2
π
n
{\textstyle 2^{n}/{\sqrt {2\pi n}}}
1 / 2 n が無限に大きい量であるとすると、中央から区間 ℓ だけ離れた項が 中央の項に対して持つ比の対数は である 。」 [75] この定理は正規確率法則の最初の難解な表現として解釈できるが、 スティグラー は、ド・モアブル自身がその結果を二項係数のおおよその規則以上のものとして解釈しておらず、特にド・モアブルには確率密度関数の概念が欠けていたと指摘している。 [76]
−
2
ℓ
ℓ
n
{\textstyle -{\frac {2\ell \ell }{n}}}
カール・フリードリヒ・ガウスは、 最小二乗法を 合理化する方法として 1809 年に正規分布を発見しました 。
1823年、 ガウスは、 モノグラフ 「 Theoria combinis observationum erroribus minimis obnoxiae 」 を出版し、その中で、 最小二乗法 、 最大尤度法 、 正規分布 など、いくつかの重要な統計概念を紹介しました。ガウスは、未知の量 V の測定値を表すために M 、 M ′ 、 M ″ など を使用し、その量の最も可能性の高い推定値、つまり、観測された実験結果が得られる確率 φ ( M − V ) · φ ( M ′ − V ) · φ ( M ″ − V ) · ... を最大化する推定値を模索しました。彼の表記法では、 φΔ は大きさ Δ の測定誤差の確率密度関数です。関数 φ がわからないため、ガウスは、彼の方法が測定値の算術平均というよく知られた答えに簡約されることを要求しました。 [注 3] これらの原理から出発して、ガウスは、位置パラメータの推定値として算術平均を選択することを正当化する唯一の法則は、誤差の正規法則であることを証明した。 [77]
ここで、 h は「観測精度の尺度」である。ガウスはこの正規法則を実験における誤差の一般的なモデルとして用い、現在では 非線形 加重最小二乗 法として知られる法則を定式化した。 [78]
φ
Δ
=
h
√
π
e
−
h
h
Δ
Δ
,
{\displaystyle \varphi {\mathit {\Delta }}={\frac {h}{\surd \pi }}\,e^{-\mathrm {hh} \Delta \Delta },}
ピエール・シモン・ラプラスは1810 年に 中心極限定理 を証明し 、統計学における正規分布の重要性を確立しました。
正規分布の法則を最初に提唱したのはガウスだが、 ラプラスも 重要な貢献をした。 [注 4] 1774年に複数の観測値を集約する問題を初めて提起したのはラプラスであったが、 [79 ]彼自身の解決策は ラプラス分布につながった。1782年に 積分 ∫ e − t 2 dt = √ π の値を初めて計算し 、正規分布の正規化定数を与えたのもラプラスであった。 [80] この功績により、ガウスはラプラスの先駆性を認めた。 [81]最後に、1810年に基本的な 中心極限定理 を証明してアカデミーに提示したのはラプラスであり 、これは正規分布の理論的重要性を強調した。 [82]
1809年にアイルランド系アメリカ人の数学者ロバート・アドレインが、 ガウスとは独立して、洞察に富んでいるものの欠陥のある正規確率法則の導出を2つ同時に発表した ことは興味深い。 [83] 彼の研究は科学界ではほとんど注目されなかったが、1871年に アッベ によって発掘された。 [84]
19世紀半ば、 マクスウェルは 正規分布が単に便利な数学的ツールであるだけでなく、自然現象にも起こり得ることを証明した。 ある方向に分解した速度が x と x + dx の間にある粒子の数は
N
1
α
π
e
−
x
2
α
2
d
x
{\displaystyle \operatorname {N} {\frac {1}{\alpha \;{\sqrt {\pi }}}}\;e^{-{\frac {x^{2}}{\alpha ^{2}}}}\,dx}
ネーミング
今日、この概念は英語では通常、 正規分布 または ガウス分布 として知られています。他にあまり一般的ではない名称としては、ガウス分布、ラプラス・ガウス分布、誤差の法則、誤差の容易さの法則、ラプラスの第二法則、ガウスの法則などがあります。
ガウス自身は、その応用に関係する「正規方程式」に言及してこの用語を造語したようで、正規とは「通常の」というよりは「直交」という専門用語の意味を持つ。 [85] しかし、19世紀末には、一部の著者 [注 5]が 正規分布という 名称を使い始め 、「正規」という言葉は形容詞として用いられた。この用語は、この分布が典型的、一般的、つまり正規であるとみなされていることを反映していると考えられるようになった。 パース (これらの著者の一人)はかつて「正規」を次のように定義した。「…『正規』とは、実際に起こることの平均(あるいは他のいかなる種類の平均値)ではなく、 ある状況下で長期的に起こるであろう ことの平均値である。」 [86] 20世紀初頭、 ピアソンは この分布の名称として 「正規」 という用語を普及させた。 [87]
何年も前に、私はラプラス・ガウス曲線を 正規 曲線と呼びました。この名前は、国際的な優先権の問題を回避しますが、他のすべての頻度分布が何らかの意味で「異常」であると人々に信じさせるという欠点があります。
また、この分布を現代の表記法である標準偏差 σ を用いて初めて記述したのはピアソンでした。その後まもなく、1915年に フィッシャーは 正規分布の式に位置パラメータを追加し、現在の表記法で表現しました。
d
f
=
1
2
σ
2
π
e
−
(
x
−
m
)
2
/
(
2
σ
2
)
d
x
.
{\displaystyle df={\frac {1}{\sqrt {2\sigma ^{2}\pi }}}e^{-(x-m)^{2}/(2\sigma ^{2})}\,dx.}
標準正規分布 という用語 は、平均がゼロで分散が1の正規分布を表すが、1950年代頃にP.G.Hoel(1947)の 『数理統計入門』 や Alexander M.Mood (1950)の 『統計理論入門』といった教科書に登場して広く使われるように なった。 [88] [89] [90]
参照
ベイツ分布 - アーウィン・ホール分布に似ているが、0から1の範囲に再スケールされている
ベーレンス・フィッシャー問題 – 異なる分散を持つ 2 つの正規分布サンプルの平均が同じかどうかを検定するという長年の問題。
バタチャリヤ距離 – 正規分布の混合物を分離するために使用される方法
エルデシュ・カッツ定理– 数論 における正規分布の出現について
半値全幅
ガウスぼかし - 畳み込み 、正規分布をカーネルとして使用します
ガウス関数
上のpdfを持つ 修正半正規分布 [91] は で与えられ 、ここで は フォックス・ライトのプサイ関数 を表す 。
(
0
,
∞
)
{\textstyle (0,\infty )}
f
(
x
)
=
2
β
α
/
2
x
α
−
1
exp
(
−
β
x
2
+
γ
x
)
Ψ
(
α
2
,
γ
β
)
{\textstyle f(x)={\frac {2\beta ^{{\alpha }/{2}}x^{\alpha -1}\exp(-\beta x^{2}+\gamma x)}{\Psi {\left({\frac {\alpha }{2}},{\frac {\gamma }{\sqrt {\beta }}}\right)}}}}
Ψ
(
α
,
z
)
=
1
Ψ
1
(
(
α
,
1
2
)
(
1
,
0
)
;
z
)
{\textstyle \Psi (\alpha ,z)={}_{1}\Psi _{1}\left({\begin{matrix}\left(\alpha ,{\frac {1}{2}}\right)\\(1,0)\end{matrix}};z\right)}
正規分布と無相関は独立性を意味するものではない
比率正規分布
逆正規分布
標準正規表
シュタインの補題
準ガウス分布
正規分布する確率変数の合計
Tweedie 分布– 正規分布は、Tweedie 指数分散モデル ファミリーのメンバーです 。
ラップ正規分布 – 円形領域に適用された正規分布
Z検定 – 正規分布を用いる
注記
^ たとえば、このアルゴリズムは Bc プログラミング言語の 記事に記載されています。
^ ド・モアブルは1733年に、個人配布のみを目的としたパンフレット 『近似値二項項 ( a + b ) n の概算』 で初めてその研究成果を発表した。しかし、彼がその成果を公表したのは1738年になってからであった。最初のパンフレットは何度か再版されている。例えば、ウォーカー(1985)を参照のこと。
^ 「ある量が、同一の状況下で、同一の注意を払って行われた複数の直接観測によって決定された場合、観測値の算術平均は、厳密にはなくても少なくともほぼ最も確からしい値を与えるという仮説を公理とみなすのは、確かに慣習的であった。したがって、常にそれに従うのが最も安全である。」— ガウス (1809, 177節)
^ 「この曲線をガウス・ラプラシアン曲線、あるいは 正規 曲線と呼ぶ私の習慣は、二人の偉大な天文学者数学者の間で発見の功績を比例させる必要がないようにするものだ。」ピアソン(1905年、189ページ)からの引用
^ ここで具体的に言及されているもの以外にも、 1875年頃の Peirce 、 Galton (Galton (1889, chapter V))、 Lexis (Lexis (1878), Rohrbasser & Véron (2003))の著作にも同様の用法が見られる。 [ 要出典 ]
参考文献
引用
^ Norton, Matthew; Khokhlov, Valentyn; Uryasev, Stan (2019). 「共通確率分布のCVaRとbPOEの計算とポートフォリオ最適化および密度推定への応用」 (PDF) . Annals of Operations Research . 299 ( 1– 2). Springer: 1281– 1315. arXiv : 1811.11301 . doi :10.1007/s10479-019-03373-1. S2CID 254231768. 2023年3月31日時点の オリジナル (PDF)からのアーカイブ。 2023年 2月27日 閲覧 。
^ ツォコス、クリス;ウーテン、レベッカ(2016年1月1日)。ツォコス、クリス。ウーテン、レベッカ(編)。有限数学の楽しさ。ボストン:アカデミックプレス。 pp. 231–263 。 土井 :10.1016/b978-0-12-802967-1.00007-3。 ISBN 978-0-12-802967-1 。
^ ハリス、フランク・E.(2014年1月1日). ハリス、フランク・E.(編). 物理科学と工学のための数学. ボストン:アカデミック・プレス. pp. 663– 709. doi :10.1016/b978-0-12-801000-6.00018-3. ISBN 978-0-12-801000-6 。
^ Hoel (1947, p. 31)とMood (1950, p. 109)は、わずかに異なる表記法でこの定義を与えている。
^ 正規分布、ゲイル心理学百科事典
^ カセラ&バーガー(2001年、102ページ)
^ Lyon, A. (2014). 正規分布はなぜ正規分布なのか?, 英国科学哲学ジャーナル.
^ Jorge, Nocedal; Stephan, J. Wright (2006). 数値最適化 (第2版). Springer. p. 249. ISBN 978-0387-30303-1 。
^ ab 「正規分布」. www.mathsisfun.com . 2020年 8月15日 閲覧 。
^ 「ベル曲線」。Merriam -Webster.com辞書。 2025年 5月25日 閲覧 。
^ Mood (1950, p. 112) は 標準正規分布を 明確に定義しています。対照的に、Hoel (1947) は 標準正規曲線を明確に定義し (p. 33)、「 標準正規分布」 という用語を導入しています (p. 69)。
^ スティグラー(1982)
^ ハルペリン、ハートレー、ホエル (1965、項目 7)
^ マクファーソン(1990年、110ページ)
^ ベルナルド&スミス(2000年、121ページ)
^ スコット、クレイトン、ノワック、ロバート(2003年8月7日)。「Q関数」 Connexions 。
^ Barak, Ohad (2006年4月6日). 「Q関数と誤差関数」 (PDF) . テルアビブ大学. 2009年3月25日時点のオリジナル (PDF) からアーカイブ。
^ Weisstein, Eric W. 「正規分布関数」 。MathWorld 。
^ アブラモウィッツ、ミルトン 、 ステガン、アイリーン・ アン編 (1983) [1964年6月]。「第26章、式26.2.12」。 『数式、グラフ、数表付き数学関数ハンドブック 』 。応用数学シリーズ。第55巻(1972年12月発行の第10刷に訂正を加えた第9刷、初版)。ワシントンD.C.、ニューヨーク:米国商務省、国立標準局、ドーバー出版。932ページ 。ISBN 978-0-486-61272-0 LCCN 64-60036. MR 0167642. LCCN 65-12253 .
^ Vaart, AW van der (1998年10月13日). 漸近統計学. ケンブリッジ大学出版局. doi :10.1017/cbo9780511802256. ISBN 978-0-511-80225-6 。
^ Park, Sung Y.; Bera, Anil K. (2009). 「最大エントロピー自己回帰条件付き不均一分散モデル」 (PDF) . Journal of Econometrics . 150 (2): 219– 230. CiteSeerX 10.1.1.511.9750 . doi :10.1016/j.jeconom.2008.12.014. 2016年3月7日時点 のオリジナル (PDF)からアーカイブ。 2011年 6月2日 閲覧 。
^ Geary RC(1936)「非正規分布サンプルにおけるスチューデント比」の分布。王立統計学会誌補足3(2):178–184
^ ルカーチ, ユージン (1942年3月). 「正規分布の特徴づけ」. Annals of Mathematical Statistics . 13 (1): 91– 93. doi :10.1214/AOMS/1177731647. ISSN 0003-4851. JSTOR 2236166. MR 0006626. Zbl 0060.28509. Wikidata Q55897617.
^ abc パテル&リード(1996、[2.1.4])
^ ファン(1991年、1258ページ)
^ パテル&リード(1996、[2.1.8])
^ パプーリス、アタナシオス. 確率、ランダム変数、確率過程 (第4版). p. 148.
^ Winkelbauer, Andreas (2012). 「正規分布のモーメントと絶対モーメント」. arXiv : 1209.4340 [math.ST].
^ ブリュック(1995年、23ページ)
^ ブリュック(1995年、24ページ)
^ ウィリアムズ、デイビッド (2001). 『オッズを計る:確率と統計のコース』 (再版)ケンブリッジ大学出版局. 197–199頁. ISBN 978-0-521-00618-7 。
^ José M. Bernardo; Adrian FM Smith (2000). ベイズ理論 (復刻版). Chichester [ua]: Wiley. pp. 209, 366. ISBN 978-0-471-49464-5 。
^ O'Hagan, A. (1994) Kendallの統計理論の高度化、第2B巻、ベイズ推論 、エドワード・アーノルド 。ISBN 0-340-52922-9 (セクション5.40)
^ ab Bryc (1995, p. 35)
^ UIUC、講義 21。多変量正規分布、21.6:「個別ガウス分布と結合ガウス分布」。
^ Edward L. MelnickとAaron Tenenbein、「正規分布の誤った仕様」、 The American Statistician 、第36巻、第4号、1982年11月、372-373ページ
^ 「2つの正規(ガウス)確率分布のカルバック・ライブラー(KL)距離」 Allisons.org . 2007年12月5日. 2017年 3月3日 閲覧 。
^ Jordan, Michael I. (2010年2月8日). 「Stat260: ベイズモデリングと推論:正規分布の共役事前分布」 (PDF) .
^ 甘利&長岡 (2000)
^ 「ガウス分布の確率変数の最大値の期待値」 Mathematics Stack Exchange . 2024年 4月7日 閲覧 。
^ 「ポアソン分布の正規近似」 Stat.ucla.edu . 2017年 3月3日 閲覧 。
^ ab Das, Abhranil (2021). 「正規分布の積分と分類の方法」. Journal of Vision . 21 (10): 1. arXiv : 2012.14331 . doi :10.1167/jov.21.10.1. PMC 8419883. PMID 34468706 .
^ ブリュック(1995年、27ページ)
^ Weisstein, Eric W. 「正規積分布」. MathWorld . wolfram.com.
^ ルカーチ, ユージン (1942). 「正規分布の特徴づけ」. 数理統計年報 . 13 (1): 91–3 . doi : 10.1214/aoms/1177731647 . ISSN 0003-4851. JSTOR 2236166.
^ Basu, D.; Laha, RG (1954). 「正規分布のいくつかの特徴づけについて」. Sankhyā . 13 (4): 359–62 . ISSN 0036-4452. JSTOR 25048183.
^ レーマン, EL (1997). 統計的仮説検定 (第2版). シュプリンガー. p. 199. ISBN 978-0-387-94919-2 。
^ パテル&リード(1996、[2.3.6])
^ ガランボス & シモネリ (2004、定理 3.5)
^ ab ルカーチ&キング(1954)
^ Quine, MP (1993). 「正規分布の3つの特徴について」. 確率と数理統計 . 14 (2): 257–263 .
^ John, S (1982). 「3パラメータ2ピース正規分布族とそのフィッティング」. Communications in Statistics – Theory and Methods . 11 (8): 879– 885. doi :10.1080/03610928208828279.
^ ab Krishnamoorthy (2006, p. 127)
^ クリシュナムーシー(2006年、130ページ)
^ クリシュナムーシー(2006年、133ページ)
^ ラーコスキ, アンドリュー・J. (2023). 量子力学:数学入門. イギリス: ケンブリッジ大学出版局. pp. 120– 121. ISBN 978-1-009-12222-1 . 2025年 5月30日 閲覧 。
^ ハクスリー(1932)
^ ジェインズ、エドウィン・T. (2003). 確率論:科学の論理. ケンブリッジ大学出版局. pp. 592– 593. ISBN 9780521592710 。
^ Oosterbaan, Roland J. (1994). 「第6章 水文データの頻度分析と回帰分析」 (PDF) . Ritzema, Henk P. (編). 『排水の原理と応用』, Publication 16 (第2改訂版). オランダ、ワーゲニンゲン: 国際土地改良研究所 (ILRI). pp. 175– 224. ISBN 978-90-70754-33-4 。
^ 出版された研究結果のほとんどがなぜ誤りなのか、ジョン・P・A・イオアニディス、2005年
^ Wichura, Michael J. (1988). 「アルゴリズムAS241:正規分布のパーセントポイント」. 応用統計学 . 37 (3): 477–84 . doi :10.2307/2347330. JSTOR 2347330.
^ ジョンソン、コッツ、バラクリシュナン(1995年、式(26.48))
^ キンダーマン&モナハン(1977)
^ レヴァ(1992)
^ マルサリア&ツァン(2000)
^ カーニー(2016)
^ デュ、ファン、ウェイ (2022)
^ モナハン(1985年、第2節)
^ ウォレス(1996)
^ ジョンソン、コッツ、バラクリシュナン(1994年、85ページ)
^ Le Cam & Lo Yang (2000、p. 74)
^ ド・モアヴル、アブラハム(1733)、系I – ウォーカー(1985、p.77を参照)
^ スティグラー(1986年、76ページ)
^ ガウス(1809年、第177節)
^ ガウス(1809年、第179節)
^ ラプラス(1774年、問題III)
^ ピアソン(1905年、189ページ)
^ ガウス(1809年、第177節)
^ スティグラー(1986年、144ページ)
^ スティグラー(1978年、243ページ)
^ スティグラー(1978年、244ページ)
^ ジェインズ、エドウィン J.; 確率論:科学の論理 、第7章。
^ ピアース、チャールズ・S.(1909年頃写本)、 Collected Papers v. 6、パラグラフ327。
^ クラスカル&スティグラー(1997年)。
^ 「最も初期の使用...(エントリー標準正規曲線)」。
^ Hoel (1947)は 標準正規曲線 (p. 33)と 標準正規分布 (p. 69) という用語を導入しています。
^ Mood(1950)は 標準正規分布 を明確に定義しています(p.112)。
^ Sun, Jingchao; Kong, Maiying; Pal, Subhadip (2021年6月22日). 「修正半正規分布:特性と効率的なサンプリング手法」. Communications in Statistics – Theory and Methods . 52 (5): 1591– 1613. doi :10.1080/03610926.2021.1934700. ISSN 0361-0926. S2CID 237919587.
出典
アルドリッチ、ジョン、ミラー、ジェフ。「確率と統計における記号の最も古い使用」
アルドリッチ、ジョン、ミラー、ジェフ。「数学用語の最も古い使用例」 特に、「ベル型とベル曲線」、「正規分布」、「ガウス分布」、「誤差、誤差の法則、誤差の理論など」の項目。
天理俊一 、長岡宏 (2000). 『情報幾何学の方法 』オックスフォード大学出版局. ISBN 978-0-8218-0531-2 。
ベルナルド, ホセ・M. ; スミス, エイドリアン・FM (2000). ベイズ理論 . Wiley. ISBN 978-0-471-49464-5 。
ブリュック、ウォジミエシュ (1995). 『正規分布:その特徴と応用』 シュプリンガー・フェアラーク. ISBN 978-0-387-97990-8 。
カセラ、ジョージ 、 バーガー、ロジャー・L. (2001). 統計的推論 (第2版). ダックスベリー. ISBN 978-0-534-24312-8 。
コーディ, ウィリアム J. (1969). 「誤差関数の有理チェビシェフ近似」 . 計算数学 . 23 (107): 631– 638. doi : 10.1090/S0025-5718-1969-0247736-4 .
Cover, Thomas M. ; Thomas, Joy A. (2006). 『情報理論の要素 』 John Wiley and Sons. ISBN 9780471241959 。
Dia, Yaya D. (2023). 「近似不完全積分、相補誤差関数への応用」 SSRN . doi :10.2139/ssrn.4487559. S2CID 259689086.
ド・モアブル、アブラハム (2000) [初版1738年] 『偶然性の教義 』 アメリカ数学会 ISBN 978-0-8218-2103-9 。
Du, Y.; Fan, B.; Wei, B. (2022). 「標準正規分布のための改良型厳密サンプリングアルゴリズム」. 計算統計 . 37 (2): 721– 737. arXiv : 2008.03855 . doi :10.1007/s00180-021-01136-w.
Fan, Jianqing (1991). 「ノンパラメトリックデコンボリューション問題における最適収束速度について」. The Annals of Statistics . 19 (3): 1257–1272 . doi : 10.1214/aos/1176348248 . JSTOR 2241949.
ゴルトン、フランシス (1889)『自然遺伝』 (PDF) ロンドン、イギリス:リチャード・クレイ・アンド・サンズ。
ガランボス、ヤノス 、シモネッリ、イタロ (2004). 『確率変数の積:物理学の問題と算術関数への応用』 マルセル・デッカー社 ISBN 978-0-8247-5402-0 。
ガウス、カロロ・フリデリコ (1809). Theoria motvs corporvm coelestivm in sectionibvs conicis Solem ambientivm [ 太陽の周りを円錐断面で運動する天体の運動理論 ] (ラテン語). ハンブルギ、シュムティブス F. ペルテス et IH ベッサー. 英語訳.
グールド、スティーブン・ジェイ (1981年) 『人間の誤測』 (初版)WWノートン、 ISBN 978-0-393-01489-1 。
ハルペリン, マックス; ハートレー, ハーマン・O.; ホエル, ポール・G. (1965). 「統計記号と表記に関する推奨標準.COPSS記号と表記委員会」. アメリカ 統計学者 .19 (3): 12– 14. doi :10.2307/2681417. JSTOR 2681417.
ハート、ジョン F.他。 (1968年)。 コンピュータによる近似 。ニューヨーク州ニューヨーク: John Wiley & Sons, Inc. ISBN 978-0-88275-642-4 。
「正規分布」、 数学百科事典 、 EMSプレス 、2001 [1994]
ハーンスタイン、リチャード・J. 、 マレー、チャールズ (1994年) 『ベルカーブ:アメリカ社会における知能と階級構造』 フリー プレス 、 ISBN 978-0-02-914673-6 。
ポール・G・ホーエル(1947年)『数理統計入門』ニューヨーク:ワイリー。
ハクスリー、ジュリアン・S. (1972)[初版1932年] 『相対的成長の問題 』ロンドン、 ISBN 978-0-486-61114-3 . OCLC 476909537。
ジョンソン、ノーマン・L. ; コッツ、サミュエル ; バラクリシュナン、ナラヤナスワミ (1994). 連続一変量分布 第1巻 . Wiley. ISBN 978-0-471-58495-7 。
ジョンソン、ノーマン・L.、コッツ、サミュエル、バラクリシュナン、ナラヤナスワミ (1995). 連続一変量分布 第2巻 . Wiley. ISBN 978-0-471-58494-0 。
Karney, CFF (2016). 「正規分布からの正確なサンプリング」. ACM Transactions on Mathematical Software . 42 (1): 3:1–14. arXiv : 1303.6257 . doi :10.1145/2710016. S2CID 14252035.
Kinderman, Albert J.; Monahan, John F. (1977). 「一様偏差比を用いたコンピュータによるランダム変数の生成」 ACM Transactions on Mathematical Software . 3 (3): 257– 260. doi : 10.1145/355744.355750 . S2CID 12884505.
クリシュナムーシー、カリムトゥ (2006). 統計分布ハンドブックとその応用 . チャップマン&ホール/CRC. ISBN 978-1-58488-635-8 。
Kruskal, William H. ; Stigler, Stephen M. (1997). Spencer, Bruce D. (編). 規範的用語:統計学およびその他の分野における「正規」 .統計と公共政策.オックスフォード大学出版局 .ISBN 978-0-19-852341-3 。
ラプラス、ピエール=シモン・ド (1774)。 「出来事の原因に関する記憶」。 Mémoires de l'Académie Royale des Sciences de Paris (Savants étrangers)、Tome 6 : 621–656 。 スティーブン・M・スティグラー訳、 Statistical Science 1 (3)、1986年: JSTOR 2245476。
ラプラス、ピエール=シモン(1812年)。 Théorie Analytique des probabilités [ 確率の分析理論 ]。パリ、ヴェーダ州クルシエ。
ル・カム、ルシアン 、 ロー・ヤン、グレース (2000). 『統計学における漸近論:基本概念』 (第2版). シュプリンガー. ISBN 978-0-387-95036-5 。
Leva, Joseph L. (1992). 「高速正規乱数生成器」 (PDF) . ACM Transactions on Mathematical Software . 18 (4): 449– 453. CiteSeerX 10.1.1.544.5806 . doi :10.1145/138351.138364. S2CID 15802663. 2010年7月16日時点のオリジナル (PDF) からのアーカイブ。
レクシス、ヴィルヘルム (1878)。 「人間社会の正常な生活と統計の安定性を保証する」。 国際人口統計誌 。 Ⅱ .パリ: 447–462 。
ルカーチ, ユージン; キング, エドガー P. (1954). 「正規分布の性質」. 数理統計年報 . 25 (2): 389– 394. doi : 10.1214/aoms/1177728796 . JSTOR 2236741.
マクファーソン、グレン(1990年) 『科学的研究における統計学:その基礎、応用、解釈 』シュプリンガー・フェアラーク社、 ISBN 978-0-387-97137-7 。
Marsaglia, George ; Tsang, Wai Wan (2000). 「ジッグラト法によるランダム変数生成」. Journal of Statistical Software . 5 (8). doi : 10.18637/jss.v005.i08 .
Marsaglia, George (2004). 「正規分布の評価」. Journal of Statistical Software . 11 (4). doi : 10.18637/jss.v011.i04 .
マクスウェル、ジェームズ・クラーク (1860). 「V. 気体の力学理論の例示 ― 第1部:完全弾性球の運動と衝突について」. 哲学雑誌 . シリーズ4. 19 (124): 19– 32. doi :10.1080/14786446008642818.
Monahan, JF (1985). 「乱数生成における精度」. 計算数学 . 45 (172): 559– 568. doi : 10.1090/S0025-5718-1985-0804945-X .
ムード、アレクサンダー・マクファーレン (1950年)『統計理論入門』ニューヨーク:マグロウヒル。
パテル, ジャグディッシュ・K.; リード, キャンベル・B. (1996). 正規分布ハンドブック (第2版). CRC Press. ISBN 978-0-8247-9342-5 。
ピアソン、カール (1901). 「空間における点の系に最もよく適合する直線と平面について」 (PDF) . 哲学雑誌 . 6. 2 (11): 559– 572. doi :10.1080/14786440109462720. S2CID 125037489.
カール・ピアソン (1905)。 「『フェヒナーとピアソンによるフェールゲセッツとセーヌのフェラルゲマイネルンゲン。再合流』。」 バイオメトリカ 。 4 (1): 169–212 。 土井 :10.2307/2331536。 JSTOR 2331536。
ピアソン、カール (1920). 「相関の歴史に関するノート」. Biometrika . 13 (1): 25– 45. doi :10.1093/biomet/13.1.25. JSTOR 2331722.
ローアバッサー、ジャン=マルク;ヴェロン、ジャック( 2003)「ヴィルヘルム・レクシス:『事物 の 性質』の表現としての通常の寿命」 『 人口』 58 (3): 303-322。doi : 10.3917/pope.303.0303 。
ショア, H (1982). 「正規分布の逆累積関数、密度関数、および損失積分の簡単な近似」. 英国王立統計学会誌. シリーズC (応用統計) . 31 (2): 108–114 . doi :10.2307/2347972. JSTOR 2347972.
Shore, H (2005). 「正規分布のCDFに対する正確なRMMベースの近似値」. Communications in Statistics – Theory and Methods . 34 (3): 507– 513. doi :10.1081/sta-200052102. S2CID 122148043.
Shore, H (2011). 「レスポンスモデリング手法」. WIREs Comput Stat . 3 (4): 357– 372. doi :10.1002/wics.151. S2CID 62021374.
Shore, H (2012). 「レスポンスモデリング手法モデルの推定」. WIREs Comput Stat . 4 (3): 323– 333. doi :10.1002/wics.1199. S2CID 122366147.
スティグラー、スティーブン・M. (1978). 「初期の数理統計学」. 『統計年報 』 . 6 (2): 239– 265. doi : 10.1214/aos/1176344123 . JSTOR 2958876.
スティグラー、スティーブン・M. (1982). 「控えめな提案:正常のための新たな基準」. アメリカ統計学者 . 36 (2): 137–138 . doi :10.2307/2684031. JSTOR 2684031.
スティグラー、スティーブン・M.(1986年) 『統計の歴史:1900年以前の不確実性の測定』 ハーバード大学出版局、 ISBN 978-0-674-40340-6 。
スティグラー、スティーブン・M.(1999年) 『表にみる統計 』ハーバード大学出版局、 ISBN 978-0-674-83601-3 。
ウォーカー、ヘレン・M. (1985). 「ド・モアブルの正規確率法則について」 (PDF) . スミス、デイヴィッド・ユージーン編. 『数学の源』 ドーバー. ISBN 978-0-486-64690-9 。
Wallace, CS (1996). 「正規分布および指数分布を持つ変数に対する高速擬似乱数生成器」. ACM Transactions on Mathematical Software . 22 (1): 119– 127. doi : 10.1145/225545.225554 . S2CID 18514848.
ワイスタイン、エリック W. 「正規分布」。 マスワールド 。
West, Graeme (2009). 「累積正規関数のより良い近似」 (PDF) . Wilmott Magazine : 70– 76. 2012年2月29日時点のオリジナル (PDF) からのアーカイブ。
ゼレン、マーヴィン、セベロ、ノーマン・C. (1972) [初版1964年]. 確率関数(第26章). 数式、グラフ、数表付き数学関数ハンドブック 、アブラ モウィッツ、M. 、 ステガン、IA著 :米国国立標準局、ニューヨーク州ドーバー、 ISBN 978-0-486-61272-0 。
外部リンク
ウィキメディア コモンズには、正規分布 に関連するメディアがあります 。