信頼領域
Multi-dimensional version of a confidence interval

統計学において、信頼領域とは信頼区間の多次元一般化です。二変量正規分布の場合、信頼領域は楕円であり、誤差楕円とも呼ばれます。より一般的には、 n次元空間内の点の集合であり、多くの場合、問題の推定解である点の周りの超楕円体として表されますが、他の形状になることもあります

解釈

信頼領域は、一連の測定を何度も繰り返し、各測定セットに対して同じ方法で信頼領域を計算した場合に、一定の割合（例えば95%）で、推定対象の変数セットの「真の」値を表す点が信頼領域に含まれるように計算されます。ただし、事前確率について特定の仮定をしない限り、1つの信頼領域を計算したからといって、「真の」値がその領域内に含まれる確率が95%であることを意味するわけではありません。なぜなら、「真の」値の特定の確率分布を仮定しておらず、それらがどこにある可能性があるかについて他の情報を持っているかどうかはわからないからです

独立かつ同一に正規分布する誤差の場合

次の過剰決定問題の 解決策を見つけたとします。 β {\displaystyle {\boldsymbol {\beta }}}

Y = X β + ε {\displaystyle \mathbf {Y} =\mathbf {X} {\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }}}

ここで、Yは従属変数の観測値を含むn次元の列ベクトル、Xは正確に既知であると仮定される独立変数の観測値のn行p列の行列（物理モデルを表すことができる）、は推定されるp 個のパラメータを含む列ベクトル、は平均がゼロでそれぞれが同じ未知の分散を持つ正規分布で独立に分布していると仮定される誤差のn次元の列ベクトルです。 β {\displaystyle {\boldsymbol {\beta }}} ε {\displaystyle {\boldsymbol {\varepsilon }}} σ 2 {\displaystyle \sigma ^{2}}

の要素に対する100（1 −  α ）％の信頼区間は、次の不等式を満たすベクトルbの値の集合によって表される： [1] β {\displaystyle {\boldsymbol {\beta }}}

( β ^ − b ) T X T X ( β ^ − b ) ≤ p s 2 F 1 − α ( p , ν ) , {\displaystyle ({\boldsymbol {\hat {\beta }}}-\mathbf {b} )^{\operatorname {T} }\mathbf {X} ^{\operatorname {T} }\mathbf {X} ({\boldsymbol {\hat {\beta }}}-\mathbf {b} )\leq ps^{2}F_{1-\alpha }(p,\nu ),}

ここで、変数bは信頼領域内の任意の点を表し、pはパラメータの数、すなわちベクトルの要素の数であり、s 2は、の不偏推定値で ある、 β , {\displaystyle {\boldsymbol {\beta }},} β ^ {\displaystyle {\boldsymbol {\hat {\beta }}}} σ 2 {\displaystyle \sigma ^{2}}

s 2 = ε T ε n − p . {\displaystyle s^{2}={\frac {\varepsilon ^{\operatorname {T} }\varepsilon }{n-p}}.}

さらに、FはF 分布の分位関数で、pと自由度、は統計的有意水準、記号は の転置を意味します。 ν = n − p {\displaystyle \nu =n-p} α {\displaystyle \alpha } X T {\displaystyle X^{\operatorname {T} }} X {\displaystyle X}

この式は次のように書き直すことができます。

( β ^ − b ) T C β − 1 ( β ^ − b ) ≤ p F 1 − α ( p , ν ) , {\displaystyle ({\boldsymbol {\hat {\beta }}}-\mathbf {b} )^{\operatorname {T} }\mathbf {C} _{\mathbf {\beta } }^{-1}({\boldsymbol {\hat {\beta }}}-\mathbf {b} )\leq pF_{1-\alpha }(p,\nu ),}

ここで、 の最小二乗スケール共分散行列です。 C β = s 2 ( X T X ) − 1 {\displaystyle \mathbf {C} _{\mathbf {\beta } }=s^{2}\left(\mathbf {X} ^{\operatorname {T} }\mathbf {X} \right)^{-1}} β ^ {\displaystyle {\boldsymbol {\hat {\beta }}}}

上記の不等式は、p次元直交座標パラメータ空間R pにおける楕円体領域を定義する。楕円体の中心は推定値 にある。Pressらによれば、特異値分解 を行った後に楕円体をプロットすると、より容易になる。楕円体の軸の長さは対角行列の対角線上の値の逆数に比例し、これらの軸の方向は分解の3番目の行列の行によって与えられる。 β ^ {\displaystyle {\boldsymbol {\hat {\beta }}}}

加重最小二乗法と一般化最小二乗法

ここで、 のいくつかの異なる要素が既知の非ゼロ共分散を持つ（つまり、観測値の誤差が独立に分布していない）、および／または誤差の標準偏差がすべて等しくない、より一般的なケースを考えてみましょう。 の共分散行列が であると仮定します。ここで、Vはn行n列の非特異行列で、前のセクションで扱ったより具体的なケースでは に等しかったものです（ここで、 Iは単位行列）。しかし、ここでは は、個々の観測値のペアの共分散を表す非ゼロの非対角要素を持つことが許されています。また、すべての対角要素が必ずしも等しいとは限りません。 ε {\displaystyle {\boldsymbol {\varepsilon }}} ε {\displaystyle {\boldsymbol {\varepsilon }}} V σ 2 {\displaystyle \mathbf {V} \sigma ^{2}} I {\displaystyle \mathbf {I} }

[2]非特異対称行列Pが次のように 定義される。

P ′ P = P P = V {\displaystyle \mathbf {P} ^{\prime }\mathbf {P} =\mathbf {P} \mathbf {P} =\mathbf {V} }

実際には、Pは共分散行列Vの平方根です。

最小二乗問題

Y = X β + ε {\displaystyle \mathbf {Y} =\mathbf {X} {\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }}}

は、各項にPの逆数を左乗することで変換でき、新しい問題の定式化が形成されます

Z = Q β + f , {\displaystyle \mathbf {Z} =\mathbf {Q} {\boldsymbol {\beta }}+\mathbf {f} ,}

ここで

Z = P − 1 Y {\displaystyle \mathbf {Z} =\mathbf {P} ^{-1}\mathbf {Y} }
Q = P − 1 X {\displaystyle \mathbf {Q} =\mathbf {P} ^{-1}\mathbf {X} } および
f = P − 1 ε {\displaystyle \mathbf {f} =\mathbf {P} ^{-1}{\boldsymbol {\varepsilon }}}

パラメータ、すなわちの要素の結合信頼領域は、次式で与えられる楕円体によって囲まれます。[3] β {\displaystyle {\boldsymbol {\beta }}}

( b − β ^ ) ′ Q ′ Q ( b − β ^ ) = p n − p ( Z ′ Z − b ′ Q ′ Z ) F 1 − α ( p , n − p ) . {\displaystyle (\mathbf {b} -{\boldsymbol {\hat {\beta }}})^{\prime }\mathbf {Q} ^{\prime }\mathbf {Q} (\mathbf {b} -{\boldsymbol {\hat {\beta }}})={\frac {p}{n-p}}(\mathbf {Z} ^{\prime }\mathbf {Z} -\mathbf {b} ^{\prime }\mathbf {Q} ^{\prime }\mathbf {Z} )F_{1-\alpha }(p,n-p).}

ここで、F はF分布のパーセンテージ ポイントを表し、量pとnpは、この分布のパラメーターである 自由度です。

非線形問題

信頼領域は、任意の確率分布に対して定義できます。実験者は有意水準と領域の形状を選択でき、領域の大きさは確率分布によって決定されます。自然な選択は、定数（カイ二乗）値を 持つ点の集合を境界として使用することです χ 2 {\displaystyle \chi ^{2}}

一つのアプローチは、非線形モデルに線形近似を用いることです。これは解の近傍では近似値に近い可能性があります。そして、線形問題に対する解析を適用して近似的な信頼領域を求めます。信頼領域がそれほど大きくなく、モデルの2次導関数もそれほど大きくない場合、これは合理的なアプローチとなる可能性があります。

ブートストラップアプローチも使用できる。[4]

参照

注記

  1. ^ Draper and Smith (1981, p. 94)
  2. ^ ドレイパーとスミス（1981年、108ページ）
  3. ^ ドレイパーとスミス（1981年、109ページ）
  4. ^ Hutton TJ, Buxton BF, Hammond P, Potts HWW (2003). カーネルスムージングを用いた形状空間における平均成長軌道の推定. IEEE Transactions on Medical Imaging , 22 (6):747-53

参考文献

  • Draper, NR; H. Smith (1981) [1966].応用回帰分析（第2版）. 米国：John Wiley and Sons Ltd. ISBN 0-471-02995-5.
  • Press, WH; SA Teukolsky; WT Vetterling; BP Flannery (1992) [1988]. Numerical Recipes in C: The Art of Scientific Computing (第2版). Cambridge UK: Cambridge University Press. ISBN 978-0-521-43720-2.
Retrieved from "https://en.wikipedia.org/w/index.php?title=Confidence_region&oldid=1317427340"