一般線形モデル

一般線型モデル、あるいは一般多変量回帰モデルは、複数の多重線型回帰モデルを同時に記述する簡潔な方法です。その意味では、独立した統計線型モデルではありません。様々な多重線型回帰モデルは、 ^[1]のように簡潔に記述することができます。

${\displaystyle \mathbf {Y} =\mathbf {X} \mathbf {B} +\mathbf {U} ,}$

ここで、Yは多変量測定値の系列を含む行列（各列は従属変数のいずれかの測定値の集合）、Xは独立変数の観測値の行列（計画行列となる場合もある）、 Bは通常推定対象となるパラメータを含む行列、Uは誤差（ノイズ）を含む行列である。誤差は通常、測定値間で無相関であると仮定され、多変量正規分布に従う。誤差が多変量正規分布に従わない場合は、一般化線形モデルを用いてYとUに関する仮定を緩和することができる。

一般線型モデル（GLM）は、分散分析（ ANOVA）、共分散分析（ANCOVA）、多変量分散分析（MANOVA）、マンコバ（MANCOVA）、そして通常の線型回帰など、複数の統計モデルを包含しています。この枠組みでは、 t検定とF検定の両方を適用できます。一般線型モデルは、多重線型回帰を複数の従属変数を持つケースに一般化したものです。Y、B、Uを列ベクトルとすると、上記の行列式は多重線型回帰を表します 。

一般線形モデルを用いた仮説検定は、多変量検定と複数の独立した単変量検定の2つの方法で行うことができます。多変量検定ではYの列をまとめて検定しますが、単変量検定ではYの列を独立して、つまり同じ計画行列を用いた複数の単変量検定として検定します。

多重線形回帰との比較

重回帰は、単回帰を複数の独立変数を持つケースに一般化したもの、そして従属変数を1つに限定した一般線型モデルの特殊なケースである。重回帰の基本モデルは以下の通りである。

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}X_{i1}+\beta _{2}X_{i2}+\ldots +\beta _{p}X_{ip}+\epsilon _{i}}$ あるいはもっと簡潔に${\displaystyle Y_{i}=\beta _{0}+\sum \limits _{k=1}^{p}{\beta _{k}X_{ik}}+\epsilon _{i}}$

各観測値i = 1, ... , nについて。

上記の式では、 1つの従属変数とp個の独立変数のn個の観測値を考慮しています。したがって、 Y _iは従属変数のi^{番目の観測値、} X _ikはk番目の独立変数のi^番目の観測^値です（ k = 1, 2, ..., p ）。βkの値は推定対象となるパラメータを表し、ε _iはi^番目の独立変数の同一分布に従う正規誤差 です。

より一般的な多変量線形回帰では、同じ説明変数セットを共有し、したがって互いに同時に推定される m > 1 の従属変数ごとに、上記の形式の方程式が 1 つ存在します。

${\displaystyle Y_{ij}=\beta _{0j}+\beta _{1j}X_{i1}+\beta _{2j}X_{i2}+\ldots +\beta _{pj}X_{ip}+\epsilon _{ij}}$ あるいはもっと簡潔に${\displaystyle Y_{ij}=\beta _{0j}+\sum \limits _{k=1}^{p}{\beta _{kj}X_{ik}}+\epsilon _{ij}}$

i = 1, ... , nとしてインデックス付けされたすべての観測値と、 j = 1 , ... , mとしてインデックス付けされたすべての従属変数について。

各従属変数には適合すべき独自の回帰パラメータのセットがあるため、計算の観点からは、一般的な多変量回帰は、単に同じ説明変数を使用する標準的な多重線形回帰のシーケンスであることに注意してください。

一般化線形モデルとの比較

一般線形モデルと一般化線形モデル（GLM）^{[2] [3]}は、いくつかの連続予測変数および/またはカテゴリ予測変数を単一の結果変数に関連付けるために一般的に使用される2つの統計手法ファミリーです。

2つのアプローチの主な違いは、一般線形モデルでは残差が条件付き 正規分布に従うと厳密に仮定するのに対し、^{[4] GLMではこの仮定を緩め、残差に対して}指数族からのさまざまな他の分布を許容することです。^[2]一般線形モデルはGLMの特殊なケースであり、残差の分布は条件付き正規分布に従います。

残差の分布は、結果変数の種類と分布に大きく依存します。結果変数の種類が異なるため、GLMファミリーには多様なモデルが存在します。GLMファミリーで一般的に用いられるモデルには、2値または二値結果に対する2値ロジスティック回帰^[5] 、カウント結果に対するポアソン回帰^{[6] 、連続的で正規分布する結果に対する}線型回帰などがあります。つまり、GLMは一般的な統計モデルファミリーとして、あるいは特定の結果タイプに特化したモデルとして捉えられる可能性があります。

アプリケーション

一般線形モデルの応用は、科学実験における複数の脳スキャンの分析に見られます。Yには脳スキャナーからのデータ、Xには実験計画変数と交絡変数が含まれます。これは通常、単変量検定（この設定では通常、マス単変量検定と呼ばれます）で検定され、統計的パラメトリックマッピングと呼ばれることがよくあります。^[12]

参照

• ベイズ多変量線形回帰
• f検定
• t検定

注釈

1. Mardia, KV ; Kent, JT; Bibby, JM (1979).多変量解析. Academic Press . ISBN 0-12-471252-5。
2. McCullagh, P. ; Nelder, JA (1983年1月1日). 「一般化線形モデルの概要」.一般化線形モデル. Springer US. pp.  21– 47. doi :10.1007/978-1-4899-3242-6_2 (2025年7月12日現在非アクティブ). ISBN 9780412317606。
3. Fox, J. (2015).応用回帰分析と一般化線形モデル. Sage Publications
4. Cohen, J.; Cohen, P.; West, SG; Aiken, LS (2003). 行動科学のための応用重回帰分析／相関分析（報告書）
5. Hosmer Jr, DW, Lemeshow, S., Sturdivant, RX (2013).応用ロジスティック回帰(第398巻). John Wiley & Sons.
6. Gardner, W.; Mulvey, EP; Shaw, EC (1995). 「カウントとレートの回帰分析：ポアソン分布、過分散ポアソン分布、負の二項分布モデル」心理学速報. 118 (3): 392– 404. doi :10.1037/0033-2909.118.3.392. PMID  7501743.
7. McCullagh, Peter ; Nelder, John (1989).一般化線形モデル（第2版）. ボカラトン: Chapman and Hall/CRC. ISBN 978-0-412-31760-6。
8. LinearModelFit、Wolfram言語ドキュメントセンター
9. GeneralizedLinearModelFit、Wolfram言語ドキュメントセンター。
10. ls、EViews ヘルプ。
11. glm、EViews ヘルプ。
12. Friston, KJ; Holmes, AP; Worsley, KJ; Poline, J.-B.; Frith, CD; Frackowiak, RSJ (1995). 「機能イメージングにおける統計的パラメトリックマップ：一般線形アプローチ」. Human Brain Mapping . 2 (4): 189– 210. doi :10.1002/hbm.460020402. S2CID  9898609.

参考文献

• クリステンセン、ロナルド（2020年）『複雑な疑問への平面的な答え：線形モデル理論（第5版）』ニューヨーク：シュプリンガー。ISBN 978-3-030-32096-6。
• ウィチュラ、マイケル・J. (2006).線形モデルへの座標フリーアプローチ. ケンブリッジ統計・確率数学シリーズ. ケンブリッジ: ケンブリッジ大学出版局. pp. xiv+199. ISBN 978-0-521-86842-6 MR  2283455
• ローリングス、ジョン・O.、パントゥラ、サストリー・G.、ディッキー、デイビッド・A.編 (1998).応用回帰分析. シュプリンガー統計テキスト. doi :10.1007/b98890. ISBN 0-387-98454-2。