Statistical method
因子分析は、観測され相関する 変数間の 変動を 、 因子 と呼ばれる潜在的に少数の観測されない変数を用いて 記述する 統計 手法である 。例えば、6つの観測変数の変動が、主に2つの観測されない(基礎的な)変数の変動を反映している可能性がある。因子分析は、観測されない 潜在変数 に対するこのような共変量を探す。観測変数は、潜在的因子と「 誤差」項の 線形結合 としてモデル化されるため、因子分析は 変数誤差モデル の特殊なケースと考えることができる 。 [1]
変数と特定の因子との相関関係は変数の因子負荷量と呼ばれ、2つの変数がどの程度関連しているかを示します。 [2]
因子分析法の一般的な理論的根拠は、観測変数間の相互依存性について得られた情報を、後でデータセット内の変数セットを削減するために使用できることです。因子分析は、 心理測定学 、 性格 心理学、生物学、 マーケティング 、 製品管理 、 オペレーションズリサーチ 、 金融 、 機械学習の 分野で一般的に使用されています。これは、少数の基礎変数/潜在変数を反映していると考えられる観測変数が多数あるデータセットの処理に役立つ場合があります。これは最も一般的に使用される相互依存性分析手法の1つであり、関連する変数セットが体系的な相互依存性を示し、共通性を生み出す潜在因子を見つけることが目的である場合に使用されます。
統計モデル
意味
このモデルは、各個体における観測値 の集合を、 ユニットあたりの因子数がユニットあたりの観測値数( )よりも少ない 共通因子 集合 ( )を用いて説明しようとする 。各個体はそれぞれ独自の共通因子を持ち、これらは因子 負荷行列 ( ) を介して観測値と関連しており 、単一の観測値について、
p
{\displaystyle p}
n
{\displaystyle n}
k
{\displaystyle k}
f
i
,
j
{\displaystyle f_{i,j}}
k
<
p
{\displaystyle k<p}
k
{\displaystyle k}
L
∈
R
p
×
k
{\displaystyle L\in \mathbb {R} ^{p\times k}}
x
i
,
m
−
μ
i
=
l
i
,
1
f
1
,
m
+
⋯
+
l
i
,
k
f
k
,
m
+
ε
i
,
m
{\displaystyle x_{i,m}-\mu _{i}=l_{i,1}f_{1,m}+\dots +l_{i,k}f_{k,m}+\varepsilon _{i,m}}
どこ
x
i
,
m
{\displaystyle x_{i,m}}
は 番目の個体の 番目の観測 値であり 、
i
{\displaystyle i}
m
{\displaystyle m}
μ
i
{\displaystyle \mu _{i}}
は 番目の観測値の観測平均であり 、
i
{\displaystyle i}
l
i
,
j
{\displaystyle l_{i,j}}
は、 番目の因子の 番目の観測値 に対する負荷量であり 、
i
{\displaystyle i}
j
{\displaystyle j}
f
j
,
m
{\displaystyle f_{j,m}}
は 番目の個体の 番目の因子 の値であり 、
j
{\displaystyle j}
m
{\displaystyle m}
ε
i
,
m
{\displaystyle \varepsilon _{i,m}}
は、平均ゼロで有限分散を持つ 番目 の観測されない確率的誤差項 です。
(
i
,
m
)
{\displaystyle (i,m)}
行列表記法
X
−
M
=
L
F
+
ε
{\displaystyle X-\mathrm {M} =LF+\varepsilon }
ここで、観測行列 、負荷行列 、因子行列 、誤差項行列 、 および平均行列 であり、 番目の要素は単に です 。
X
∈
R
p
×
n
{\displaystyle X\in \mathbb {R} ^{p\times n}}
L
∈
R
p
×
k
{\displaystyle L\in \mathbb {R} ^{p\times k}}
F
∈
R
k
×
n
{\displaystyle F\in \mathbb {R} ^{k\times n}}
ε
∈
R
p
×
n
{\displaystyle \varepsilon \in \mathbb {R} ^{p\times n}}
M
∈
R
p
×
n
{\displaystyle \mathrm {M} \in \mathbb {R} ^{p\times n}}
(
i
,
m
)
{\displaystyle (i,m)}
M
i
,
m
=
μ
i
{\displaystyle \mathrm {M} _{i,m}=\mu _{i}}
また、 については以下の仮定を課します 。
F
{\displaystyle F}
F
{\displaystyle F}
そして 独立しています。
ε
{\displaystyle \varepsilon }
E
(
F
)
=
0
{\displaystyle \mathrm {E} (F)=0}
; 期待値 はどこに ありますか
E
{\displaystyle \mathrm {E} }
C
o
v
(
F
)
=
I
{\displaystyle \mathrm {Cov} (F)=I}
ここで 、 は 因子が無相関であることを確認するための 共分散行列であり、 は 単位行列 です 。
C
o
v
{\displaystyle \mathrm {Cov} }
I
{\displaystyle I}
仮に…とする と
C
o
v
(
X
−
M
)
=
Σ
{\displaystyle \mathrm {Cov} (X-\mathrm {M} )=\Sigma }
Σ
=
C
o
v
(
X
−
M
)
=
C
o
v
(
L
F
+
ε
)
,
{\displaystyle \Sigma =\mathrm {Cov} (X-\mathrm {M} )=\mathrm {Cov} (LF+\varepsilon ),\,}
したがって、 上に課せられた条件1と2、 およびから 、
F
{\displaystyle F}
E
[
L
F
]
=
L
E
[
F
]
=
0
{\displaystyle E[LF]=LE[F]=0}
C
o
v
(
L
F
+
ϵ
)
=
C
o
v
(
L
F
)
+
C
o
v
(
ϵ
)
{\displaystyle \mathrm {Cov} (LF+\epsilon )=\mathrm {Cov} (LF)+\mathrm {Cov} (\epsilon )}
Σ
=
L
C
o
v
(
F
)
L
T
+
C
o
v
(
ε
)
,
{\displaystyle \Sigma =L\mathrm {Cov} (F)L^{T}+\mathrm {Cov} (\varepsilon ),\,}
または、設定 、
Ψ
:=
C
o
v
(
ε
)
{\displaystyle \Psi :=\mathrm {Cov} (\varepsilon )}
Σ
=
L
L
T
+
Ψ
.
{\displaystyle \Sigma =LL^{T}+\Psi .\,}
任意の直交行列 に対して、 および と 設定すれば 、因子および因子負荷量となるための基準は依然として成り立ちます。したがって、因子と因子負荷量の集合は、 直交変換 を除いては一意です。
Q
{\displaystyle Q}
L
′
=
L
Q
{\displaystyle L^{\prime }=\ LQ}
F
′
=
Q
T
F
{\displaystyle F^{\prime }=Q^{T}F}
例
ある心理学者が、知能には「言語的知能」と「数学的知能」という2種類があり、どちらも直接観察できないという仮説を立てたとします 。 [ 注 1]この仮説の 根拠 は、10の異なる学問分野それぞれにおいて、1000人の学生の試験の点数に求められる。各学生が大規模な 母集団 から無作為に選ばれた場合、各学生の10点の得点はランダム変数となる。心理学者の仮説によれば、10の学問分野それぞれにおいて、言語的知能と数学的知能の共通の値を持つ全学生のグループの平均点は、言語的知能レベルの 定数 倍と数学的知能レベルの定数倍、つまりこれら2つの「要因」の線形結合となる。特定の科目について、2種類の知能を掛け合わせて期待スコアを得るための数値は、すべての知能レベルのペアで同じであると仮定され、 この科目の 「因子負荷」と呼ばれます。 [ 説明が必要 ]例えば、この仮説は、 天文学 の分野における平均的な学生の適性は次のように予測されると主張します 。
{10 × 生徒の言語的知能} + {6 × 生徒の数学的知能}。
10と6という数字は天文学に関連する因子負荷量です。他の学問分野では因子負荷量が異なる場合があります。
言語的知能と数学的知能が同程度であると想定される2人の学生が、天文学において測定された適性が異なることがあります。これは、個々の適性が平均的な適性(上記で予測)と異なることと、測定誤差自体が原因です。こうした差異は総称して「誤差」と呼ばれます。誤差とは、測定された個人が、その知能レベルにおける平均値または予測値からどの程度異なるかを表す統計用語です( 統計における誤差と残差を 参照)。
因子分析に用いる観測データは、1,000人の生徒それぞれについて10点ずつ、合計10,000個の数値となります。各生徒の2種類の知能の因子負荷量とレベルは、これらのデータから推測する必要があります。
同じ例の数学的モデル
以下では、行列はインデックス付き変数で示されます。「学問分野」のインデックスは、文字 、 、で示され 、値は から までで、 上記 の例で は に等しくなります。「因子」のインデックスは、文字 、 、で示され 、値は から までで 、上記の例では に 等しくなります。「インスタンス」または「サンプル」のインデックスは、文字 、 、で 示され 、値は から までです 。 上記の例では、 学生のサンプルが試験に参加した場合 、 番目の学生の 番目の 試験のスコアは で与えられます。因子分析の目的は、 が特定のインスタンス、つまり観測セットである 変数間の相関関係を特徴付けることです 。変数を同等にするために、 標準スコア に 正規化され ます。
a
{\displaystyle a}
b
{\displaystyle b}
c
{\displaystyle c}
1
{\displaystyle 1}
p
{\displaystyle p}
10
{\displaystyle 10}
p
{\displaystyle p}
q
{\displaystyle q}
r
{\displaystyle r}
1
{\displaystyle 1}
k
{\displaystyle k}
2
{\displaystyle 2}
i
{\displaystyle i}
j
{\displaystyle j}
k
{\displaystyle k}
1
{\displaystyle 1}
N
{\displaystyle N}
N
=
1000
{\displaystyle N=1000}
p
=
10
{\displaystyle p=10}
i
{\displaystyle i}
a
{\displaystyle a}
x
a
i
{\displaystyle x_{ai}}
x
a
{\displaystyle x_{a}}
x
a
i
{\displaystyle x_{ai}}
z
{\displaystyle z}
z
a
i
=
x
a
i
−
μ
^
a
σ
^
a
{\displaystyle z_{ai}={\frac {x_{ai}-{\hat {\mu }}_{a}}{{\hat {\sigma }}_{a}}}}
ここで標本平均は次のようになります。
μ
^
a
=
1
N
∑
i
x
a
i
{\displaystyle {\hat {\mu }}_{a}={\tfrac {1}{N}}\sum _{i}x_{ai}}
標本分散は次のように表されます。
σ
^
a
2
=
1
N
−
1
∑
i
(
x
a
i
−
μ
^
a
)
2
{\displaystyle {\hat {\sigma }}_{a}^{2}={\tfrac {1}{N-1}}\sum _{i}(x_{ai}-{\hat {\mu }}_{a})^{2}}
この特定のサンプルの因子分析モデルは次のようになります。
z
1
,
i
=
ℓ
1
,
1
F
1
,
i
+
ℓ
1
,
2
F
2
,
i
+
ε
1
,
i
⋮
⋮
⋮
⋮
z
10
,
i
=
ℓ
10
,
1
F
1
,
i
+
ℓ
10
,
2
F
2
,
i
+
ε
10
,
i
{\displaystyle {\begin{matrix}z_{1,i}&=&\ell _{1,1}F_{1,i}&+&\ell _{1,2}F_{2,i}&+&\varepsilon _{1,i}\\\vdots &&\vdots &&\vdots &&\vdots \\z_{10,i}&=&\ell _{10,1}F_{1,i}&+&\ell _{10,2}F_{2,i}&+&\varepsilon _{10,i}\end{matrix}}}
あるいは、もっと簡潔に言うと:
z
a
i
=
∑
p
ℓ
a
p
F
p
i
+
ε
a
i
{\displaystyle z_{ai}=\sum _{p}\ell _{ap}F_{pi}+\varepsilon _{ai}}
どこ
F
1
i
{\displaystyle F_{1i}}
は、学生の「言語的知能」 です。
i
{\displaystyle i}
F
2
i
{\displaystyle F_{2i}}
は、 番目の生徒の「数学的知能」 です。
i
{\displaystyle i}
ℓ
a
p
{\displaystyle \ell _{ap}}
は番目の被験者 に対する因子負荷量です 。
a
{\displaystyle a}
p
=
1
,
2
{\displaystyle p=1,2}
行列 表記で は、
Z
=
L
F
+
ε
{\displaystyle Z=LF+\varepsilon }
の各列の最初の要素である「言語的知能」を測定する尺度を2倍にし 、同時に言語的知能の因子負荷量を半分にしても、モデルに変化がないことに注意してください。したがって、言語的知能の因子の標準偏差が であると仮定しても、一般性は損なわれません。数学的知能についても同様です。さらに、同様の理由から、2つの因子は互いに 無相関で あると仮定しても、一般性は損なわれません 。言い換えると、
F
{\displaystyle F}
1
{\displaystyle 1}
∑
i
F
p
i
F
q
i
=
δ
p
q
{\displaystyle \sum _{i}F_{pi}F_{qi}=\delta _{pq}}
ここで 、 は クロネッカーデルタ ( および の とき )である。誤差は因子に依存しないと仮定する。
δ
p
q
{\displaystyle \delta _{pq}}
0
{\displaystyle 0}
p
≠
q
{\displaystyle p\neq q}
1
{\displaystyle 1}
p
=
q
{\displaystyle p=q}
∑
i
F
p
i
ε
a
i
=
0
{\displaystyle \sum _{i}F_{pi}\varepsilon _{ai}=0}
解の回転も解となるため、因子の解釈が困難になります。デメリットについては後述します。この特定の例では、2種類の知能が無相関であることを事前に知らなければ、2つの因子を2つの異なる知能の種類として解釈することはできません。たとえ無相関であっても、外部からの議論なしに、どの因子が言語的知能に対応し、どの因子が数学的知能に対応するかを判断することはできません。
負荷量 、平均値 、および 「誤差」の 分散 の値は、観測データ と (因子の水準に関する仮定は与えられた に対して固定されている )が与えられた場合に推定されなければならない。上記の条件から、「基本定理」が導かれる。
L
{\displaystyle L}
μ
{\displaystyle \mu }
ε
{\displaystyle \varepsilon }
X
{\displaystyle X}
F
{\displaystyle F}
F
{\displaystyle F}
∑
i
z
a
i
z
b
i
=
∑
j
ℓ
a
j
ℓ
b
j
+
∑
i
ε
a
i
ε
b
i
{\displaystyle \sum _{i}z_{ai}z_{bi}=\sum _{j}\ell _{aj}\ell _{bj}+\sum _{i}\varepsilon _{ai}\varepsilon _{bi}}
左辺の項は観測データの 相関行列( 標準化された観測値の行列とその転置行列の 積として導出される行列)の - 項であり、その 対角要素は s となる 。右辺の2番目の項は、項の値が1未満の対角行列となる。右辺の最初の項は「縮約相関行列」であり、対角値が1未満となる点を除いて相関行列と等しくなる。縮約相関行列のこれらの対角要素は「共通性」(観測変数の分散のうち、因子によって説明される割合を表す)と呼ばれる。
(
a
,
b
)
{\displaystyle (a,b)}
p
×
p
{\displaystyle p\times p}
p
×
N
{\displaystyle p\times N}
p
{\displaystyle p}
1
{\displaystyle 1}
h
a
2
=
1
−
ψ
a
=
∑
j
ℓ
a
j
ℓ
a
j
{\displaystyle h_{a}^{2}=1-\psi _{a}=\sum _{j}\ell _{aj}\ell _{aj}}
標本データは、 標本誤差やモデルの不適切さなどにより、上記の基本方程式に厳密に従うとは限りません。上記モデルの分析の目的は、データに「最もよく適合する」因子 と負荷量を見つけることです 。因子分析において、最もよく適合する因子と負荷量は、相関行列の非対角残差における平均二乗誤差の最小値として定義されます。 [3]
z
a
i
{\displaystyle z_{ai}}
F
p
i
{\displaystyle F_{pi}}
ℓ
a
p
{\displaystyle \ell _{ap}}
ε
2
=
∑
a
≠
b
[
∑
i
z
a
i
z
b
i
−
∑
j
ℓ
a
j
ℓ
b
j
]
2
{\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left[\sum _{i}z_{ai}z_{bi}-\sum _{j}\ell _{aj}\ell _{bj}\right]^{2}}
これは、モデル方程式では期待値が 0 である誤差共分散の非対角成分を最小化することと等価です。これは、すべての残差の平均二乗誤差を最小化しようとする主成分分析とは対照的です。 [3] 高速コンピュータの出現以前は、特に他の手段で共通性を推定することに、問題の近似解を見つけるのに多大な労力が費やされました。これにより、既知の縮小相関行列が生成され、問題が大幅に簡素化されました。その後、この相関行列が因子と負荷量の推定に使用されました。高速コンピュータの出現により、最小化問題は十分な速度で反復的に解くことができ、共通性は事前に必要とされず、プロセス内で計算されます。MinResアルゴリズムは特にこの問題に適していますが、解 を 見つけるための唯一の反復手段とは言えません。
解の要素に相関関係がある場合(たとえば、「オブリミン」回転の場合など)、対応する数学モデルでは 直交座標ではなく
斜め座標が使用されます。
幾何学的解釈
質問「a」に対する3人の回答者に対する因子分析パラメータの幾何学的解釈。「回答」は単位ベクトル で表され、これは2つの直交ベクトル と によって定義される平面に投影される 。射影ベクトルは であり 、誤差は 平面に垂直であるため となる 。射影ベクトルは 因子ベクトルを用いて と表すことができる 。射影ベクトルの長さの2乗は共通性である: である 。別のデータベクトルをプロットした場合、 と の間の角度の余弦は となる : 相関行列の -要素。(Harman図4.3より改変) [3]
z
a
{\displaystyle \mathbf {z} _{a}}
F
1
{\displaystyle \mathbf {F} _{1}}
F
2
{\displaystyle \mathbf {F} _{2}}
z
^
a
{\displaystyle {\hat {\mathbf {z} }}_{a}}
ε
a
{\displaystyle {\boldsymbol {\varepsilon }}_{a}}
z
a
=
z
^
a
+
ε
a
{\displaystyle \mathbf {z} _{a}={\hat {\mathbf {z} }}_{a}+{\boldsymbol {\varepsilon }}_{a}}
z
^
a
{\displaystyle {\hat {\mathbf {z} }}_{a}}
z
^
a
=
ℓ
a
1
F
1
+
ℓ
a
2
F
2
{\displaystyle {\hat {\mathbf {z} }}_{a}=\ell _{a1}\mathbf {F} _{1}+\ell _{a2}\mathbf {F} _{2}}
|
|
z
^
a
|
|
2
=
h
a
2
{\displaystyle ||{\hat {\mathbf {z} }}_{a}||^{2}=h_{a}^{2}}
z
b
{\displaystyle \mathbf {z} _{b}}
z
a
{\displaystyle \mathbf {z} _{a}}
z
b
{\displaystyle \mathbf {z} _{b}}
r
a
b
{\displaystyle r_{ab}}
(
a
,
b
)
{\displaystyle (a,b)}
因子分析のパラメータと変数は幾何学的に解釈できる。データ( )、因子( )、誤差( )は、それぞれ 、 と 表される -次元ユークリッド空間(標本空間)のベクトルとして捉えることができる 。データは標準化されているため、データベクトルは単位長( )である。因子ベクトルは この空間において -次元線形部分空間(すなわち超平面)を定義し、データベクトルはその超平面に直交投影される。これはモデル方程式から導かれる。
z
a
i
{\displaystyle z_{ai}}
F
p
i
{\displaystyle F_{pi}}
ε
a
i
{\displaystyle \varepsilon _{ai}}
N
{\displaystyle N}
z
a
{\displaystyle \mathbf {z} _{a}}
F
p
{\displaystyle \mathbf {F} _{p}}
ε
a
{\displaystyle {\boldsymbol {\varepsilon }}_{a}}
|
|
z
a
|
|
=
1
{\displaystyle ||\mathbf {z} _{a}||=1}
k
{\displaystyle k}
z
a
=
∑
p
ℓ
a
p
F
p
+
ε
a
{\displaystyle \mathbf {z} _{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}+{\boldsymbol {\varepsilon }}_{a}}
因子と誤差の独立性は 次のように表される。上記の例では、超平面は2つの因子ベクトルによって定義される2次元平面である。データベクトルを超平面に投影すると、次のようになる。
F
p
⋅
ε
a
=
0
{\displaystyle \mathbf {F} _{p}\cdot {\boldsymbol {\varepsilon }}_{a}=0}
z
^
a
=
∑
p
ℓ
a
p
F
p
{\displaystyle {\hat {\mathbf {z} }}_{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}}
そして、誤差は投影された点からデータ点へのベクトルであり、超平面に垂直です。因子分析の目的は、ある意味でデータに「最もよく適合する」超平面を見つけることです。したがって、この超平面を定義する因子ベクトルがどのように選択されるかは、それらが独立であり、超平面内に存在する限り、問題ではありません。因子ベクトルを直交ベクトルと正規ベクトル( )のどちらとして指定しても、一般性は損なわれません。適切な因子セットが見つかった後、それらを超平面内で任意に回転させることもできます。そうすれば、因子ベクトルの任意の回転は同じ超平面を定義し、解にもなります。結果として、上記の例では、フィッティング超平面が2次元であるため、2種類の知能が相関していないことを事前に知らなければ、2つの因子を2つの異なる知能として解釈することはできません。たとえ相関関係がなかったとしても、外部からの議論なしに、どの要因が言語的知能に対応し、どの要因が数学的知能に対応するのか、あるいは、これらの要因が両方の線形結合であるのかを判断することはできません。
F
p
⋅
F
q
=
δ
p
q
{\displaystyle \mathbf {F} _{p}\cdot \mathbf {F} _{q}=\delta _{pq}}
データベクトルの 長さは単位である。データの相関行列の各要素は で与えられる 。相関行列は、2つのデータベクトル との間の角度の余弦として幾何学的に解釈できる 。対角要素は明らかに s であり 、対角要素以外の要素の絶対値は1以下となる。「縮約相関行列」は次のように定義される。
z
a
{\displaystyle \mathbf {z} _{a}}
r
a
b
=
z
a
⋅
z
b
{\displaystyle r_{ab}=\mathbf {z} _{a}\cdot \mathbf {z} _{b}}
z
a
{\displaystyle \mathbf {z} _{a}}
z
b
{\displaystyle \mathbf {z} _{b}}
1
{\displaystyle 1}
r
^
a
b
=
z
^
a
⋅
z
^
b
{\displaystyle {\hat {r}}_{ab}={\hat {\mathbf {z} }}_{a}\cdot {\hat {\mathbf {z} }}_{b}}
。
因子分析の目的は、相関行列の対角要素(単位値を持つことが分かっている)を除いて、縮約相関行列が相関行列を可能な限り忠実に再現するように、フィッティング超平面を選択することです。言い換えれば、データの相互相関を可能な限り正確に再現することが目的です。具体的には、フィッティング超平面において、非対角成分の平均二乗誤差は
ε
2
=
∑
a
≠
b
(
r
a
b
−
r
^
a
b
)
2
{\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left(r_{ab}-{\hat {r}}_{ab}\right)^{2}}
を最小化する必要があるが、これは直交因子ベクトルの集合に関して最小化することによって達成される。
r
a
b
−
r
^
a
b
=
ε
a
⋅
ε
b
{\displaystyle r_{ab}-{\hat {r}}_{ab}={\boldsymbol {\varepsilon }}_{a}\cdot {\boldsymbol {\varepsilon }}_{b}}
右辺の項は、誤差の共分散に過ぎません。このモデルでは、誤差共分散は対角行列であると仮定されているため、上記の最小化問題は、実際にはモデルに「最もよく適合する」ものとなります。つまり、非対角成分が平均二乗の意味で最小化された誤差共分散の標本推定値が得られます。 これらはデータベクトルの直交射影であるため、その長さは射影されたデータベクトルの長さ(1)以下になることがわかります。これらの長さの二乗は、縮約された相関行列の対角要素に過ぎません。縮約された相関行列のこれらの対角要素は、「共通性」と呼ばれます。
z
^
a
{\displaystyle {\hat {z}}_{a}}
h
a
2
=
|
|
z
^
a
|
|
2
=
∑
p
ℓ
a
p
2
{\displaystyle {h_{a}}^{2}=||{\hat {\mathbf {z} }}_{a}||^{2}=\sum _{p}{\ell _{ap}}^{2}}
共通性の値が大きい場合、フィッティング超平面が相関行列をかなり正確に再現していることを示します。因子の平均値はゼロに制約される必要があり、したがって誤差の平均値もゼロになります。
実践的な実装
因子分析の種類
探索的因子分析
探索的因子分析(EFA)は、統一概念を構成する項目間の複雑な相互関係を特定し、項目をグループ化するために使用されます。 [4] 研究者は、因子間の関係性について 事前 に仮定を立てません。 [4]
確認因子分析
確証的因子分析(CFA)は、項目が特定の因子と関連しているという仮説を検定する、より複雑なアプローチです。 [4] CFAは 構造方程式モデリング を用いて測定モデルを検定し、因子への負荷によって観測変数と非観測変数の関係を評価できます。 [4] 構造方程式モデリング手法は測定誤差を許容でき、 最小二乗推定 よりも制約が少なくなっています。 [4] 仮説モデルは実際のデータに対して検定され、その分析によって観測変数の潜在変数(因子)への負荷と、潜在変数間の相関関係が示されます。 [4]
主成分分析 (PCA)は、EFAの第一段階である因子抽出に広く用いられている手法である。 [4] 因子重みは、可能な限り最大の分散を抽出するように計算され、意味のある分散がなくなるまで連続的に因子分解が続けられる。 [4] その後、因子モデルを回転させて分析を行う必要がある。 [4]
正準因子分析(Raoの正準因子分析とも呼ばれる)は、主軸法を用いるPCAと同じモデルを計算する異なる手法です。正準因子分析では、観測変数との正準相関が最も高い因子を探します。正準因子分析は、データの任意の再尺度化の影響を受けません。
共通因子分析は、 主因子分析 (PFA) または主軸因数分解 (PAF) とも呼ばれ、一連の変数の共通分散 (相関) を説明できる最小の因子を探します。
イメージ因数分解は、実際の変数ではなく予測変数の 相関行列 に基づいており、各変数は 多重回帰 を使用して他の変数から予測されます。
アルファ因数分解は、変数が変数母集団からランダムにサンプリングされることを前提として、因子の信頼性を最大化することを基本としています。他のすべての手法では、ケースがサンプリングされ、変数は固定されていると仮定しています。
因子回帰モデルは因子モデルと回帰モデルを組み合わせたモデルである。あるいは、因子が部分的に既知であるハイブリッド因子モデル [5] とみなすこともできる。
用語
因子負荷量
共通性は、項目の標準化された外部負荷量の二乗です。 ピアソンの決定係数R2 乗と同様に、二乗因子負荷量は、その指標変数の分散のうち、その因子によって説明される割合です。各因子によって説明されるすべての変数の分散の割合を得るには、その因子(列)の二乗因子負荷量の合計を加算し、変数の数で割ります。(標準化変数の分散は1であるため、変数の数はそれらの分散の合計に等しくなります。)これは、因子の 固有値 を変数の数で割ることと同じです。
検証的因子分析における経験則の一つとして、解釈にあたっては、事前に特定された独立変数が特定の因子によって表されていることを確認するために、因子負荷量は0.7以上であるべきとされています。これは、0.7水準が、その因子によって説明される指標の分散の約半分に相当するという理論に基づいています。しかし、0.7という基準は高い水準であり、実際のデータはこの基準を満たさない可能性も十分にあります。そのため、特に探索的な目的で、中心因子には0.4、その他の因子には0.25といったより低い水準を使用する研究者もいます。いずれにせよ、因子負荷量は、恣意的なカットオフ水準ではなく、理論に照らして解釈する必要があります。
斜交 回転では 、パターン行列と構造行列の両方を調べることができます。構造行列は、直交回転と同様に、単に因子負荷行列であり、測定変数の分散を、因子によって説明される固有寄与と共通寄与の両方に基づいて表します。一方、パターン行列は、固有寄与のみを表す 係数 を含みます。因子の数が多いほど、分散への共通寄与がより多く説明されるため、原則としてパターン係数は低くなります。斜交回転では、研究者は因子にラベルを付与する際に、構造係数とパターン係数の両方を考慮します。斜交回転の原理は、交差エントロピーとその双対エントロピーの両方から導き出すことができます。 [6]
共同体性
与えられた変数(行)における全因子の因子負荷量の二乗和は、その変数の分散が全因子によって説明されることを意味します。共通性は、与えられた変数の分散が全因子によって共同で説明される割合を測定するものであり、仮定されている因子の文脈における指標の信頼性として解釈することができます。
偽の解決策
共通性が 1.0 を超える場合、偽の解が存在し、これはサンプルが小さすぎるか、抽出する因子が多すぎるか少なすぎることを反映している可能性があります。
変数の一意性
変数の変動性からその共通性を引いたもの。
固有値/特性根
固有値は、各因子がサンプル全体に与える影響の大きさを測る指標です。固有値比は、変数に対する各因子の説明重要度の比です。ある因子の固有値が低い場合、その因子は変数の分散の説明にほとんど寄与しておらず、固有値の高い因子よりも重要度が低いと判断され、無視される可能性があります。
PCA抽出の場合、初期固有値と抽出後の固有値(SPSSでは「抽出二乗負荷量合計」として表示されます)は同じですが、他の抽出方法では、抽出後の固有値は初期固有値よりも低くなります。SPSSは「回転二乗負荷量合計」も出力しますが、PCAの場合でも、これらの固有値は初期固有値および抽出固有値とは異なりますが、合計は同じになります。
因子スコア
コンポーネントスコア(PCA)
因子分析の観点ではなく、PCA の観点から説明されています。
各ケース(行)の各因子(列)のスコア。あるケースの因子スコアを計算するには、各変数の標準化スコアに、その変数の当該因子に対する負荷量を乗じ、それらの積を合計します。因子スコアを計算することで、因子の外れ値を探すことができます。また、因子スコアは、後続のモデリングにおいて変数として用いることもできます。
要因の数を決定する基準
研究者は、因子保持に関して「私には理にかなっている」といった主観的または恣意的な基準を避けたいと考えています。この問題を解決するために、多くの客観的な手法が開発されており、ユーザーは調査すべき適切な解決策の範囲を決定できます。 [7] しかし、これらの異なる手法は、保持すべき因子の数に関して互いに意見が一致しないことがよくあります。例えば、 並列分析 では5因子が示唆されるのに対し、VelicerのMAPでは6因子が示唆される場合があり、研究者は5因子と6因子の両方の解決策を提示し、それぞれを外部データや理論との関係で議論することがあります。
現代の基準
ホーンの並列分析 (PA): [8] 観測された固有値を相関のない正規変数から得られた固有値と比較するモンテカルロベースのシミュレーション手法。関連する固有値がランダムデータから得られた固有値の分布の95パーセンタイルよりも大きい場合、因子または成分は保持されます。PAは、保持する成分の数を決定するための最も一般的に推奨されるルールの1つですが、 [7] [9] 多くのプログラムではこのオプションが含まれていません(注目すべき例外は R です)。 [10] しかし、 フォルマンは理論的および経験的証拠の両方を提供し、そのパフォーマンスは サンプルサイズ 、 項目の判別 、および 相関係数 のタイプによって大きく左右されるため、多くの場合、PAの適用は適切ではない可能性があるとしました 。 [11]
Velicer (1976) の MAP テスト [12] は、Courtney (2013) [13] が説明しているように、「完全な主成分分析と、それに続く一連の偏相関行列の検査を含む」(p. 397 (ただし、この引用は Velicer (1976) には記載されておらず、引用されているページ番号は引用のページ外にあります)。ステップ「0」の二乗相関 (図 4 を参照) は、偏りのない相関行列の平均二乗非対角相関です。ステップ 1 では、最初の主成分とそれに関連する項目が分割されます。その後、後続の相関行列の平均二乗非対角相関がステップ 1 について計算されます。ステップ 2 では、最初の 2 つの主成分が分割され、結果として得られる平均二乗非対角相関が再び計算されます。計算は k から 1 を引いたステップで実行されます (k は行列内の変数の総数を表します)。その後、平均二乗各ステップの相関関係を並べ、平均二乗偏相関が最も低かった分析のステップ番号によって、保持する成分または因子の数が決まります。 [12] この方法では、相関行列の分散が残差分散や誤差分散ではなく系統的分散を表す限り、成分は保持されます。方法論的には主成分分析に似ていますが、MAP手法は複数のシミュレーション研究で保持する因子の数を決定する際に非常に優れた性能を発揮することが示されています。 [7] [14] [15] [16]この手順は、SPSSのユーザーインターフェース [13] や Rプログラミング言語 の psychパッケージ [17] を通じて利用できます 。 [18]
古い方法
カイザー基準:カイザールールは、固有値が1.0未満のすべての要素を除外するというものである。これは、平均的な単一項目によって説明される情報と等しい固有値である。 [19]カイザー基準は SPSS やほとんどの 統計ソフトウェア のデフォルトである が、因子数を推定するための唯一のカットオフ基準として使用することは推奨されない。なぜなら、因子を過剰に抽出する傾向があるからである。 [20] この方法のバリエーションとして、研究者が各固有値の 信頼区間 を計算し、信頼区間全体が1.0を超える因子のみを保持するという方法も考案されている。 [14] [21]
スクリープロット : [22]
キャッテルのスクリー検定は、X軸に成分、 Y軸 にそれに対応する 固有値を プロットする。右に、つまり後の成分に向かって移動するにつれて、固有値は低下する。低下が止まり、曲線が緩やかな下降へと曲がると、キャッテルのスクリー検定では、曲がった部分から始まる成分以降のすべての成分を除外する。この規則は、研究者による「ごまかし」が起こりやすいという批判を受けることがある。つまり、曲線が複数の曲がったり滑らかな曲線であったりするため、「曲がった部分」の選択は主観的になりやすく、研究者は研究課題で望ましい因子の数でカットオフ値を設定しがちになる可能性がある。 [ 要出典 ]
分散説明基準:一部の研究者は、分散の90%(場合によっては80%)を説明するのに十分な因子数を維持するという単純なルールを採用しています。研究者の目標が簡潔 さ (分散を可能な限り少ない因子で説明する)を重視する場合、基準は50%程度まで下げられることもあります。
ベイズ法
潜在因子の数に事前分布 を適用し 、ベイズの定理を適用することで、ベイズモデルは 潜在因子の数に対する 確率分布を返すことができます。これは インド・バフェット過程 [23] を用いてモデル化されていますが、任意の離散事前分布(例えば 負の二項分布 )を成分の数に
適用することで、より簡便にモデル化できます。
回転方法
PCAの出力は、まず第一因子、次に第二因子、というように、第一因子によって説明される分散を最大化します。この手順の欠点は、ほとんどの項目が最初の因子に負荷されるのに対し、後続の変数に負荷される項目はごくわずかであることです。すべての質問が最初のいくつかの要素と強く相関しているのに対し、最後のいくつかの要素と強く相関している質問はごくわずかであるため、質問と負荷量の一覧を読み解くことで因子を解釈することが困難になります。
回転は、出力の解釈を容易にする役割を果たします。同じ主成分に対して 異なる基準を選択する こと、つまり、同じ相関構造を表現するために異なる因子を選択することで、より解釈しやすい変数を作成することができます。
回転は直交回転と斜交回転の2種類があり、斜交回転では因子間の相関が認められます。 [24] この柔軟性の向上は、より多くの回転が可能になることを意味し、特定の目標達成により適した回転も存在する可能性があります。しかし、一部の情報が「二重カウント」され、異なる構成要素に複数回含まれるため、因子の解釈が困難になる可能性もあります。一部の因子は互いにほぼ重複しているように見える場合もあります。
直交法
直交回転には、スパース行 (各行がケース、つまり主題) を探すクラスと、スパース列 (各列が変数) を探すクラスの 2 つが広く存在します。
単純因子:これらの回転は、少数の重要な変数のみを用いてすべての因子を説明しようとします。この効果は、 バリマックス (最も一般的な回転)を用いることで実現できます。
単純変数:これらの回転は、少数の重要な因子のみを用いてすべての変数を説明しようとします。この効果は、 Quartimax またはPCAの回転されていない成分のいずれかを使用して実現できます。
両方:これらのローテーションは、上記の両方の目標の間で妥協を図ろうとしますが、その過程で、両方のタスクにおいて適合性が低い結果になる場合があります。そのため、上記の方法に比べてあまり人気がありません。Equamax は そのようなローテーションの1つです。
因子回転の問題
各変数が複数の因子に負荷をかけている場合、因子構造の解釈は困難になることがあります。データの小さな変化が因子回転基準のバランスを崩し、全く異なる因子回転が生じることがあります。そのため、異なる実験結果の比較が困難になることがあります。この問題は、世界中の文化の違いに関する異なる研究の比較によって例示されます。各研究は文化変数の異なる尺度を用いており、異なる回転の因子分析結果を生み出しています。各研究の著者は何か新しいものを発見したと信じ、発見した因子に新しい名前を付けました。その後、これらの研究を比較したところ、回転前の結果と比較した場合、結果はかなり類似していることがわかりました。因子回転という一般的な慣行は、異なる研究結果間の類似性を覆い隠してきました。 [25]
高次因子分析
高次因子分析 は、因子分析、斜交回転、回転因子の因子分析という手順を繰り返す統計手法です。その利点は、研究者が研究対象とする現象の階層構造を理解できるようにすることです。結果を解釈するには、 主因子パターン行列に高次因子パターン行列 を乗算し(Gorsuch, 1983)、その結果に バリマックス回転を適用する(Thompson, 1990)、あるいは主因子の 変動を 二次因子に帰属させるシュミット・ライマン解(SLS、Schmid & Leiman, 1957、シュミット・ライマン変換とも呼ばれる)のいずれ かの方法で進めます。
探索的因子分析(EFA)と主成分分析(PCA)
因子分析は 主成分分析 (PCA)と関連しているが、両者は同一ではない。 [26] この分野では、この2つの手法の違いについて大きな議論が交わされてきた。PCAは、高速コンピュータが登場する以前の初期に開発された 探索的因子分析 (EFA)のより基本的なバージョンと考えることができる。PCAと因子分析はどちらもデータセットの次元を削減することを目的としていますが、そのアプローチは2つの手法で異なる。因子分析は明らかに観測変数から特定の観測不可能な因子を特定することを目的として設計されているのに対し、PCAはこの目的に直接取り組むものではなく、せいぜい必要な因子の近似値を提供するに過ぎない。 [27] 探索的分析の観点から見ると、 PCAの 固有値 は過大な成分負荷、すなわち誤差分散によって汚染されている。 [28] [29] [30] [31] [32] [33]
EFA と PCAは 統計学の一部の分野では同義の手法として扱われているが 、これには批判もある。 [34] [35]因子分析は「 根底にある因果構造の仮定 を扱う 。つまり、観測変数の共変動は、これらの観測変数に因果的影響を及ぼす1つ以上の潜在変数(因子)の存在に起因すると仮定する」。 [36] 一方、PCAはそのような根底にある因果関係を仮定することも、それに依存することもない。研究者たちは、この2つの手法の違いは、分析目標に基づいてどちらか一方を他方よりも優先することに客観的な利点があることを意味する可能性があると主張している。因子モデルが誤って定式化されていたり、仮定が満たされていなかったりすると、因子分析は誤った結果をもたらす。因子分析は、システムを十分に理解し、適切な初期モデル定式化が可能な場合に効果的に利用されてきた。PCAは、共分散行列の形状に関する仮定を一切置かずに、元のデータへの数学的変換を行う。 PCAの目的は、元の変数の線形結合を決定し、多くの情報を失うことなくデータセットを要約するために使用できるいくつかの変数を選択することです。 [37]
PCAとEFAを対比する議論
ファブリガーら(1999) [34] は、PCAが因子分析と同等ではないことを示唆するいくつかの理由を述べている。
PCAは因子分析よりも計算速度が速く、必要なリソースも少ないと指摘されることがあります。Fabrigarらは、容易に利用できるコンピュータリソースによって、この実用上の懸念は無関係になったと示唆しています。
PCAと因子分析は類似した結果を生み出す可能性があります。この点はFabrigarらも指摘しており、共通度が低い場合(例えば0.4)など、特定のケースでは2つの手法で異なる結果が得られます。実際、Fabrigarらは、データが共通因子モデルの仮定に一致する場合、PCAの結果は不正確であると主張しています。
因子分析において「ヘイウッド事例」に至るケースがいくつかあります。これは、測定変数の 分散 の100%以上がモデルによって説明されると推定される状況を指します。Fabrigarらは、これらの事例は研究者にとって有益な情報であり、モデルの仕様が不正確であるか、共通因子モデルに違反していることを示していると示唆しています。PCAアプローチではヘイウッド事例がほとんど見られないため、このような問題が見過ごされてしまう可能性があります。
研究者はPCAアプローチから、例えば特定の構成要素における個人のスコアといった追加情報を得ることができますが、このような情報は因子分析からは得られません。しかし、Fabrigarらが主張するように、因子分析の典型的な目的、すなわち測定変数間の 相関 構造を説明する因子を特定することは、因子スコアの知識を必要としないため、この利点は打ち消されます。因子分析から因子スコアを計算することも可能なのです。
分散と共分散
因子分析は測定に内在する ランダム誤差を 考慮に入れるが、主成分分析はそれを考慮に入れない。この点はBrown (2009) [38] によって例示されており、彼は計算に用いられる相関行列に関して次のように述べている。
PCAでは、対角線に1.00が置かれるため、行列内のすべての分散(各変数固有の分散、変数間で共通する分散、誤差分散を含む)を考慮することになります。したがって、定義上、変数内のすべての分散が含まれます。一方、EFAでは、共通性が対角線に置かれるため、他の変数と共有する分散のみを考慮することになります(各変数固有の分散と誤差分散は除く)。したがって、定義上、変数間で共通する分散のみが含まれます。
— ブラウン(2009)主成分分析と探索的因子分析 - 定義、相違点、選択肢
このため、Brown (2009) は、変数間の関係についての理論的な考えが存在する場合には因子分析を使用することを推奨していますが、研究者の目的がデータ内のパターンを調査することである場合は PCA を使用する必要があります。
手順と結果の違い
PCAと因子分析(FA)の違いは、Suhr(2009)によってさらに説明されている。 [35]
PCA は観測変数の最大分散を考慮する主成分を導き出します。一方、FA は データ内の 共通分散を考慮します。
PCA は相関行列の対角に 1 を挿入します。FA は、相関行列の対角を固有の因子で調整します。
PCA は、コンポーネント軸に対する垂直距離の二乗の合計を最小化します。FA は、観測された変数に対する応答に影響を与える要因を推定します。
PCA のコンポーネント スコアは、 固有ベクトル で重み付けされた観測変数の線形結合を表します。FA の観測変数は、基礎となる要因と固有の要因の線形結合です。
PCA では、生成されたコンポーネントは解釈不可能です。つまり、基礎となる「構成」を表しません。FA では、正確なモデル仕様が与えられれば、基礎となる構成にラベルを付けて簡単に解釈できます。
心理測定学では
歴史
チャールズ・スピアマンは 共通因子分析について議論した最初の心理学者であり [39] 、1904年の論文 [40] でそれを行いました。その論文では彼の手法についての詳細はほとんど示されておらず、単一因子モデルに焦点を当てていました。 [41] 彼は、一見無関係に見える多種多様な科目における学童の成績が正の相関関係にあることを発見し、単一の一般的な精神的能力、つまり g が人間の認知能力の根底にあり、それを形作っているという仮説を立てました。
複数因子を用いた共通因子分析の初期開発は、 ルイス・サーストン によって1930年代初頭に発表された2つの論文 [42] [43] で示され、1935年の著書『 心のベクトル 』にまとめられている。 [44] サーストンは、共通性、独自性、回転といったいくつかの重要な因子分析概念を導入した。 [45] 彼は「単純な構造」を提唱し、そのような構造を実現するための回転法を開発した。 [39]
Q法 において 、 スピアマンの弟子である ウィリアム・スティーブンソンは 、個人間の差異の研究に向けられた R 因子分析と、主観的な個人内の差異に向けられた Q因子分析を区別している。 [46] [47]
レイモンド・キャッテルは 因子分析と 心理測定学 の強力な支持者であり、サーストンの多因子理論を用いて知能を説明しました。また、 スクリーテスト と類似度係数も開発しました。
心理学への応用
因子分析は、様々なテストにおける多様な結果を説明する「要因」を特定するために用いられます。例えば、知能に関する研究では、言語能力のテストで高得点を獲得した人は、言語能力を必要とする他のテストでも優秀な成績を収めることが明らかになりました。研究者たちは、因子分析を用いて、言語能力を含む問題を解く能力の程度を表す「言語知能」と呼ばれる一つの要因を特定することで、このことを説明しました。 [ 要出典 ]
心理学における因子分析は、知能研究と関連付けられることが多い。しかし、性格、態度、信念など、幅広い領域における因子の発見にも用いられてきた。因子分析は、ある尺度が仮定された因子を実際に測定しているかどうかを調べることで、尺度の妥当性を評価できるため、 心理測定学 と関連している。 [ 要出典 ]
利点
2つ以上の変数を1つの因子に統合することで、変数の数を削減します。例えば、ランニング、ボール投げ、バッティング、ジャンプ、ウェイトリフティングなどのパフォーマンスは、一般的な運動能力といった1つの因子に統合できます。通常、項目別人名マトリックスでは、関連する項目をグループ化することで因子が選択されます。Q因子分析では、マトリックスを転置し、関連する人をグループ化することで因子を作成します。例えば、リベラル派、リバタリアン派、保守派、社会主義者はそれぞれ別々のグループに分けられる可能性があります。
相互に関連する変数のグループを特定し、それらが互いにどのように関連しているかを解明すること。例えば、キャロルは因子分析を用いて 三層理論 を構築しました。彼は、「広域視覚知覚」と呼ばれる因子が、視覚課題の能力と関連していることを発見しました。また、「広域聴覚知覚」という因子も、聴覚課題の能力と関連していることを発見しました。さらに、彼は「広域視覚知覚」と「広域聴覚知覚」の両方に関連する「g」または一般知能と呼ばれる全体的因子を発見しました。これは、「g」が高い人は「視覚知覚」能力と「聴覚知覚」能力の両方が高い可能性が高く、したがって「g」は、人がこれらの両方の領域で優れているか劣っているかの理由の大部分を説明することを意味します。
デメリット
「…それぞれの方向は数学的には同等に受け入れられる。しかし、異なる因子理論は、与えられた解に対する因子軸の方向に関して、他の点と同様に大きく異なることが証明されたため、モデルフィッティングは理論間の区別に役立たないことが判明した。」(Sternberg, 1977 [48] )。これは、すべての回転が異なる基礎プロセスを表しているが、すべての回転は標準的な因子分析最適化の結果として同等に妥当であることを意味する。したがって、因子分析のみを使用して適切な回転を選択することは不可能である。
因子分析は、データが許す限りの精度しか得られません。心理学では、研究者は自己申告など、妥当性や信頼性の低い指標に頼らざるを得ないことが多く、この点が問題となる場合があります。
因子分析の解釈は、「ヒューリスティック」、つまり「絶対的に正しいわけではないが便利な」解決策を用いることに基づいています。 [49] 同じデータを同じ方法で因子分解しても、複数の解釈が成り立つ可能性があり、因子分析では因果関係を特定することはできません。
異文化研究において
因子分析は異文化研究において頻繁に用いられる手法であり、文化的次元 の抽出を目的としています。 最もよく知られている文化的次元モデルは、 ヘルト・ ホフステード、 ロナルド・イングルハート 、 クリスチャン・ウェルツェル 、 シャローム・シュワルツ 、マイケル・ミンコフによって構築されたものです。よく知られている視覚化モデルとしては、 イングルハートとウェルツェルの世界文化地図 があります。 [25]
政治学では
1965年初頭の研究では、世界中の政治体制を因子分析によって分析し、関連する理論モデルと研究を構築し、政治体制を比較し、類型的なカテゴリーを作成しました。 [50] これらの目的のために、この研究では、アクセス、差別化、コンセンサス、セクショナリズム、正当化、利益、リーダーシップという、幅広い政治行動に関連する7つの基本的な政治的次元が特定されています。理論と研究。
他の政治学者は、1988年の全米選挙調査に追加された4つの新しい質問を用いて、内的政治的効力の測定方法を検討している。因子分析の結果、これらの項目は外的効力や政治的信頼とは異なる単一の概念を測定しており、これらの4つの質問は当時としては最も優れた内的政治的効力の尺度であったことが明らかになった。 [51]
マーケティングでは
基本的な手順は次のとおりです。
このカテゴリーの 製品を 評価するために消費者が使用する顕著な属性を特定します。
定量的なマーケティング調査手法 ( アンケート など) を使用して、 すべての製品属性に対する評価に関する潜在的 顧客 のサンプルからデータを収集します。
データを統計プログラムに入力し、因子分析を実行します。コンピューターは、データの根底にある属性(または因子)のセットを生成します。
これらの要素を使用して、 知覚マップ やその他の 製品ポジショニング デバイスを構築します。
データ収集段階は通常、マーケティングリサーチの専門家によって行われます。調査では、回答者に製品サンプルまたは製品コンセプトの説明を様々な属性に基づいて評価するよう求めます。選択される属性は5~20個程度です。例えば、使いやすさ、重量、精度、耐久性、色彩、価格、サイズなどが挙げられます。選択される属性は調査対象となる製品によって異なります。調査対象となるすべての製品について、同じ質問が行われます。複数の製品のデータはコード化され、 R 、 SPSS 、 SAS 、 Stata 、 STATISTICA 、JMP、SYSTATなどの統計プログラムに入力されます。
分析
分析では、関連マトリックスを使用して、データを説明する根本的な要因を分離します。 [52] 因子分析は相互依存性の手法です。相互依存関係の完全なセットが調べられます。従属変数、独立変数、因果関係は指定されません。因子分析では、さまざまな属性のすべての評価データをいくつかの重要な次元に縮小できることを前提としています。この縮小は、一部の属性が互いに関連している可能性があるために可能です。1つの属性に与えられた評価は、部分的には他の属性の影響の結果です。統計アルゴリズムは、評価(生のスコアと呼ばれる)をさまざまなコンポーネントに分解し、部分スコアを根本的な因子スコアに再構築します。最初の生のスコアと最終的な因子スコア間の相関の度合いは、因子 負荷 と呼ばれます。
利点
主観的属性をスコアに変換できる場合は、客観的属性と主観的属性の両方を使用できます。
因子分析では、直接的な分析では識別できない潜在的な次元や構成を識別できます。
簡単で安価です。
デメリット
有用性は、研究者が十分な製品属性を収集できるかどうかに左右されます。重要な属性が除外されたり、無視されたりすると、手順の価値は低下します。
観測変数の集合が互いに非常に類似しており、他の項目と異なる場合、因子分析ではそれらに単一の因子が割り当てられます。これにより、より興味深い関係を示す因子が見落とされる可能性があります。 [ 説明が必要 ]
一見異なる属性が未知の理由で強く相関している可能性があるため、命名要素には理論の知識が必要になる場合があります。
物理科学と生物科学
因子分析は、 地球化学 、 水化学 、 [53] 天体物理学 、 宇宙論などの物理科学だけでなく、 生態学 、 分子生物学、神経科学 、生化学 など の 生物科学 でも広く利用されている 。
地下水質管理においては、異なる化学パラメータの空間分布を、異なる化学的特徴を持つ様々な発生源と関連付けることが重要です。例えば、硫化物鉱山は、高レベルの酸性度、溶解性硫酸塩、遷移金属と関連している可能性が高いです。これらの特徴は、Rモード因子分析によって因子として特定することができ、因子スコアを等高線図にすることで、発生源の可能性のある位置を推定することができます。 [54]
地球化学 では 、異なる因子が異なる鉱物の組み合わせに対応し、したがって鉱化作用に対応する可能性がある。 [55]
マイクロアレイ解析では
因子分析は、 Affymetrix GeneChipの高密度 オリゴヌクレオチド DNAマイクロアレイの データをプローブレベルで要約するために使用できます 。この場合、潜在変数は サンプル中の RNA濃度に対応します。 [56]
実装
因子分析は 1980 年代以降、いくつかの統計分析プログラムに実装されてきました。
スタンドアロン
参照
注記
^ この例では、「言語的知能」と「数学的知能」は潜在変数です。直接観察されないという事実が、これらを潜在変数にしているのです。
参考文献
^ Jöreskog, Karl G. (1983). 「変数内エラーモデルとしての因子分析」. 現代心理測定の原理 . ヒルズデール: Erlbaum. pp. 185– 196. ISBN 0-89859-277-1 。
^ バンダロス、デボラ・L. (2017). 『社会科学のための測定理論と応用』 ギルフォード・プレス.
^ abc ハーマン、ハリー・H. (1976). 現代因子分析 . シカゴ大学出版局. pp. 175, 176. ISBN 978-0-226-31652-9 。
^ abcdefghi Polit DF Beck CT (2012). 『看護研究:看護実践のためのエビデンスの生成と評価』第9版 . フィラデルフィア、米国:Wolters Klower Health、Lippincott Williams & Wilkins.
^ Meng, J. (2011). 「非負性ハイブリッド因子モデルを用いた神経膠芽腫におけるマイクロRNAと転写因子による協調的遺伝子制御の解明」 国際音響・音声・信号処理会議 。2011年11月23日時点のオリジナルよりアーカイブ。
^ Liou, C.-Y.; Musicus, BR (2008). 「構造化ガウス共分散行列の交差エントロピー近似」 (PDF) . IEEE Transactions on Signal Processing . 56 (7): 3362– 3367. Bibcode :2008ITSP...56.3362L. doi :10.1109/TSP.2008.917878. S2CID 15255630.
^ abc Zwick, William R.; Velicer, Wayne F. (1986). 「保持すべき成分の数を決定するための5つのルールの比較」 Psychological Bulletin . 99 (3): 432– 442. doi :10.1037/0033-2909.99.3.432.
^ Horn, John L. (1965年6月). 「因子分析における因子数の根拠と検定」 Psychometrika . 30 (2): 179– 185. doi :10.1007/BF02289447. PMID 14306381. S2CID 19663974.
^ Dobriban, Edgar (2017-10-02). 「因子分析とPCAのための順列法」 arXiv : 1710.00479v2 [math.ST].
^ * Ledesma, RD; Valero-Mora, P. (2007). 「EFAにおける保持すべき因子数の決定:並列分析を実行するための使いやすいコンピュータプログラム」. 実用評価研究・評価 . 12 (2): 1– 11.
^ Tran, US, & Formann, AK (2009). バイナリデータが存在する場合の一次元性検索における並列分析の性能. 教育心理測定, 69, 50-61.
^ ab Velicer, WF (1976). 「偏相関行列からの成分数の決定」 Psychometrika . 41 (3): 321– 327. doi :10.1007/bf02293557. S2CID 122907389.
^ ab Courtney, MGR (2013). EFAにおける保持すべき因子数の決定:SPSS R-Menu v2.0を用いたより慎重な推定. Practical Assessment, Research and Evaluation, 18(8). オンラインで入手可能: http://pareonline.net/getvn.asp?v=18&n=8 2015年3月17日アーカイブ Wayback Machine
^ ab Warne, RT; Larsen, R. (2014). 「探索的因子分析における因子数決定のためのGuttman則の修正案の評価」 心理テスト・評価 モデリング 56 : 104–123 .
^ Ruscio, John; Roche, B. (2012). 「因子構造が既知の比較データを用いた探索的因子分析における保持因子数の決定」 心理学的評価 . 24 (2): 282– 292. doi :10.1037/a0025697. PMID 21966933.
^ Garrido, LE, & Abad, FJ, & Ponsoda, V. (2012). 順序変数を用いたHornの並列分析の新たな考察. 心理学的方法. オンライン先行出版. doi :10.1037/a0030005
^ Revelle, William (2007). 「因子数の決定:NEO-PI-Rの例」 (PDF) .
^ Revelle, William (2020年1月8日). 「psych: 心理学、心理測定学、および人格研究の手順」.
^ カイザー, ヘンリー F. (1960年4月). 「因子分析への電子計算機の応用」. 教育心理測定 . 20 (1): 141– 151. doi :10.1177/001316446002000116. S2CID 146138712.
^ Bandalos, DL; Boehm-Kaufman, MR (2008). 「探索的因子分析における4つのよくある誤解」. Lance, Charles E.; Vandenberg, Robert J. (編). 統計的・方法論的神話と都市伝説:組織科学と社会科学における教義、真実、そして作り話 . Taylor & Francis. pp. 61– 87. ISBN 978-0-8058-6237-9 。
^ Larsen, R.; Warne, RT (2010). 「探索的因子分析における固有値の信頼区間の推定」. 行動研究方法 . 42 (3): 871– 876. doi : 10.3758/BRM.42.3.871 . PMID 20805609.
^ Cattell, Raymond (1966). 「因子数に関するスクリーテスト」. 多変量行動研究 . 1 (2): 245–76 . doi :10.1207/s15327906mbr0102_10. PMID 26828106.
^ Alpaydin (2020). 機械学習入門 (第5版). pp. 528–9 .
^ 「因子回転法」. Stack Exchange . 2022年 11月7日 閲覧 。
^ ab Fog, A (2022). 「文化差異の二次元モデル:統計的・理論的分析」 (PDF) . Cross-Cultural Research . 57 ( 2–3 ): 115–165 . doi :10.1177/10693971221135703. S2CID 253153619.
^ Bartholomew, DJ; Steele, F.; Galbraith, J.; Moustaki, I. (2008). 多変量社会科学データの分析 . 社会・行動科学統計シリーズ(第2版). Taylor & Francis. ISBN 978-1584889601 。
^ Jolliffe IT 主成分分析 、シリーズ:Springer Series in Statistics、第2版、Springer、NY、2002、XXIX、487ページ、28ページ、イラスト、 ISBN 978-0-387-95442-4
^ Cattell, RB (1952). 因子分析 . ニューヨーク: ハーパー.
^ Fruchter, B. (1954). 因子分析入門 . Van Nostrand.
^ Cattell, RB (1978). 『行動科学と生命科学における因子分析の活用』 ニューヨーク: Plenum.
^ Child, D. (2006). 『因子分析のエッセンス』第3版 . Bloomsbury Academic Press.
^ Gorsuch, RL (1983). 『因子分析』第2版 . ヒルズデール, ニュージャージー: Erlbaum.
^ マクドナルド, RP (1985). 因子分析と関連手法 . ヒルズデール, ニュージャージー: エルバウム.
^ ab Fabrigar; et al. (1999). 「心理学研究における探索的因子分析の利用の評価」 (PDF) . 心理学的方法.
^ ab Suhr, Diane (2009). 「主成分分析と探索的因子分析」 (PDF) . SUGI 30 Proceedings . 2012年 4月5日 閲覧 .
^ SAS統計。「主成分分析」 (PDF) 。SAS サポートテキストブック 。
^ Meglen, RR (1991). 「大規模データベースの検証:主成分分析を用いたケモメトリックスアプローチ」. Journal of Chemometrics . 5 (3): 163– 179. doi :10.1002/cem.1180050305. S2CID 120886184.
^ Brown, JD (2009年1月). 「主成分分析と探索的因子分析 – 定義、相違点、選択肢」 (PDF) . Shiken: JALTテスト&評価SIGニュースレター. 2012年 4月16日 閲覧 .
^ ab Mulaik, Stanley A (2010). 『因子分析の基礎』第2版 . フロリダ州ボカラトン: CRC Press. p. 6. ISBN 978-1-4200-9961-4 。
^ スピアマン、チャールズ (1904). 「一般知能の客観的な測定と決定」. アメリカ心理学会誌 . 15 (2): 201– 293. doi :10.2307/1412107. JSTOR 1412107.
^ Bartholomew, DJ (1995). 「スピアマンと因子分析の起源と発展」. 英国数学統計心理学ジャーナル . 48 (2): 211– 220. doi :10.1111/j.2044-8317.1995.tb01060.x.
^ サーストン、ルイス (1931). 「多因子分析」. 心理学評論 . 38 (5): 406– 427. doi :10.1037/h0069792.
^ サーストン、ルイス (1934). 「心のベクトル」. 心理学評論 . 41 : 1–32 . doi :10.1037/h0075959.
^ サーストン、LL(1935) 『心のベクトル:主要特性の分離のための多因子分析』 シカゴ、イリノイ州:シカゴ大学出版局。
^ ボック, ロバート (2007). 「サーストンの再考」. ロバート・クデック, ロバート・C. マッカラム (編). 『因子分析100』 . ニュージャージー州マホワ: ローレンス・アールバウム・アソシエイツ. p. 37. ISBN 978-0-8058-6212-6 。
^ Mckeown, Bruce (2013-06-21). Qメソッド . SAGE Publications. ISBN 9781452242194 . OCLC 841672556。
^ Stephenson, W. (1935年8月). 「因子分析の技法」. Nature . 136 (3434): 297. Bibcode :1935Natur.136..297S. doi : 10.1038/136297b0 . ISSN 0028-0836. S2CID 26952603.
^ スターンバーグ、RJ (1977). 『心のメタファー:知性の本質に関する概念 』 ニューヨーク:ケンブリッジ大学出版局. pp. 85– 111. [ 確認が必要です ]
^ “Factor Analysis”. 2004年8月18日時点のオリジナルよりアーカイブ 。 2004年 7月22日 閲覧。
^ グレッグ、フィリップ・M.; バンクス、アーサー・S. (1965). 「政治システムの次元:クロスポリティ調査の因子分析」 アメリカ政治学評論 . 59 (3): 602– 614. doi :10.2307/1953171. JSTOR 1953171. S2CID 145459216.
^ リチャード・G・ニーミ、スティーブン・C・クレイグ、フランコ・マッテイ(1991年12月) 「1988年全国選挙調査における内部政治効力の測定」 アメリカ 政治学評論 、 85 (4): 1407-1413 . doi :10.2307/1963953. ISSN 0003-0554. JSTOR 1963953. S2CID 146641381.
^ Ritter, N. (2012). 因子分析における分布を考慮しない手法と分布を考慮しない手法の比較. 南西教育研究協会 (SERA) カンファレンス 2012 (ルイジアナ州ニューオーリンズ) 発表論文 (ED529153).
^ スッバラオ、C.;ネバダ州スッバラオ。サウスカロライナ州チャンドゥ(1996 年 12 月)。 「要因分析を使用した地下水汚染の特性評価」。 環境地質学 。 28 (4): 175–180 。 書誌コード :1996EnGeo..28..175S。 土井 :10.1007/s002540050091。 S2CID 129655232。
^ Love, D.; Hallbauer, DK; Amos, A.; Hranova, RK (2004). 「地下水質管理における因子分析ツール:南アフリカにおける2つの事例研究」. 『 地球の物理と化学』 29 ( 15–18 ) : 1135–43 . Bibcode :2004PCE....29.1135L. doi :10.1016/j.pce.2004.09.027.
^ Barton, ES; Hallbauer, DK (1996). 「南アフリカ、トランスバール・シーケンス、原生代ブラックリーフにおける黄鉄鉱の微量元素およびU-Pb同位体組成:起源と年代への影響」. 化学地質学 . 133 ( 1–4 ): 173– 199. Bibcode :1996ChGeo.133..173B. doi :10.1016/S0009-2541(96)00075-7.
^ ホッホライター、ゼップ;クレベール、ジョルク=アルネ。オーバーマイヤー、クラウス (2006)。 「affymetrixプローブレベルデータの新しい要約方法」。 バイオインフォマティクス 。 22 (8): 943–9 . 土井 : 10.1093/bioinformatics/btl033 。 PMID 16473874。
^ "sklearn.decomposition.FactorAnalysis — scikit-learn 0.23.2 ドキュメント". scikit-learn.org .
^ MacCallum, Robert (1983年6月). 「SPSS、BMDP、SASにおける因子分析プログラムの比較」 Psychometrika . 48 (2): 223– 231. doi :10.1007/BF02294017. S2CID 120770421.
さらに読む
チャイルド、デニス(2006年)、因子分析の基本(第3版)、 コンティニュアムインターナショナル 、 ISBN 978-0-8264-8000-2 。
Fabrigar, LR; Wegener, DT; MacCallum, RC; Strahan, EJ (1999年9月). 「心理学研究における探索的因子分析の活用の評価」. 心理学的方法 . 4 (3): 272– 299. doi :10.1037/1082-989X.4.3.272.
BT Gray (1997) 高次因子分析(会議論文)
Jennrich, Robert I.、「コンポーネント損失関数を使用した単純なローディングへの回転: 斜交の場合」、 Psychometrika 、第 71 巻、第 1 号、pp. 173–191、2006 年 3 月。
Katz, Jeffrey Owen、Rohlf, F. James. 「一次製品機能平面:単純な構造への斜め回転」 『多変量行動研究』 1975年4月、第10巻、219~232頁。
Katz, Jeffrey Owen, Rohlf, F. James. Functionplane: A new approach to simple structure rotation. Psychometrika , 1974年3月, 第39巻第1号, pp. 37–51.
Katz, Jeffrey Owen, Rohlf, F. James. 機能点クラスター分析. Systematic Zoology , 1973年9月, 第22巻, 第3号, pp. 295–301.
Mulaik, SA (2010), 因子分析の基礎 , Chapman & Hall 。
Preacher, KJ; MacCallum, RC (2003). 「トム・スウィフトの電気因子分析機の修理」 (PDF) . 統計学の理解 . 2 (1): 13– 43. doi :10.1207/S15328031US0201_02. hdl : 1808/1492 .
J.シュミットとJMライマン(1957)「階層的因子解法の開発」 Psychometrika 、22(1)、53-61。
トンプソン、B.(2004)、 探索的因子分析と確証的因子分析:概念と応用の理解 、ワシントンDC: アメリカ心理学会 、 ISBN 978-1591470939 。
Hans-Georg Wolff, Katja Preising (2005) シュミット・ライマン解法による項目構造および高次因子構造の探索:SPSSおよびSASの構文コード 行動研究方法、機器、コンピュータ 、37 (1), 48-58
外部リンク
ウィキメディア コモンズには、因子分析 に関連するメディアがあります 。