自己回帰和分移動平均

統計学や計量経済学で用いられる時系列分析において、自己回帰和分移動平均（ARIMA）モデルと季節ARIMA（SARIMA）モデルは、それぞれ自己回帰移動平均（ARMA）モデルを非定常系列と周期変動に一般化したものである。これらのモデルはすべて、時系列をより深く理解し、将来の値を予測するために時系列に適合される。これらの一般化の目的は、データに可能な限り適合させることである。具体的には、ARMAは系列が定常である、つまり期待値が時間的に一定であると仮定する。もし系列にトレンド（ただし分散／自己共分散は一定）がある場合、「差分」によってトレンドが除去され、[ 1 ]定常系列が残る。この操作はARMAを一般化し、ARIMAの「統合」部分に対応する。同様に、周期変動は「季節差分」によって除去される。[ 2 ]

コンポーネント

ARMAと同様に、ARIMAの「自己回帰」（AR）部分は、関心のある変数が過去の値に基づいて回帰されることを示します。「移動平均」（ MA）部分は、回帰誤差が、同時期および過去の様々な時点で発生した値を持つ誤差項の線形結合であることを示します。 [ 3 ]「統合」（I）部分は、データ値が各値と前の値との差に置き換えられていることを示します。

ウォルドの分解定理[ 4 ] [ 5 ] [ 6 ]によれば、ARMAモデルは、規則的な（つまり純粋に非決定的な[ 6 ]）広義の定常時系列を記述するのに十分である。このため、ARMAを使用する前に、例えば差分法を用いて、このような非定常時系列を定常化する必要がある。[ 7 ]

時系列に予測可能なサブプロセス（別名、純粋正弦波または複素数値指数関数[ 5 ]）が含まれている場合、その予測可能な要素はARIMAフレームワークでは平均がゼロではないが周期的な（つまり季節的な）要素として扱われ、季節差分によって除去されます。

数学的定式化

非季節性 ARIMA モデルは通常、 ARIMA( p , d , q ) と表記されます。ここで、パラメータp、d、qは負でない整数です。pは自己回帰モデルの次数（時間ラグの数）、dは差分の次数（データから過去の値が減算された回数）、qは移動平均モデルの次数です。季節性 ARIMA モデルは通常、 ARIMA( p、d、q )( P、D、Q ) mと表記されます。ここで、大文字のP、D、Qは、ARIMA モデルの季節性部分の自己回帰項、差分項、移動平均項であり、mは各季節の期間数です。[ 8 ] [ 2 ]パラメータのうち2つが0の場合、モデルは0以外のパラメータに基づいて参照され、頭字語から「AR」、「I」、または「MA」が省略されます。例えば、⁠ ⁠有馬（1、0、0）{\displaystyle {\text{ARIMA}}(1,0,0)}はAR(1)、⁠ ⁠有馬（0、1、0）{\displaystyle {\text{ARIMA}}(0,1,0)}はI(1)、⁠ ⁠有馬（0、0、1）{\displaystyle {\text{ARIMA}}(0,0,1)}はMA(1)です。

時系列データX t（ tは整数インデックス、X tは実数）が与えられた場合、モデルは次のように与えられる。 アルマ（p′、q）{\displaystyle {\text{ARMA}}(p',q)}

Xt−α1Xt−1−⋯−αp′Xt−p′＝εt+θ1εt−1+⋯+θqεt−q、{\displaystyle X_{t}-\alpha _{1}X_{t-1}-\dots -\alpha _{p'}X_{tp'}=\varepsilon _{t}+\theta _{1}\varepsilon _{t-1}+\cdots +\theta _{q}\varepsilon _{tq},}

または同等に

（1−∑私＝1p′α私L私）Xt＝（1+∑私＝1qθ私L私）εt{\displaystyle \left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,}

ここで、 はラグ演算子、 はモデルの自己回帰部分のパラメータ、 は移動平均部分のパラメータ、 は誤差項です。誤差項は一般に、平均ゼロの 正規分布からサンプリングされた、独立かつ同一分布に従う変数であると仮定されます。L{\displaystyle L}α私{\displaystyle \alpha _{i}}θ私{\displaystyle \theta_{i}}εt{\displaystyle \varepsilon _{t}}εt{\displaystyle \varepsilon _{t}}

多項式に重複度dの単位根（因数）がある場合、次のように書き直すことができます。 （1−∑私＝1p′α私L私）{\displaystyle \textstyle \left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)}（1−L）{\displaystyle (1-L)}

（1−∑私＝1p′α私L私）＝（1−∑私＝1p′−dφ私L私）（1−L）d。{\displaystyle \left(1-\sum _{i=1}^{p'}\alpha _{i}L^{i}\right)=\left(1-\sum _{i=1}^{p'-d}\varphi _{i}L^{i}\right)\left(1-L\right)^{d}.}

ARIMA( p , d , q )プロセスは、この多項式因数分解特性をp = p'−dで表現し、次のように表されます。

（1−∑私＝1pφ私L私）（1−L）dXt＝（1+∑私＝1qθ私L私）εt{\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,}

そして、これはd個の単位根を持つ自己回帰多項式を持つARMA( p+d , q )過程の特殊なケースです。（これが、 d  > 0のARIMAモデルによって正確に記述される過程が広義の定常ではない理由です。）

上記は以下のように一般化できます。

（1−∑私＝1pφ私L私）（1−L）dXt＝δ+（1+∑私＝1qθ私L私）εt。{\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)(1-L)^{d}X_{t}=\delta +\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}.\,}

これはドリフトを持つARIMA( p , d , q )プロセスを定義します。 δ1−∑φ私{\displaystyle {\frac {\delta }{1-\sum \varphi _{i}}}}

その他の特殊形式

上記のように自己回帰多項式を因子に分解する明示的な識別は、他のケースにも拡張できます。まず、移動平均多項式に適用し、次に他の特別な因子を含めることができます。たとえば、モデルに因子を含めることは、期間sの非定常季節性をモデルに含める1つの方法です。この因子には、データをs期間前の変化として再表現する効果があります。もう1つの例は、期間 2 の（非定常）季節性を含む因子です。 最初のタイプの因子の効果は、各季節の値が時間の経過とともに個別にドリフトできるようにすることです。一方、2番目のタイプの因子の効果は、隣接する季節の値が一緒に移動します。 （1−Ls）{\displaystyle (1-L^{s})}（1−3L+L2）{\displaystyle \left(1-{\sqrt {3}}L+L^{2}\right)}

ARIMA モデルで適切な要素を識別して指定することは、モデリングにおいて重要なステップとなります。これにより、推定するパラメータの総数を削減できると同時に、論理と経験から予測される動作の種類をモデルに適用できるようになります。

差分化

定常時系列の特性は変化しません。具体的には、広義の定常時系列では、平均と分散／自己共分散は時間経過に伴って一定です。統計学における差分化とは、非定常時系列に対してトレンド定常化（つまり、平均の意味で定常化）させるために適用される変換であり、トレンドまたは非一定な平均を除去または減算します。ただし、分散または自己共分散の非定常性には影響しません。同様に、季節差分化または季節除去は、時系列から季節成分を除去するために適用されます。

信号処理、特にフーリエスペクトル解析理論の観点から見ると、トレンドは系列のスペクトルにおける低周波成分であり、季節は周期周波数成分である。したがって、差分はハイパス（すなわちローストップ）フィルタであり、季節差分はくし形フィルタであり、それぞれ低周波トレンドと周期周波数季節をスペクトル領域（時間領域で直接抑制するのではなく）で抑制する。[ 7 ]

データの差分をとるには、連続する観測値間の差を計算します。数学的には、これは次のように表されます。

yt′＝yt−yt−1{\displaystyle y_{t}'=y_{t}-y_{t-1}\,}

定常時系列を得るために、データの差分を2回取る必要がある場合があります。これは2次差分と呼ばれます。

yt∗＝yt′−yt−1′＝（yt−yt−1）−（yt−1−yt−2）＝yt−2yt−1+yt−2{\displaystyle {\begin{aligned}y_{t}^{*}&=y_{t}'-y_{t-1}'\\&=(y_{t}-y_{t-1})-(y_{t-1}-y_{t-2})\\&=y_{t}-2y_{t-1}+y_{t-2}\end{aligned}}}

季節差分とは、ある観測値と、例えば前年の季節における対応する観測値との差を計算することです。これは以下のように表されます。

yt′＝yt−yt−メートルどこ メートル＝シーズンの長さ。{\displaystyle y_{t}'=y_{t}-y_{tm}\quad {\text{ここで }}m={\text{季節の長さ}}.}

差分データはARMAモデルの推定に使用されます。

例

いくつかのよく知られた特殊なケースは、自然に発生するか、他の一般的な予測モデルと数学的に同等です。例えば、

  • ARIMA(0, 0, 0)はホワイトノイズをモデル化します。
  • ARIMA(0, 1, 0)モデルはランダムウォークです。
  • ARIMA(0, 1, 2) モデルは Damped Holt モデルです。
  • 定数のないARIMA(0, 1, 1)モデルは基本的な指数平滑化モデルである。[ 9 ]
  • ARIMA(0, 2, 2)モデルは次のように与えられ、これはホルトの加法誤差線形法、つまり二重指数平滑法と同等である。[ 9 ]Xt＝2Xt−1−Xt−2+（α+β−2）εt−1+（1−α）εt−2+εt{\displaystyle X_{t}=2X_{t-1}-X_{t-2}+(\alpha +\beta -2)\varepsilon _{t-1}+(1-\alpha )\varepsilon _{t-2}+\varepsilon _{t}}

注文の選択

pとqの順序は、標本自己相関関数（ACF）、部分自己相関関数（PACF）、および/または拡張自己相関関数（EACF）法を使用して決定できます。[ 10 ]

その他の代替手法としては、AIC、BICなどがある[ 10 ]。季節性のないARIMAモデルの次数を決定するために有用な基準は、赤池情報量基準（AIC）である。これは次のように表される。

AIC＝−2ログ⁡（L）+2（p+q+け）、{\displaystyle {\text{AIC}}=-2\log(L)+2(p+q+k),}

ここで、Lはデータの尤度、pは自己回帰係数の次数、qは移動平均係数の次数です。kはARIMAモデルの切片を表します。AICの場合、k = 1のときはARIMAモデルに切片があり（c ≠ 0）、k = 0のときはARIMAモデルに切片はありません（c = 0）。

ARIMAモデルの補正AICは次のように表される。

AICc＝AIC+2（p+q+け）（p+q+け+1）T−p−q−け−1。{\displaystyle {\text{AICc}}={\text{AIC}}+{\frac {2(p+q+k)(p+q+k+1)}{Tpqk-1}}.}

ベイズ情報量基準（BIC）は次のように表される。

ビック＝AIC+（（ログ⁡T）−2）（p+q+け）。{\displaystyle {\text{BIC}}={\text{AIC}}+((\log T)-2)(p+q+k).}

目的は、優れたモデルを得るためにAIC、AICc、またはBICの値を最小化することです。調査対象となる様々なモデルにおいて、これらの基準のいずれかの値が低いほど、そのモデルはデータに適合していると言えます。AICとBICは全く異なる目的で用いられます。AICはモデルを現実の状況に近づけようとするのに対し、BICは完全に適合するモデルを見つけようとします。BICアプローチは、現実の複雑なデータに完全に適合するモデルは存在しないため、しばしば批判されます。しかしながら、AICよりも多くのパラメータを持つモデルに対して、より厳しいペナルティを課すため、選択においては依然として有用な手法です。

AICcは、差分の次数が同じARIMAモデルの比較にのみ使用できます。差分の次数が異なるARIMAモデルの比較には、RMSEを使用できます。

ARIMAモデルを使用した予測

ARIMAモデルは、2つのモデルの「カスケード」として捉えることができます。1つ目のモデルは非定常です。

はいt＝（1−L）dXt{\displaystyle Y_{t}=(1-L)^{d}X_{t}}

2番目は広義の定常です。

（1−∑私＝1pφ私L私）はいt＝（1+∑私＝1qθ私L私）εt。{\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)Y_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,.}

現在では、自己回帰予測法の一般化を使用して、プロセスの予測を行うことができます。 はいt{\displaystyle Y_{t}}

予測間隔

ARIMAモデルの予測区間（予測の信頼区間）は、残差が無相関かつ正規分布するという仮定に基づいています。これらの仮定のいずれかが成り立たない場合、予測区間は不正確になる可能性があります。そのため、研究者は予測区間を作成する前に、残差のACFとヒストグラムをプロットして仮定を確認します。

95% 予測区間: 、ここでは の分散です。 y^T+h∣T±1.96vT+h∣T{\displaystyle {\hat {y}}_{T+h\,\mid \,T}\pm 1.96{\sqrt {v_{T+h\,\mid \,T}}}}vT+h∣T{\displaystyle v_{T+h\mid T}}yT+h∣y1、…、yT{\displaystyle y_{T+h}\mid y_{1},\dots ,y_{T}}

の場合、パラメータと順序に関係なく、すべての ARIMA モデルに適用されます。 h＝1{\displaystyle h=1}vT+h∣T＝σ^2{\displaystyle v_{T+h\,\mid \,T}={\hat {\sigma }}^{2}}

ARIMA(0,0,q)の場合、yt＝et+∑私＝1qθ私et−私。{\displaystyle y_{t}=e_{t}+\sum _{i=1}^{q}\theta _{i}e_{ti}.}

vT+h∣T＝σ^2[1+∑私＝1h−1θ私et−私]、 のために h＝2、3、…{\displaystyle v_{T+h\,\mid \,T}={\hat {\sigma }}^{2}\left[1+\sum _{i=1}^{h-1}\theta _{i}e_{t-i}\right],{\text{ for }}h=2,3,\ldots }

一般に、ARIMA モデルからの予測間隔は、予測期間が長くなるにつれて長くなります。

バリエーションと拡張

ARIMAモデルの様々なバリエーションが一般的に採用されています。複数の時系列を使用する場合は、ベクトルとして考えることができ、VARIMAモデルが適切な場合があります。モデルに季節効果が疑われる場合があります。その場合は、モデルのARまたはMA部分の次数を増やすよりも、SARIMA（季節ARIMA）モデルを使用する方がよいと一般的に考えられています。[ 11 ] 時系列が長期依存性を示す疑いがある場合は、分数ARIMA（FARIMAまたはARFIMA）モデルとも呼ばれる自己回帰分数積分移動平均モデルで、 dパラメータに非整数値をとることが許可される場合があります。 Xt{\displaystyle X_{t}}

ソフトウェア実装

ARIMA モデルに適切なパラメータを見つけるために、 Box–Jenkinsパラメータ最適化などの方法論を適用するさまざまなパッケージが利用可能です。

  • EViews : 広範な ARIMA および SARIMA 機能を備えています。
  • Julia : TimeModelsパッケージにARIMA実装が含まれている[ 12 ]
  • Mathematica : ARIMAProcess関数が含まれています。
  • MATLAB :計量経済学ツールボックスにはARIMAモデルとARIMAエラーを含む回帰分析が含まれています
  • NCSS :ARIMAフィッティングと予測のためのいくつかの手順が含まれています。[ 13 ] [ 14 ] [ 15 ]
  • Python : 「statsmodels」パッケージには、時系列分析用のモデル（単変量時系列分析、AR、ARIMA（ベクトル自己回帰モデル）、VAR および構造 VAR（時系列分析の記述統計およびプロセス モデル））が含まれています。
  • R : 標準のR統計パッケージには、ARIMA関数が含まれています。ARIMA関数については、「ARIMA Modelling of Time Series」で説明されています。この関数は、 ⁠ ⁠ARIMA(p,d,q){\displaystyle {\text{ARIMA}}(p,d,q)}部分に加えて、季節要因、切片項、外生変数（xreg 、「外部回帰変数」と呼ばれる）も含んでいます。astsaパッケージには、季節性または非季節性モデルを推定するためのsarimaや、これらのモデルからシミュレーションを行うsarima.simなどのスクリプトが含まれています。CRANのTime Seriesタスクビューは、多くのリンクを含むリファレンスです。Rの「forecast」パッケージは、関数[1]を使用して、指定された時系列に対してARIMAモデルを自動的に選択できます（この関数はしばしば疑わしい結果をもたらします）。また、関数を使用して季節性および非季節性ARIMAモデルをシミュレーションすることもできます。[ 16 ]auto.arima()simulate.Arima()
  • Ruby : 「statsample-timeseries」 gem は、ARIMA モデルやカルマン フィルタリングなどの時系列分析に使用されます。
  • JavaScript：「arima」パッケージには、時系列分析と予測のためのモデル（ARIMA、SARIMA、SARIMAX、AutoARIMA）が含まれています。
  • C : 「ctsa」パッケージには、ARIMA、SARIMA、SARIMAX、AutoARIMA、および時系列分析用の複数の方法が含まれています。
  • SAFE TOOLBOXES : ARIMA モデリングとARIMA エラーを含む回帰が含まれます。
  • SAS : 計量経済および時系列分析システムである SAS/ETS に広範な ARIMA 処理が含まれています。
  • IBM SPSS : Statistics パッケージの Professional 版と Premium 版、および Modeler パッケージに ARIMA モデリングが含まれています。デフォルトの Expert Modeler 機能は、さまざまな季節性および非季節性の自己回帰 ( p )、統合 ( d )、移動平均 ( q ) 設定と 7 つの指数平滑化モデルを評価します。Expert Modeler は、対象の時系列データを平方根または自然対数に変換することもできます。Expert Modeler を ARIMA モデルに制限するか、Expert Modeler を使用せずに ARIMA の非季節性および季節性のp、d、q設定を手動で入力するかを選択できます。自動外れ値検出は 7 種類の外れ値に対して使用でき、この機能を選択すると、検出された外れ値は時系列モデルに取り込まれます。
  • SAP ： SAPのSAP ERPに含まれるAPO-FCSパッケージ[ 17 ]では、Box-Jenkins法を用いたARIMAモデルの作成とフィッティングが可能です。
  • SQL Server Analysis Services : Microsoftのデータ マイニング アルゴリズムとして ARIMA が含まれています。
  • Stata 9 以降では、 Stataに ARIMA モデリング (arima コマンドを使用) が含まれています。
  • StatSim : Forecast Web アプリに ARIMA モデルが含まれます。
  • Teradata Vantage には、機械学習エンジンの一部として ARIMA 関数が搭載されています。
  • TOL（時間指向言語）はARIMAモデル（SARIMA、ARIMAX、DSARIMAXの変種を含む）をモデル化するために設計されています[2]。
  • Scala : spark-timeseriesライブラリには、Scala、Java、Python 向けの ARIMA 実装が含まれています。この実装はApache Spark上で動作するように設計されています。
  • PostgreSQL /MadLib:時系列分析/ARIMA。
  • X-12-ARIMA :米国国勢調査局より

参照

参考文献

  1. ^定常性と差分化の詳細については、 https://www.otexts.org/fpp/8/1 を参照してください。
  2. ^ a b Hyndman, Rob J; Athanasopoulos, George. 「8.9 季節性ARIMAモデル」 .予測：原則と実践. oTexts . 2015年5月19日閲覧。
  3. ^ Box, George EP (2015).時系列分析：予測と制御. WILEY. ISBN 978-1-118-67502-1。
  4. ^ハミルトン、ジェームズ (1994).時系列分析. プリンストン大学出版局. ISBN 9780691042893。
  5. ^ a b Papoulis, Athanasios (2002).確率、ランダム変数、そして確率過程. Tata McGraw-Hill Education.
  6. ^ a b Triacca, Umberto (2021年2月19日). 「ウォルド分解定理」(PDF) . 2016年3月27日時点のオリジナルよりアーカイブ(PDF) 。
  7. ^ a b Wang, Shixiong; Li, Chongshou; Lim, Andrew (2019-12-18). 「なぜARIMAとSARIMAは不十分なのか」. arXiv : 1904.07632 [ stat.AP ].
  8. ^ 「ARIMAモデルの表記法」 .時系列予測システム. SAS Institute . 2015年5月19日閲覧。
  9. ^ a b「ARIMAモデル入門」people.duke.edu . 2016年6月5日閲覧。
  10. ^ a bミズーリ州立大学. 「モデルの仕様、時系列分析」(PDF) .
  11. ^ Swain, S; et al. (2018). 「インド・オリッサ州コルダ地区における月間降水量予測のためのARIMAモデルの開発」.インテリジェントコンピューティング技術に関する最近の知見. インテリジェントシステムとコンピューティングの進歩. 第708巻. pp.  325– 331. doi : 10.1007/978-981-10-8636-6_34 . ISBN 978-981-10-8635-9。
  12. ^ TimeModels.jl www.github.com
  13. ^ NCSSのARIMA、
  14. ^ NCSSの自動ARMA、
  15. ^ NCSSにおける自己相関と偏自己相関
  16. ^ Hyndman, Rob J; Athanasopoulos, George. 「8.7 RにおけるARIMAモデリング」 .予測：原則と実践. oTexts . 2015年5月19日閲覧。
  17. ^ 「Box Jenkinsモデル」 SAP 2013年3月8日閲覧。

さらに読む

  • アステリオウ, ディミトロス; ホール, スティーブン・G. (2011). 「ARIMAモデルとボックス・ジェンキンス法」.応用計量経済学（第2版）. パルグレイブ・マクミラン. pp.  265– 286. ISBN 978-0-230-27182-1。
  • ミルズ、テレンス・C. (1990). 『経済学者のための時系列分析テクニック』ケンブリッジ大学出版局. ISBN 978-0-521-34339-8。
  • パーシバル、ドナルド・B.；ウォルデン、アンドリュー・T.（1993）『物理学への応用のためのスペクトル解析』ケンブリッジ大学出版局。ISBN 978-0-521-35532-2。
  • Shumway RH、Stoffer, DS (2017).時系列分析とその応用：Rによる事例紹介. Springer. DOI: 10.1007/978-3-319-52452-8
  • R の ARIMA モデル。R を使用して時系列データに ARIMA (自己回帰和分移動平均) モデルを適合するエキスパートになりましょう。
「 https://en.wikipedia.org/w/index.php?title=Autoregressive_integrated_moving_average&oldid=1326657509#Differencing」より取得