自己回帰移動平均モデル

時系列の統計分析において、自己回帰移動平均（ARMA ）モデルは、自己回帰（AR）と移動平均（MA）という2つの要素を組み合わせることで、（弱）定常確率過程を表現するために使用されます。これらのモデルは、系列の構造分析や将来値の予測に広く用いられています。

ARコンポーネントは、系列の現在の値がそれ自身の過去の値（ラグ）に線形に依存することを指定します。一方、MAコンポーネントは、現在の値が過去の誤差項の線形結合に依存することを指定します。ARMAモデルは通常、ARMA( p , q )と表記されます。ここで、pは自己回帰部分の次数、qは移動平均部分の次数です。

一般的な ARMA モデルは、 1951 年のPeter Whittleの論文「時系列分析における仮説検定」で説明され、1970 年にGeorge EP BoxとGwilym Jenkinsの著書で広く知られるようになりました。

ARMA モデルはBox–Jenkins 法を使用して推定できます。

数学的定式化

自己回帰モデル

AR( p )という表記はp次の自己回帰モデルを表す。AR( p )モデルは次のように記述される 。

Xt＝∑私＝1pφ私Xt−私+εt{\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{ti}+\varepsilon _{t}}

ここで、はパラメータであり、は白色ノイズであり、通常は独立かつ同一分布（IID）する正規乱数変数である。[ 1 ] [ 2 ]φ1、…、φp{\displaystyle \varphi _{1},\ldots ,\varphi _{p}}εt{\displaystyle \varepsilon _{t}}

モデルが定常であるためには、その特性多項式の根が単位円の外側に存在しなければならない。例えば、AR(1)モデルにおいての根が単位円の内側に存在するため、 の過程は定常ではない。 [ 3 ]|φ1|≥1{\displaystyle |\varphi _{1}|\geq 1}1−φ1B＝0{\displaystyle 1-\varphi _{1}B=0}

拡張ディッキー・フラー検定は、固有モード関数とトレンド成分の安定性を評価できます。定常時系列にはARMAモデルを、非定常時系列には長短期記憶モデルを用いて抽象的な特徴を導出できます。最終的な値は、各時系列の予測結果を再構成することで得られます。

移動平均モデル

MA( q )という表記は、次数qの移動平均モデルを表します。

Xt＝μ+εt+∑私＝1qθ私εt−私{\displaystyle X_{t}=\mu +\varepsilon _{t}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}\,}

ここで、はモデルのパラメータ、は（0と仮定されることが多い）の期待値、そして、、…は一般に正規確率変数であるIIDホワイトノイズ誤差項である。[ 4 ]θ1、。。。、θq{\displaystyle \theta_{1},...,\theta_{q}}μ{\displaystyle \mu}Xt{\displaystyle X_{t}}ε1{\displaystyle \varepsilon_{1}}εt{\displaystyle \varepsilon _{t}}

ARMAモデル

ARMA( p , q )という表記は、p個の自己回帰項とq個の移動平均項を持つモデルを指す。このモデルにはAR( p )モデルとMA( q )モデルが含まれる[ 5 ]。

Xt＝εt+∑私＝1pφ私Xt−私+∑私＝1qθ私εt−私。{\displaystyle X_{t}=\varepsilon_{t}+\sum_{i=1}^{p}\varphi_{i}X_{ti}+\sum_{i=1}^{q}\theta_{i}\varepsilon_{ti}.\,}

ラグ演算子の観点から

いくつかの文献では、モデルはラグ演算子Lを用いて規定される。この場合、AR( p )モデルは次のように表される。

εt＝（1−∑私＝1pφ私L私）Xt＝φ（L）Xt{\displaystyle \varepsilon_{t}=\left(1-\sum_{i=1}^{p}\varphi_{i}L^{i}\right)X_{t}=\varphi(L)X_{t}\,}

ここで多項式を表す φ{\displaystyle \varphi }

φ（L）＝1−∑私＝1pφ私L私。{\displaystyle \varphi (L)=1-\sum _{i=1}^{p}\varphi _{i}L^{i}.\,}

MA( q )モデルは次のように与えられる。

Xt−μ＝（1+∑私＝1qθ私L私）εt＝θ（L）εt、{\displaystyle X_{t}-\mu =\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta (L)\varepsilon _{t},\,}

ここで多項式を表す θ{\displaystyle \theta}

θ（L）＝1+∑私＝1qθ私L私。{\displaystyle \theta (L)=1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,}

最後に、結合されたARMA( p , q )モデルは次のように与えられる。

（1−∑私＝1pφ私L私）Xt＝（1+∑私＝1qθ私L私）εt、{\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,,}

あるいはもっと簡潔に言えば、

φ（L）Xt＝θ（L）εt{\displaystyle \varphi (L)X_{t}=\theta (L)\varepsilon _{t}\,}

または

φ(L)θ(L)Xt=εt.{\displaystyle {\frac {\varphi (L)}{\theta (L)}}X_{t}=\varepsilon _{t}\,.}

これはBox、Jenkins、Reinselで使用されている形式です。 [ 6 ]

さらに、 から合計を開始し 、 および を設定すると、さらにエレガントな定式化が得られます。i=0{\displaystyle i=0}ϕ0=−1{\displaystyle \phi _{0}=-1}θ0=1{\displaystyle \theta _{0}=1}−∑i=0pϕiLiXt=∑i=0qθiLiεt.{\displaystyle -\sum _{i=0}^{p}\phi _{i}L^{i}\;X_{t}=\sum _{i=0}^{q}\theta _{i}L^{i}\;\varepsilon _{t}\,.}

スペクトラム

ARMA過程のスペクトル密度は、白色ノイズの分散、ARMAモデルの移動平均部の特性多項式、ARMAモデルの自己回帰部の特性多項式である。[ 7 ] [ 8 ]S(f)=σ22π|θ(e−if)ϕ(e−if)|2{\displaystyle S(f)={\frac {\sigma ^{2}}{2\pi }}\left\vert {\frac {\theta (e^{-if})}{\phi (e^{-if})}}\right\vert ^{2}}σ2{\displaystyle \sigma ^{2}}θ{\displaystyle \theta }ϕ{\displaystyle \phi }

モデルの適合

pとqの選択

ARMA( p , q )モデルにおける適切なpの値は、偏自己相関関数をプロットすることで求めることができます。同様に、qは自己相関関数を用いて推定できます。拡張自己相関関数（EACF）を用いることで、 pとqの両方を同時に決定することができます。[ 9 ] pとqの初期選択を用いて適合させたモデルの残差について、同じ関数を検討することで、さらなる情報を得ることができます。

ブロックウェルとデイビスは、pとqを求めるために赤池情報量基準（AIC）を使用することを推奨している。[ 10 ]もう一つの選択肢はベイズ情報量基準（BIC）である。

係数の推定

pとqを選択した後、最小二乗回帰を用いてARMAモデルをフィッティングし、誤差項を最小化するパラメータ値を求めることができます。データに許容可能な適合度を与えるpとqの最小値を求めるのが賢明です。純粋なARモデルの場合、 Yule-Walker方程式を用いて適合度を求めることができます。

ARMA の出力は主に予測に使用され、OLS や 2SLS などの他の計量経済学や回帰法の分野のように因果関係を推測するために使用されることはありません。

ソフトウェア実装

  • Rの標準パッケージには、 ARIMA Modelling of Time Seriesに記載されているstats関数 が含まれています。このパッケージには、ARMAモデル（季節性および非季節性）のフィッティングと、これらのモデルからのデータのシミュレーションを行うための、改良されたスクリプト が含まれています。拡張パッケージには、関連機能と拡張機能が含まれています。パッケージには、 「Fit ARMA Models to Time Series」に記載されている関数 が含まれています。パッケージには、分数統合ARMAプロセス が含まれています。パッケージには、 p、qの簡潔なセットを選択するための機能が含まれています。CRANのTime Seriesタスクビューには、これらのほとんどへのリンクが含まれています。arimaastsasarimasarima.simtseriesarma()fracdifffracdiff()forecastauto.arima
  • MathematicaにはARMAを含む時系列関数の完全なライブラリがあります。[ 11 ]
  • MATLABにarmaは、自己回帰モデル、外生自己回帰モデル、ARMAXモデルを推定するためarの、、などの関数が含まれていますarx。詳細については、System Identification ToolboxおよびEconometrics Toolboxを参照してください。
  • Julia には、 などの ARMA モデルを使用したフィッティングを実装するコミュニティ主導のパッケージがありますarma.jl。
  • PythonにはstatsmodelsSパッケージがあり、ARMAを含む時系列分析のための多くのモデルと関数が含まれています。以前はscikit-learnライブラリの一部でしたが、現在はスタンドアロンとなり、Pandasと連携しやすくなっています。
  • PyFlux には、ベイジアン ARIMAX モデルを含む ARIMAX モデルの Python ベースの実装があります。
  • IMSL 数値ライブラリは、C、Java、C# .NET、Fortran などの標準プログラミング言語で実装された ARMA および ARIMA プロシージャを含む数値解析機能のライブラリです。
  • gretlはARMAモデルを推定できる。
  • GNU Octave追加パッケージはoctave-forgeAR モデルをサポートします。
  • Stata にarimaは、ARMA およびARIMAモデル用の関数が含まれています。
  • SuanShu は、「SuanShu、Java 数値および統計ライブラリ」に記載されている、単変量/多変量 ARMA、ARIMA、ARMAX などのモデルを実装する数値メソッドの Java ライブラリです。
  • SASには、ARIMAモデルを推定する計量分析パッケージETSがあります。詳細はこちらをご覧ください。

歴史と解釈

一般的なARMAモデルは、1951年のピーター・ウィットルの論文で説明されており、彼は数学的解析（ローラン級数とフーリエ解析）と統計的推論を用いていました。[ 12 ] [ 13 ] ARMAモデルは、ジョージ・E・P・ボックスとジェンキンスによる1970年の著書によって広く知られるようになりました。彼らは、ARMAモデルの選択と推定のための反復法（ボックス・ジェンキンス法）を解説しました。この方法は、低次多項式（3次以下）に有効でした。[ 14 ]

ARMA は本質的には、ホワイト ノイズに適用される無限インパルス応答フィルターであり、それにいくつかの追加の解釈が加えられています。

デジタル信号処理では、ARMA は入力にホワイト ノイズがあり、出力に ARMA プロセスがあるデジタル フィルターとして表されます。

アプリケーション

ARMAは、システムが一連の観測されないショック（MAまたは移動平均部分）とそれ自身の動きの関数である場合に適しています。例えば、株価はファンダメンタル情報によってショックを受けるだけでなく、市場参加者による テクニカルトレンドや平均回帰効果も示す可能性があります。

一般化

ARMA にはさまざまな一般化があります。非線形AR (NAR)、非線形 MA (NMA)、非線形 ARMA (NARMA) は、過去の値と誤差項に対する非線形依存性をモデル化します。ベクトル AR (VAR) とベクトル ARMA (VARMA) は、多変量時系列をモデル化します。自己回帰和分移動平均(ARIMA) は、非定常時系列 (つまり、平均が時間の経過とともに変化する時系列) をモデル化します。自己回帰条件付き異分散(ARCH) は、分散が変化する時系列をモデル化します。季節 ARIMA (SARIMA または周期的 ARMA) は、周期的な変動をモデル化します。 自己回帰分数和分移動平均(ARFIMA、または分数 ARIMA、FARIMA) は、長期記憶を示す時系列をモデル化します。マルチスケール AR (MAR) は、整数ではなく ツリーのノードによってインデックス付けされます。

外生入力による自己回帰移動平均モデル（ARMAX）

ARMAX( p , q , b )という表記は、p 個の自己回帰項、q 個の移動平均項、およびb 個の外生入力項を持つモデルを表します。最後の項は、既知の外部時系列の最後のb個の項の線形結合です。これは次のように表されます。 dt{\displaystyle d_{t}}

Xt=εt+∑i=1pφiXt−i+∑i=1qθiεt−i+∑i=1bηidt−i.{\displaystyle X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}+\sum _{i=1}^{b}\eta _{i}d_{t-i}.\,}

ここで、は外生入力のパラメータです。 η1,…,ηb{\displaystyle \eta _{1},\ldots ,\eta _{b}}dt{\displaystyle d_{t}}

外生変数を持つモデルの非線形バリアントがいくつか定義されています。たとえば、非線形自己回帰外生モデルを参照してください。

統計パッケージは、「外生的」（つまり独立変数）を用いてARMAXモデルを実装します。これらのパッケージの出力を解釈する際には注意が必要です。推定パラメータは通常（例えばR [ 15 ]やgretlでは）、回帰式を参照するからです。

Xt−mt=εt+∑i=1pφi(Xt−i−mt−i)+∑i=1qθiεt−i.{\displaystyle X_{t}-m_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}(X_{t-i}-m_{t-i})+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,}

ここで、すべての外生変数（独立変数）が組み込まれます。 mt{\displaystyle m_{t}}

mt=c+∑i=0bηidt−i.{\displaystyle m_{t}=c+\sum _{i=0}^{b}\eta _{i}d_{t-i}.\,}

参照

参考文献

  1. ^ Box, George EP (1994).時系列分析：予測と制御. Gwilym M. Jenkins, Gregory C. Reinsel (第3版). Englewood Cliffs, NJ: Prentice Hall. p. 54. ISBN 0-13-060774-6. OCLC  28888762 .
  2. ^ Shumway, Robert H. (2000).時系列分析とその応用. David S. Stoffer. ニューヨーク: Springer. pp.  90– 91. ISBN 0-387-98950-1. OCLC  42392178 .
  3. ^ Box, George EP; Jenkins, Gwilym M.; Reinsel, Gregory C. (1994).時系列分析：予測と制御（第3版）. エングルウッド・クリフス, ニュージャージー: プレンティス・ホール. pp.  54– 55. ISBN 0-13-060774-6. OCLC  28888762 .
  4. ^ Box, George EP; Jenkins, Gwilym M.; Reinsel, Gregory C.; Ljung, Greta M. (2016).時系列分析：予測と制御（第5版）. ホーボーケン、ニュージャージー州: John Wiley & Sons, Incorporated. p. 53. ISBN 978-1-118-67492-5. OCLC  908107438 .
  5. ^ Shumway, Robert H. (2000).時系列分析とその応用. David S. Stoffer. ニューヨーク: Springer. p. 98. ISBN 0-387-98950-1. OCLC  42392178 .
  6. ^ Box, George; Jenkins, Gwilym M.; Reinsel, Gregory C. (1994).時系列分析：予測と制御（第3版）. Prentice-Hall. ISBN 0130607746。
  7. ^ Rosenblatt, Murray (2000).ガウス分布と非ガウス分布の線形時系列とランダムフィールド. ニューヨーク: Springer. p. 10. ISBN 0-387-98917-X. OCLC  42061096 .
  8. ^ Wei, William WS (1990).時系列分析：単変量法と多変量法. レッドウッドシティ, カリフォルニア州: Addison-Wesley Pub. pp.  242– 243. ISBN 0-201-15911-2. OCLC  18166355 .
  9. ^ミズーリ州立大学. 「モデルの仕様、時系列分析」(PDF) .
  10. ^ペンシルバニア州ブロックウェル;デイビス、RA (2009)。時系列: 理論と方法(第 2 版)。ニューヨーク：スプリンガー。 p. 273.ISBN​ 9781441903198。
  11. ^ Mathematicaの時系列機能 2011年11月24日アーカイブ、 Wayback Machine
  12. ^ハナン、エドワード・ジェームズ(1970).多重時系列. ワイリー確率・数理統計シリーズ. ニューヨーク: ジョン・ワイリー・アンド・サンズ.
  13. ^ Whittle, P. (1951).時系列分析における仮説検定. Almquist and Wicksell.ホイットル、P. (1963). 『予測と制御』 イングリッシュ・ユニバーシティズ・プレス. ISBN 0-8166-1147-5。{{cite book}}: ISBN / Date incompatibility (help)
    再出版：Whittle, P. (1983).線形最小二乗法による予測と制御. ミネソタ大学出版局. ISBN 0-8166-1148-3。
  14. ^ Hannan & Deistler (1988 , p. 227): Hannan, EJ ; Deistler, Manfred (1988).線形システムの統計理論. Wileyシリーズ 確率・数理統計. ニューヨーク: John Wiley and Sons.
  15. ^ ARIMA 時系列モデリング、R ドキュメント

さらに読む

「 https://en.wikipedia.org/w/index.php?title=Autoregressive_moving-average_model&oldid=1314428852#ARMAX」より取得