最小二乗調整は、 観測残差 の最小二乗 原理に基づく過剰決定方程式系 の解モデルです。測量 、測地学 、写真測量(総称して 地理情報 学)の分野で広く用いられています。
最小二乗調整には、パラメトリック 、条件付き 、組み合わせ の 3 つの形式があります。
パラメトリック調整 では、観測値Yをパラメータ X に関して明示的に関連付ける観測方程式h ( X ) = Y を見つけることができます(以下の A モデルにつながります)。条件付き調整 では、観測値Y のみ(以下のBモデルにつながる)を含む条件方程式g ( Y )=0が存在します(パラメータX はまったくありません)。最後に、複合調整 では、パラメータX と観測値Y の両方が、混合モデル方程式f ( X , Y )=0 に暗黙的に含まれます。 明らかに、パラメトリック調整と条件付き調整は、それぞれf ( X , Y ) = h ( X ) - Y およびf ( X , Y ) = g ( Y ) というより一般的な組み合わせの場合に対応します。しかし、特殊なケースでは、以下に詳述するように、より単純な解法が必要になります。文献では、Y はしばしば L と表記されます。
解決 上記の等式は推定パラメータと観測値にのみ成立するため、 となります。対照的に、測定された観測値と近似パラメータは非ゼロの誤閉包 を生成します。 方程式のテイラー級数展開 に進むと、ヤコビ行列 または計画行列 が得られます。最初の行列 と 2 番目の行列 です。 線形化モデルは次のようになります。 ここで、 は事前 値に対する推定パラメータ補正値 、は適合後の観測 残差 です。 X ^ {\displaystyle {\hat {X}}} はい ^ {\displaystyle {\hat {Y}}} f ( X ^ 、 はい ^ ) = 0 {\displaystyle f\left({\hat {X}},{\hat {Y}}\right)=0} はい 〜 {\displaystyle {\tilde {Y}}} X 〜 {\displaystyle {\tilde {X}}} わ 〜 = f ( X 〜 、 はい 〜 ) 。 {\displaystyle {\tilde {w}}=f\left({\tilde {X}},{\tilde {Y}}\right).} あ = ∂ f / ∂ X ; {\displaystyle A=\partial {f}/\partial {X};} B = ∂ f / ∂ はい 。 {\displaystyle B=\partial {f}/\partial {Y}.} わ 〜 + あ × ^ + B y ^ = 0 、 {\displaystyle {\tilde {w}}+A{\hat {x}}+B{\hat {y}}=0,} × ^ = X ^ − X 〜 {\displaystyle {\hat {x}}={\hat {X}}-{\tilde {X}}} y ^ = はい ^ − はい 〜 {\displaystyle {\hat {y}}={\hat {Y}}-{\チルダ {Y}}}
パラメトリック調整では、2番目の計画行列は恒等行列B =- I であり、ミスクロージャベクトルは適合前残差 と解釈できるため、システムは次のように簡略化されます 。これは通常の最小二乗法 の形をとります。条件付き調整では、最初の計画行列はヌル行列A = 0 です。より一般的なケースでは、 2つのヤコビ行列を関連付けるためにラグランジュ乗数が 導入され、制約付き最小二乗法の問題が制約 なしの問題(ただし、より大きな問題)に変換されます。いずれの場合も、これらの操作により、ベクトルとベクトル、およびそれぞれのパラメータと観測値の事後 共分散行列が得られます。 y 〜 = わ 〜 = h ( X 〜 ) − はい 〜 {\displaystyle {\チルダ {y}}={\チルダ {w}}=h({\チルダ {X}})-{\チルダ {Y}}} あ × ^ = y ^ − y 〜 、 {\displaystyle A{\hat {x}}={\hat {y}}-{\チルダ {y}},} X ^ {\displaystyle {\hat {X}}} はい ^ {\displaystyle {\hat {Y}}}
計算 上記の行列とベクトルが与えられれば、その解は標準的な最小二乗法によって求められます。たとえば、正規行列を形成して コレスキー分解 を適用する、ヤコビ行列にQR 分解を 直接適用する、非常に大規模なシステムには 反復法などを適用します。
アプリケーション
拡張機能 ランク不足 が発生した場合、多くの場合、パラメータや観測値に制約を課す追加の方程式を追加して、制約付き最小二乗法を実行する ことで修正できます。
参考文献 ^ Kotz, Samuel; Read, Campbell B.; Balakrishnan, N.; Vidakovic, Brani; Johnson, Norman L. (2004-07-15). 「ガウス・ヘルマートモデル」.統計科学百科事典 . ホーボーケン, ニュージャージー州, 米国: John Wiley & Sons, Inc. doi : 10.1002/0471667196.ess0854.pub2 . ISBN 978-0-471-66719-3 。 ^ フォルストナー、ヴォルフガング;ローベル、ベルンハルト P. (2016)。 "推定"。 写真測量コンピュータビジョン 。幾何学とコンピューティング。 Vol. 11. チャム: Springer International Publishing。 pp. 75–190 。 土井 : 10.1007/978-3-319-11550-4_4 。 ISBN 978-3-319-11549-8 . ISSN 1866-6795 .^ Schaffrin, Burkhard; Snow, Kyle (2010). 「ティホノフ型の全最小二乗正規化とコリントスの古代競馬場」 線形 代数とその応用 432 (8) . Elsevier BV: 2061– 2076. doi : 10.1016/j.laa.2009.09.014 . ISSN 0024-3795 . ^ Neitzel, Frank (2010-09-17). 「重み付けなしおよび重み付け2D相似変換の例における合計最小二乗法の一般化」. Journal of Geodesy . 84 (12). Springer Science and Business Media LLC: 751– 762. Bibcode : 2010JGeod..84..751N . doi : 10.1007/s00190-010-0408- 0. ISSN 0949-7714 . S2CID 123207786 .