再帰最小二乗フィルタ

再帰最小二乗法（RLS）は、入力信号に関連する重み付き線形最小二乗コスト関数を最小化する係数を再帰的に求める適応フィルタアルゴリズムです。このアプローチは、平均二乗誤差の低減を目的とする最小平均二乗法（LMS）などの他のアルゴリズムとは対照的です。RLSの導出において入力信号は決定論的とみなされますが、LMSや類似のアルゴリズムでは確率的とみなされます。RLSは、他の多くの競合アルゴリズムと比較して、非常に高速な収束を示します。しかし、この利点は計算の複雑さを増大させることを伴います。

モチベーション

RLSはガウスによって発見されましたが、1950年にプラケットが1821年のガウスの原著を再発見するまで、使われなかったり無視されたりしていました。一般的に、RLSは適応フィルタで解決できるあらゆる問題を解くために使用できます。例えば、信号がエコーやノイズの多いチャネルを介して送信され、次のように受信されるとします。 ${\displaystyle d(n)}$

${\displaystyle x(n)=\sum _{k=0}^{q}b_{n}(k)d(n-k)+v(n)}$

ここで、 は加法性ノイズを表します。RLSフィルタの目的は、タップFIRフィルタを用いて目的の信号を復元することです。 ${\displaystyle v(n)}$ ${\displaystyle d(n)}$ ${\displaystyle p+1}$ ${\displaystyle \mathbf {w} }$

${\displaystyle d(n)\approx \sum _{k=0}^{p}w(k)x(n-k)=\mathbf {w} ^{\mathit {T}}\mathbf {x} _{n}}$

ここで、はの最新のサンプルを含む列ベクトルである。回復された所望の信号の推定値は ${\displaystyle \mathbf {x} _{n}=[x(n)\quad x(n-1)\quad \ldots \quad x(n-p)]^{T}}$ ${\displaystyle p+1}$ ${\displaystyle x(n)}$

${\displaystyle {\hat {d}}(n)=\sum _{k=0}^{p}w_{n}(k)x(n-k)=\mathbf {w} _{n}^{\mathit {T}}\mathbf {x} _{n}}$

目標はフィルタ のパラメータを推定することであり、各時点では現在の推定値を、適応型最小二乗推定値をと参照します。 も列ベクトル（以下参照）であり、転置ベクトル、は行ベクトルです。行列積（とのドット積）は であり、スカラーです。 が最小二乗法の意味 で小さい場合、 推定値は「良好」です。${\displaystyle \mathbf {w} }$ ${\displaystyle n}$ ${\displaystyle \mathbf {w} _{n}}$ ${\displaystyle \mathbf {w} _{n+1}}$ ${\displaystyle \mathbf {w} _{n}}$ ${\displaystyle \mathbf {w} _{n}^{\mathit {T}}}$ ${\displaystyle \mathbf {w} _{n}^{\mathit {T}}\mathbf {x} _{n}}$ ${\displaystyle \mathbf {w} _{n}}$ ${\displaystyle \mathbf {x} _{n}}$ ${\displaystyle {\hat {d}}(n)}$ ${\displaystyle {\hat {d}}(n)-d(n)}$

時間が経つにつれて、に関して の新しい推定値を見つけるために最小二乗アルゴリズムを完全にやり直すことを避けることが望まれます。 ${\displaystyle \mathbf {w} _{n+1}}$ ${\displaystyle \mathbf {w} _{n}}$

RLSアルゴリズムの利点は、逆行列を計算する必要がないため、計算コストを節約できることです。また、カルマンフィルタなどの結果の背後にある直感的な理解が得られるという利点もあります。

議論

RLSフィルタの考え方は、フィルタ係数を適切に選択し、新しいデータが到着するたびにフィルタを更新することで、コスト関数を 最小化するというものです。誤差信号と目標信号は、以下の負帰還図で定義されます。 ${\displaystyle C}$ ${\displaystyle \mathbf {w} _{n}}$ ${\displaystyle e(n)}$ ${\displaystyle d(n)}$

誤差は推定値を通じてフィルタ係数に暗黙的に依存します。 ${\displaystyle {\hat {d}}(n)}$

${\displaystyle e(n)=d(n)-{\hat {d}}(n)}$

重み付き最小二乗誤差関数（最小化したいコスト関数）は、フィルタ係数にも依存します。 ${\displaystyle C}$ ${\displaystyle e(n)}$

${\displaystyle C(\mathbf {w} _{n})=\sum _{i=0}^{n}\lambda ^{n-i}e^{2}(i)}$

ここで、古いエラー サンプルに指数的に小さい重みを与える「忘却係数」です。 ${\displaystyle 0<\lambda \leq 1}$

コスト関数は、係数ベクトルのすべての要素の偏微分を取り、その結果をゼロに設定する ことによって最小化される。${\displaystyle k}$ ${\displaystyle \mathbf {w} _{n}}$

${\displaystyle {\frac {\partial C(\mathbf {w} _{n})}{\partial w_{n}(k)}}=\sum _{i=0}^{n}2\lambda ^{n-i}e(i)\cdot {\frac {\partial e(i)}{\partial w_{n}(k)}}=-\sum _{i=0}^{n}2\lambda ^{n-i}e(i)\,x(i-k)=0\qquad k=0,1,\ldots ,p}$

次に、エラー信号の定義に 置き換えます。${\displaystyle e(n)}$

${\displaystyle \sum _{i=0}^{n}\lambda ^{n-i}\left[d(i)-\sum _{\ell =0}^{p}w_{n}(\ell )x(i-\ell )\right]x(i-k)=0\qquad k=0,1,\ldots ,p}$

式を変形すると

${\displaystyle \sum _{\ell =0}^{p}w_{n}(\ell )\left[\sum _{i=0}^{n}\lambda ^{n-i}\,x(i-\ell )x(i-k)\right]=\sum _{i=0}^{n}\lambda ^{n-i}d(i)x(i-k)\qquad k=0,1,\ldots ,p}$

この形式は行列で表現できる

${\displaystyle \mathbf {R} _{x}(n)\,\mathbf {w} _{n}=\mathbf {r} _{dx}(n)}$

ここでは の重み付き標本共分散行列であり、 はと の間の共分散の等価推定値である。この式に基づいて、コスト関数を最小化する係数を以下のように求める。 ${\displaystyle \mathbf {R} _{x}(n)}$ ${\displaystyle x(n)}$ ${\displaystyle \mathbf {r} _{dx}(n)}$ ${\displaystyle d(n)}$ ${\displaystyle x(n)}$

${\displaystyle \mathbf {w} _{n}=\mathbf {R} _{x}^{-1}(n)\,\mathbf {r} _{dx}(n)}$

これが議論の主な結果です。

λを選択する

が小さいほど、共分散行列への過去のサンプルの寄与は小さくなります。これにより、フィルタは最近のサンプルに対してより敏感になり、フィルタ係数の変動が大きくなります。このケースは、成長ウィンドウRLSアルゴリズムと呼ばれます。実際には、は通常0.98から1の間で選択されます。^[1]タイプII最尤推定を用いることで、データセットから最適な値を推定することができます。 ^[2]${\displaystyle \lambda }$ ${\displaystyle \lambda =1}$ ${\displaystyle \lambda }$ ${\displaystyle \lambda }$

再帰アルゴリズム

議論の結果、コスト関数を最小化する係数ベクトルを決定する単一の方程式が得られた。この節では、以下の形式の再帰解を導出する。

${\displaystyle \mathbf {w} _{n}=\mathbf {w} _{n-1}+\Delta \mathbf {w} _{n-1}}$

ここで、 は時刻 における補正係数である。再帰アルゴリズムの導出は、まず相互共分散を次のように表すことから始まる。${\displaystyle \Delta \mathbf {w} _{n-1}}$ ${\displaystyle {n-1}}$ ${\displaystyle \mathbf {r} _{dx}(n)}$ ${\displaystyle \mathbf {r} _{dx}(n-1)}$

${\displaystyle \mathbf {r} _{dx}(n)}$	${\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}d(i)\mathbf {x} (i)}$
	${\displaystyle =\sum _{i=0}^{n-1}\lambda ^{n-i}d(i)\mathbf {x} (i)+\lambda ^{0}d(n)\mathbf {x} (n)}$
	${\displaystyle =\lambda \mathbf {r} _{dx}(n-1)+d(n)\mathbf {x} (n)}$

次元データベクトル はどこにあるか${\displaystyle \mathbf {x} (i)}$ ${\displaystyle {p+1}}$

${\displaystyle \mathbf {x} (i)=[x(i),x(i-1),\dots ,x(i-p)]^{T}}$

同様に、 ${\displaystyle \mathbf {R} _{x}(n)}$ ${\displaystyle \mathbf {R} _{x}(n-1)}$

${\displaystyle \mathbf {R} _{x}(n)}$	${\displaystyle =\sum _{i=0}^{n}\lambda ^{n-i}\mathbf {x} (i)\mathbf {x} ^{T}(i)}$
	${\displaystyle =\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)}$

係数ベクトルを生成するために、決定論的自己共分散行列の逆行列が重要になります。この作業には、ウッドベリー行列恒等式が便利です。

${\displaystyle A}$	${\displaystyle =\lambda \mathbf {R} _{x}(n-1)}$ は-by-${\displaystyle (p+1)}$ ${\displaystyle (p+1)}$
${\displaystyle U}$	${\displaystyle =\mathbf {x} (n)}$ は-行1列（列ベクトル） ${\displaystyle (p+1)}$
${\displaystyle V}$	${\displaystyle =\mathbf {x} ^{T}(n)}$ 1行（行ベクトル） ${\displaystyle (p+1)}$
${\displaystyle C}$	${\displaystyle =\mathbf {I} _{1}}$ 1行1列の単位行列である

ウッドベリー行列の恒等式は次のようになる。

${\displaystyle \mathbf {R} _{x}^{-1}(n)}$	${\displaystyle =}$	${\displaystyle \left[\lambda \mathbf {R} _{x}(n-1)+\mathbf {x} (n)\mathbf {x} ^{T}(n)\right]^{-1}}$
	${\displaystyle =}$	${\displaystyle {\dfrac {1}{\lambda }}\left\lbrace \mathbf {R} _{x}^{-1}(n-1)-{\dfrac {\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)\mathbf {x} ^{T}(n)\mathbf {R} _{x}^{-1}(n-1)}{\lambda +\mathbf {x} ^{T}(n)\mathbf {R} _{x}^{-1}(n-1)\mathbf {x} (n)}}\right\rbrace }$
		${\displaystyle }$

標準的な文献に沿うように、我々は次のように定義する。

${\displaystyle \mathbf {P} (n)}$	${\displaystyle =\mathbf {R} _{x}^{-1}(n)}$
	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}$

ここでゲインベクトル は ${\displaystyle g(n)}$

${\displaystyle \mathbf {g} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {x} (n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}$

先に進む前に、別の形 で${\displaystyle \mathbf {g} (n)}$

${\displaystyle \mathbf {g} (n)\left\{1+\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)\right\}}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$
${\displaystyle \mathbf {g} (n)+\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$

左辺の2番目の項を引くと、

${\displaystyle \mathbf {g} (n)}$	${\displaystyle =\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\mathbf {x} (n)}$
	${\displaystyle =\lambda ^{-1}\left[\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\right]\mathbf {x} (n)}$

望ましい形式 の再帰定義は次のようになる。${\displaystyle \mathbf {P} (n)}$

${\displaystyle \mathbf {g} (n)=\mathbf {P} (n)\mathbf {x} (n)}$

これで再帰を完了する準備ができました。

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\mathbf {P} (n)\,\mathbf {r} _{dx}(n)}$
	${\displaystyle =\lambda \mathbf {P} (n)\,\mathbf {r} _{dx}(n-1)+d(n)\mathbf {P} (n)\,\mathbf {x} (n)}$

2番目のステップは の再帰的定義から得られる。 次に の再帰的定義を の代替形式と組み合わせると、${\displaystyle \mathbf {r} _{dx}(n)}$ ${\displaystyle \mathbf {P} (n)}$ ${\displaystyle \mathbf {g} (n)}$

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\lambda \left[\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)\right]\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+d(n)\mathbf {g} (n)}$
	${\displaystyle =\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)\right]}$

更新方程式に到達する と${\displaystyle \mathbf {w} _{n-1}=\mathbf {P} (n-1)\mathbf {r} _{dx}(n-1)}$

${\displaystyle \mathbf {w} _{n}}$	${\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\left[d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}\right]}$
	${\displaystyle =\mathbf {w} _{n-1}+\mathbf {g} (n)\alpha (n)}$

ここで、事前誤差 です。これを事後誤差、つまりフィルタ更新 後に計算される誤差と比較してみましょう。${\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n-1}}$

${\displaystyle e(n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} _{n}}$

つまり、補正係数を見つけたということです

${\displaystyle \Delta \mathbf {w} _{n-1}=\mathbf {g} (n)\alpha (n)}$

この直感的に納得のいく結果は、補正係数が誤差とゲイン ベクトルの両方に正比例し、重み付け係数を通じてどの程度の感度が望ましいかを制御することを示しています。 ${\displaystyle \lambda }$

RLSアルゴリズムの概要

p次RLSフィルタのRLSアルゴリズムは次のように要約できる。

パラメータ:	${\displaystyle p=}$ フィルタ順序
	${\displaystyle \lambda =}$ 忘却要因
	${\displaystyle \delta =}$ 初期化する値${\displaystyle \mathbf {P} (0)}$
初期化:	${\displaystyle \mathbf {w} (0)=0}$ 、
	${\displaystyle x(k)=0,k=-p,\dots ,-1}$ 、
	${\displaystyle d(k)=0,k=-p,\dots ,-1}$
	${\displaystyle \mathbf {P} (0)=\delta I}$ ランクの単位行列はどこにあるか${\displaystyle I}$ ${\displaystyle p+1}$
計算:	のために${\displaystyle n=1,2,\dots }$
	${\displaystyle \mathbf {x} (n)=\left[{\begin{matrix}x(n)\\x(n-1)\\\vdots \\x(n-p)\end{matrix}}\right]}$
	${\displaystyle \alpha (n)=d(n)-\mathbf {x} ^{T}(n)\mathbf {w} (n-1)}$
	${\displaystyle \mathbf {g} (n)=\mathbf {P} (n-1)\mathbf {x} (n)\left\{\lambda +\mathbf {x} ^{T}(n)\mathbf {P} (n-1)\mathbf {x} (n)\right\}^{-1}}$
	${\displaystyle \mathbf {P} (n)=\lambda ^{-1}\mathbf {P} (n-1)-\mathbf {g} (n)\mathbf {x} ^{T}(n)\lambda ^{-1}\mathbf {P} (n-1)}$
	${\displaystyle \mathbf {w} (n)=\mathbf {w} (n-1)+\,\alpha (n)\mathbf {g} (n)}$ 。

の再帰は代数リカッチ方程式に従うため、カルマンフィルタと類似している。^[3]${\displaystyle P}$

格子再帰最小二乗フィルタ（LRLS）

格子再帰最小二乗 適応フィルタは、より少ない算術演算（N次）を必要とする点を除いて、標準的な RLS と関連がある。^[4]従来の LMS アルゴリズムに比べて、収束速度が速い、モジュール構造である、入力相関行列の固有値分布の変動の影響を受けないなどのさらなる利点がある。ここで説明する LRLS アルゴリズムは事後誤差に基づいており、正規化された形式を含む。導出は標準的な RLS アルゴリズムに似ており、 の定義に基づいている。順方向予測の場合、 は入力信号を最新のサンプルとして表す。逆方向予測の場合は であり、ここで i は予測したい過去のサンプルのインデックスであり、入力信号は最新のサンプルである。^[5]${\displaystyle d(k)\,\!}$ ${\displaystyle d(k)=x(k)\,\!}$ ${\displaystyle x(k-1)\,\!}$ ${\displaystyle d(k)=x(k-i-1)\,\!}$ ${\displaystyle x(k)\,\!}$

パラメータの概要

${\displaystyle \kappa _{f}(k,i)\,\!}$ 前方反射係数

${\displaystyle \kappa _{b}(k,i)\,\!}$ 後方反射係数

${\displaystyle e_{f}(k,i)\,\!}$ 瞬間的な事後予測誤差を表す

${\displaystyle e_{b}(k,i)\,\!}$ 瞬間的な事後予測誤差を表す

${\displaystyle \xi _{b_{\min }}^{d}(k,i)\,\!}$ 最小二乗後方予測誤差の最小値

${\displaystyle \xi _{f_{\min }}^{d}(k,i)\,\!}$ 最小二乗法による前方予測誤差の最小値

${\displaystyle \gamma (k,i)\,\!}$ 事前誤差と事後誤差の間の変換係数である

${\displaystyle v_{i}(k)\,\!}$ フィードフォワード乗算係数です。

${\displaystyle \varepsilon \,\!}$ 0.01の小さな正の定数である。

LRLSアルゴリズムの概要

LRLSフィルタのアルゴリズムは次のように要約できる。

初期化:
	のために${\textstyle i=0,1,\ldots ,N}$
	${\displaystyle \delta (-1,i)=\delta _{D}(-1,i)=0\,\!}$ （の場合） ${\textstyle x(k)=0}$ ${\textstyle k<0}$
	${\displaystyle \xi _{b_{\min }}^{d}(-1,i)=\xi _{f_{\min }}^{d}(-1,i)=\varepsilon }$
	${\displaystyle \gamma (-1,i)=1\,\!}$
	${\displaystyle e_{b}(-1,i)=0\,\!}$
	終わり
計算:
	のために${\textstyle k\geq 0}$
	${\displaystyle \gamma (k,0)=1\,\!}$
	${\displaystyle e_{b}(k,0)=e_{f}(k,0)=x(k)\,\!}$
	${\displaystyle \xi _{b_{\min }}^{d}(k,0)=\xi _{f_{\min }}^{d}(k,0)=x^{2}(k)+\lambda \xi _{f_{\min }}^{d}(k-1,0)\,\!}$
	${\displaystyle e(k,0)=d(k)\,\!}$
	のために${\textstyle i=0,1,\ldots ,N}$
	${\displaystyle \delta (k,i)=\lambda \delta (k-1,i)+{\frac {e_{b}(k-1,i)e_{f}(k,i)}{\gamma (k-1,i)}}}$
	${\displaystyle \gamma (k,i+1)=\gamma (k,i)-{\frac {e_{b}^{2}(k,i)}{\xi _{b_{\min }}^{d}(k,i)}}}$
	${\displaystyle \kappa _{b}(k,i)={\frac {\delta (k,i)}{\xi _{f_{\min }}^{d}(k,i)}}}$
	${\displaystyle \kappa _{f}(k,i)={\frac {\delta (k,i)}{\xi _{b_{\min }}^{d}(k-1,i)}}}$
	${\displaystyle e_{b}(k,i+1)=e_{b}(k-1,i)-\kappa _{b}(k,i)e_{f}(k,i)\,\!}$
	${\displaystyle e_{f}(k,i+1)=e_{f}(k,i)-\kappa _{f}(k,i)e_{b}(k-1,i)\,\!}$
	${\displaystyle \xi _{b_{\min }}^{d}(k,i+1)=\xi _{b_{\min }}^{d}(k-1,i)-\delta (k,i)\kappa _{b}(k,i)}$
	${\displaystyle \xi _{f_{\min }}^{d}(k,i+1)=\xi _{f_{\min }}^{d}(k,i)-\delta (k,i)\kappa _{f}(k,i)}$
	フィードフォワードフィルタリング
	${\displaystyle \delta _{D}(k,i)=\lambda \delta _{D}(k-1,i)+{\frac {e(k,i)e_{b}(k,i)}{\gamma (k,i)}}}$
	${\displaystyle v_{i}(k)={\frac {\delta _{D}(k,i)}{\xi _{b_{\min }}^{d}(k,i)}}}$
	${\displaystyle e(k,i+1)=e(k,i)-v_{i}(k)e_{b}(k,i)\,\!}$
	終わり
	終わり

正規化格子再帰最小二乗フィルタ（NLRLS）

LRLSの正規化形式は、再帰と変数の数が少なくなります。アルゴリズムの内部変数に正規化を適用することで計算が可能で、その大きさは1に制限されます。この正規化形式は、除算と平方根の演算回数が多く、計算負荷が高いため、リアルタイムアプリケーションでは通常使用されません。

NLRLSアルゴリズムの概要

NLRLSフィルタのアルゴリズムは次のように要約できる。

初期化:
	のために${\textstyle i=0,1,\ldots ,N.}$
	${\displaystyle {\overline {\delta }}(-1,i)=0\,\!}$ （の場合） ${\textstyle x(k)=d(k)=0}$ ${\textstyle k<0}$
	${\displaystyle {\overline {\delta }}_{D}(-1,i)=0\,\!}$
	${\displaystyle {\overline {e}}_{b}(-1,i)=0\,\!}$
	終わり
	${\displaystyle \sigma _{x}^{2}(-1)=\lambda \sigma _{d}^{2}(-1)=\varepsilon \,\!}$
計算:
	のために${\textstyle k\geq 0}$
	${\displaystyle \sigma _{x}^{2}(k)=\lambda \sigma _{x}^{2}(k-1)+x^{2}(k)\,\!}$ （入力信号エネルギー）
	${\displaystyle \sigma _{d}^{2}(k)=\lambda \sigma _{d}^{2}(k-1)+d^{2}(k)\,\!}$ （基準信号エネルギー）
	${\displaystyle {\overline {e}}_{b}(k,0)={\overline {e}}_{f}(k,0)={\frac {x(k)}{\sigma _{x}(k)}}\,\!}$
	${\displaystyle {\overline {e}}(k,0)={\frac {d(k)}{\sigma _{d}(k)}}\,\!}$
	のために${\textstyle i=0,1,\ldots ,N}$
	${\displaystyle {\overline {\delta }}(k,i)=\delta (k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k-1,i))(1-{\overline {e}}_{f}^{2}(k,i))}}+{\overline {e}}_{b}(k-1,i){\overline {e}}_{f}(k,i)}$
	${\displaystyle {\overline {e}}_{b}(k,i+1)={\frac {{\overline {e}}_{b}(k-1,i)-{\overline {\delta }}(k,i){\overline {e}}_{f}(k,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{f}^{2}(k,i))}}}}$
	${\displaystyle {\overline {e}}_{f}(k,i+1)={\frac {{\overline {e}}_{f}(k,i)-{\overline {\delta }}(k,i){\overline {e}}_{b}(k-1,i)}{\sqrt {(1-{\overline {\delta }}^{2}(k,i))(1-{\overline {e}}_{b}^{2}(k-1,i))}}}}$
	フィードフォワードフィルタ
	${\displaystyle {\overline {\delta }}_{D}(k,i)={\overline {\delta }}_{D}(k-1,i){\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {e}}^{2}(k,i))}}+{\overline {e}}(k,i){\overline {e}}_{b}(k,i)}$
	${\displaystyle {\overline {e}}(k,i+1)={\frac {1}{\sqrt {(1-{\overline {e}}_{b}^{2}(k,i))(1-{\overline {\delta }}_{D}^{2}(k,i))}}}[{\overline {e}}(k,i)-{\overline {\delta }}_{D}(k,i){\overline {e}}_{b}(k,i)]}$
	終わり
	終わり

参照

• 適応フィルタ
• カーネル適応フィルタ
• 最小二乗フィルタ
• ゼロフォーシングイコライザー

参考文献

• Hayes, Monson H. (1996). 「9.4: 再帰最小二乗法」.統計的デジタル信号処理とモデリング. Wiley. p. 541. ISBN 0-471-59431-8。
• サイモン・ヘイキン著『適応フィルタ理論』、プレンティス・ホール、2002年、ISBN 0-13-048434-2
• MHA Davis、RB Vinter著『確率的モデリングと制御』、Springer、1985年、ISBN 0-412-16200-8
• Weifeng Liu、Jose Principe、Simon Haykin著『カーネル適応フィルタリング：包括的入門』 John Wiley、2010年、ISBN 0-470-44753-2
• RLPlackett,最小二乗法におけるいくつかの定理, Biometrika, 1950, 37, 149–157, ISSN  0006-3444
• CFGauss、理論の組み合わせは観測誤差の最小値、1821 年、ヴェルケ、4. ゲッティンゲ

注記

1. エマンヌアル・C・イフェアコル、バリー・W・ジャービス著『デジタル信号処理：実践的アプローチ』第2版、インディアナポリス：ピアソン・エデュケーション・リミテッド、2002年、718ページ
2. Steven Van Vaerenbergh、Ignacio Santamaría、Miguel Lázaro-Gredilla「カーネル再帰最小二乗法における忘却係数の推定」、2012 IEEE International Workshop on Machine Learning for Signal Processing、2012年、2016年6月23日アクセス。
3. ウェルチ、グレッグ、ビショップ、ゲイリー「カルマンフィルタ入門」、ノースカロライナ大学チャペルヒル校コンピュータサイエンス学部、1997年9月17日、2011年7月19日アクセス。
4. Diniz, Paulo SR、「適応フィルタリング：アルゴリズムと実用的な実装」、Springer Nature Switzerland AG 2020、第7章：適応型ラティスベースRLSアルゴリズム。https://doi.org/10.1007/978-3-030-29057-3_7
5. Albu、Kadlec、Softley、Matousek、Hermanek、Coleman、Fagan「Virtex での (正規化された) RLS ラティスの実装」Wayback Machineに 2016 年 3 月 4 日にアーカイブ、デジタル信号処理、2001 年、2011 年 12 月 24 日にアクセス。