マルコフ情報源

数学において、マルコフ情報源、または単にマルコフ源とは、その基礎となるダイナミクスが定常有限マルコフ連鎖によって与えられる情報源です。

正式な定義

情報源は、定常分布を持つ、有限のアルファベットにわたるランダム変数のシーケンスです。 Γ{\displaystyle \Gamma}

マルコフ情報源は、(定常)マルコフ連鎖であり、関数M{\displaystyle M}

f:SΓ{\displaystyle f:S\to \Gamma }

マルコフ連鎖の状態をアルファベットの文字にマッピングします。 S{\displaystyle S}Γ{\displaystyle \Gamma}

ユニフィラ・マルコフ情報源とは、共通の事前状態から1ステップで各状態に到達できる場合、その値がそれぞれ異なるマルコフ情報源です。ユニフィラ・マルコフ情報源は、一般的な場合と比較して、多くの特性がはるかに容易に分析できるという点で注目に値します。 fs{\displaystyle f(s_{k})}s{\displaystyle s_{k}}

アプリケーション

マルコフ情報源は、通信理論において、送信機のモデルとして広く用いられています。マルコフ情報源は自然言語処理においても用いられ、テキスト内の隠れた意味を表現するために用いられます。マルコフ情報源の出力が与えられた場合、そのマルコフ連鎖の根底にあるマルコフ連鎖を解く作業は、ビタビアルゴリズムなどの隠れマルコフモデルの手法を用いて行われます。

参照

参考文献

  • ロバート・B・アッシュ『情報理論』(1965年)ドーバー出版。ISBN 0-486-66521-6