階層的時間記憶

階層的時間記憶（HTM）は、Numentaが開発した生物学的制約に基づく機械知能技術です。ジェフ・ホーキンスとサンドラ・ブレイクスリーが2004年に著した著書『On Intelligence』で初めて紹介されたHTMは、現在では主にストリーミングデータにおける異常検出に利用されています。この技術は、神経科学と、哺乳類（特にヒト）の脳大脳新皮質における錐体ニューロンの生理学および相互作用に基づいています。

HTMの中核は、高次シーケンスを記憶、学習、推論、そして想起できる学習アルゴリズムです。他の多くの機械学習手法とは異なり、HTMはラベルなしデータから時間ベースのパターンを（教師なし学習で）継続的に学習します。HTMはノイズに対して堅牢で、高い学習能力（複数のパターンを同時に学習できる）を備えています。コンピュータに適用すると、HTMは予測、[ 1 ]異常検出、[ 2 ]分類、そして最終的には感覚運動アプリケーションに適しています。[ 3 ]

HTM は、Numenta のサンプル アプリケーションと Numenta のパートナーのいくつかの商用アプリケーションを通じてソフトウェアでテストされ、実装されています。

構造とアルゴリズム

典型的なHTMネットワークは、ツリー状の階層構造をしています（後述する大脳新皮質の「層」と混同しないでください）。これらの階層は、領域（またはノード）と呼ばれる小さな要素で構成されています。階層内の1つのレベルには、複数の領域が含まれる場合があります。上位の階層では、領域の数が少なくなることがよくあります。上位の階層では、下位のレベルで学習したパターンを組み合わせて再利用し、より複雑なパターンを記憶することができます。

各HTM領域は共通の基本機能を持ちます。学習モードと推論モードでは、感覚データ（例えば、目からのデータ）が最下層領域に入力されます。生成モードでは、最下層領域は特定のカテゴリの生成パターンを出力します。最上層には通常、最も一般的で最も永続的なカテゴリ（概念）を格納する単一の領域があります。これらのカテゴリ（概念）は、より低いレベルのより小さな概念（時間と空間的に制限された概念）を決定づけたり、あるいはそれらの概念によって決定づけられたりします。推論モードに設定されると、各層の領域は、その「子」領域から入力される情報を、記憶されているカテゴリの確率として解釈します。

各HTM領域は、空間パターン（同時に発生することが多い入力ビットの組み合わせ）を識別し、記憶することで学習します。そして、次々に発生する可能性のある空間パターンの時間的シーケンスを識別します。

進化するモデルとして

HTMは、ジェフ・ホーキンスの「千脳知能理論」のアルゴリズム的要素です。大脳新皮質に関する新たな知見は、HTMモデルに徐々に取り入れられ、HTMモデルはそれに応じて時間とともに変化していきます。新たな知見は必ずしもモデルの以前の部分を無効にするものではなく、ある世代のアイデアが必ずしも次の世代に排除されるわけではありません。理論の進化の性質上、HTMアルゴリズムは複数の世代に渡って存在してきました[ 4 ]。以下では、それらについて簡単に説明します。

第一世代：ゼータ1

HTM アルゴリズムの第 1 世代は、ゼータ 1と呼ばれることもあります。

トレーニング

学習中、ノード（または領域）は空間パターンの時系列シーケンスを入力として受け取ります。学習プロセスは2つの段階で構成されます。

  1. 空間プーリングは、（入力データから）頻繁に観測されるパターンを識別し、「同時発生」として記憶します。互いに有意に類似するパターンは、同一の同時発生として扱われます。多数の入力パターン候補は、管理可能な既知の同時発生数にまで絞り込まれます。
  2. 時間プーリングは、トレーニングシーケンス内で連続する可能性のある一致を時間的なグループに分割します。各パターングループは、入力パターンの「原因」（または『On Intelligence』における「名前」）を表します。

空間プーリングと時間プーリングの概念は、現在のHTMアルゴリズムにおいても依然として非常に重要です。時間プーリングはまだ十分に理解されておらず、その意味は時間の経過とともに変化してきました（HTMアルゴリズムの進化に伴って）。

推論

推論中、ノードはパターンが既知の各一致パターンに属する確率の集合を計算します。次に、入力パターンが各時間的グループを表す確率を計算します。各グループに割り当てられた確率の集合は、入力パターンに関するノードの「確信」と呼ばれます。（簡略化された実装では、ノードの確信は1つの勝利グループのみで構成されます。）この確信は推論の結果であり、階層の次の上位レベルにある1つ以上の「親」ノードに渡されます。

ノードにとって「予期しない」パターンは、特定の時間グループに属する優位な確率を持ちませんが、複数のグループに属する確率はほぼ等しくなります。パターンのシーケンスがトレーニングシーケンスに類似している場合、グループに割り当てられる確率はパターンの受信頻度ほど頻繁には変化しません。ノードの出力はそれほど変化せず、時間分解能は失われます。

より一般的なスキームでは、ノードの確信度は任意のレベルの任意のノードの入力に送ることができますが、ノード間の接続は固定されたままです。上位レベルのノードは、この出力を他の子ノードの出力と組み合わせることで、独自の入力パターンを形成します。

上述のように、各ノードでは空間と時間の解像度が失われるため、上位ノードによって形成される信念は、さらに広い空間と時間の範囲を表します。これは、人間の脳が知覚する物理世界の構造を反映しています。より大きな概念（原因、行動、対象など）は、よりゆっくりと変化すると認識され、より速く変化するより小さな概念で構成されています。ジェフ・ホーキンスは、脳がこのような階層構造を進化させたのは、外界の構造に一致し、予測し、影響を与えるためだと仮説しています。

ゼータ1HTMの機能の詳細については、Numentaの古いドキュメントを参照してください。[ 5 ]

第2世代：皮質学習アルゴリズム

HTM学習アルゴリズムの第2世代は、皮質学習アルゴリズム（CLA）とも呼ばれ、ゼータ1とは大きく異なっていました。脳の活動と、より生物学的にリアルなニューロンモデル（HTMの文脈ではセルとも呼ばれる）を表現するために、スパース分散表現と呼ばれるデータ構造（要素が1または0のバイナリで、1のビットの数が0のビットの数に比べて少ないデータ構造）に依存しています。[ 6 ]このHTM世代には、スパース分散表現（SDR）を出力する空間プーリングアルゴリズム[ 7 ]と、複雑なシーケンスを表現および予測することを学習するシーケンスメモリアルゴリズム[ 8 ]の2つのコアコンポーネントがあります。

この新世代では、大脳皮質の層とミニカラムが対象とされ、部分的にモデル化されています。各HTM層（前述のHTM階層のHTMレベルと混同しないでください）は、高度に相互接続された多数のミニカラムで構成されています。HTM層は入力から疎な分散表現を作成するため、常に一定の割合のミニカラムがアクティブになります。ミニカラムは、同じ受容野を持つ細胞のグループとして理解されます。各ミニカラムには、以前の複数の状態を記憶できる多数の細胞があります。細胞は、アクティブ、非アクティブ、予測の3つの状態のいずれかになります。

空間プーリング

各ミニカラムの受容野は、はるかに多数のノード入力からランダムに選択される固定数の入力です。（特定の）入力パターンに基づいて、一部のミニカラムはアクティブな入力値と多かれ少なかれ関連付けられます。空間プーリングは、最もアクティブなミニカラムを比較的一定数選択し、アクティブなミニカラムの近傍にある他のミニカラムを非アクティブ化（抑制）します。類似した入力パターンは、安定したミニカラムセットをアクティブ化する傾向があります。各レイヤーで使用されるメモリ量は、より複雑な空間パターンを学習するために増加したり、より単純なパターンを学習するために減少したりできます。

アクティブセル、非アクティブセル、予測セル

前述のように、ミニカラムのセル（またはニューロン）は、任意の時点で、アクティブ状態、非アクティブ状態、または予測状態のいずれかになります。初期状態では、セルは非アクティブです。

細胞はどうやって活性化するのでしょうか？

アクティブミニカラム内の1つ以上のセルが予測状態（下記参照）にある場合、それらのセルのみが現在のタイムステップでアクティブになります。アクティブミニカラム内のどのセルも予測状態ではない場合（初期タイムステップ中、またはこのミニカラムのアクティブ化が予期されていなかった場合）、すべてのセルがアクティブになります。

細胞はどのようにして予測できるようになるのでしょうか?

細胞が活性化すると、その細胞は、過去数回のタイムステップで活性化傾向にあった近傍の細胞との結合を徐々に形成します。このようにして、細胞は、結合された細胞が活性化しているかどうかを確認することで、既知のシーケンスを認識することを学習します。多数の結合された細胞が活性化している場合、この細胞はシーケンスの次の入力の1つを予測するために 予測状態に移行します。

ミニコラムの出力

レイヤーの出力には、アクティブ状態と予測状態の両方のミニカラムが含まれます。そのため、ミニカラムは長期間にわたってアクティブであり、親レイヤーの時間的安定性が向上します。

推論とオンライン学習

皮質学習アルゴリズムは、新しい入力パターンから継続的に学習できるため、別途推論モードは必要ありません。推論中、HTMは入力ストリームを以前に学習したシーケンスの断片と照合しようとします。これにより、各HTM層は認識したシーケンスの可能性のある続きを常に予測できます。予測されたシーケンスのインデックスが、その層の出力となります。予測は入力パターンよりも変化頻度が低い傾向があるため、上位階層の出力の時間的安定性が向上します。予測は、シーケンス内の欠落パターンを補完し、システムが予測したものを推論するようにバイアスをかけることで、曖昧なデータを解釈するのにも役立ちます。

CLAの応用

皮質学習アルゴリズムは現在、 Numenta（Grok [ 9 ]など）によって商用SaaSとして提供されています。

CLAの有効性

2011年9月、ジェフ・ホーキンス氏は皮質学習アルゴリズムに関して次のような質問を受けました。「モデルに加えている変更が適切かどうか、どうやって判断するのですか？」これに対し、ジェフ氏は「答えは2つあります。1つは神経科学、もう1つは機械知能の手法です。神経科学の分野では、多くの予測が可能で、それらは検証可能です。私たちの理論が神経科学の膨大な観察結果を説明できれば、正しい方向に進んでいるという証拠になります。機械学習の世界では、そうしたことは重要ではなく、実際の問題にどれだけうまく対応できるかが重要です。私たちの場合、それはまだ分かりません。これまで誰も解決できなかった問題を解決できれば、人々は注目するでしょう。」と答えました。[ 10 ]

第3世代：感覚運動推論

第3世代は第2世代を基盤とし、大脳新皮質における感覚運動推論の理論を追加している。[ 11 ] [ 12 ]この理論は、階層構造のあらゆるレベルの皮質柱が時間の経過とともに物体の完全なモデルを学習し、物体上の特定の位置で特徴を学習できると提唱している。この理論は2018年に拡張され、「千脳理論」と呼ばれるようになった。[ 13 ]

ニューロンモデルの比較

人工ニューラル ネットワーク (A)、生物学的ニューロン (B)、および HTM ニューロン (C) の比較。
ニューロンモデルの比較
人工ニューラルネットワーク（ANN） 大脳新皮質錐体ニューロン（生物学的ニューロン） HTMモデルニューロン[ 8 ]
  • シナプスが少ない
  • 樹状突起なし
  • 入力値 × 重みの合計
  • シナプスの重みを変更することで学習する
  • 大脳新皮質第2層、第3層、第5層の錐体細胞に着想を得た
  • 数千のシナプス
  • 活性樹状突起：細胞は数百の独自のパターンを認識する
  • シナプスのセットを持つ同時検出器の各アレイで樹状突起とNMDAスパイクをモデル化する
  • 新しいシナプスの成長をモデル化して学習する

HTMと大脳新皮質の比較

HTMは、大脳新皮質における階層的に関連する皮質領域群に特徴的な機能を実装しようと試みます。大脳新皮質の各領域はHTM階層の1つ以上のレベルに対応し、海馬はHTMの最上位レベルとわずかに類似しています。単一のHTMノードは、特定の領域内の皮質柱群を表す場合があります。

HTMは主に機能モデルですが、HTMのアルゴリズムを大脳新皮質の層における神経接続構造と関連付ける試みがいくつか行われてきました。[ 14 ] [ 15 ]大脳新皮質は6つの水平層からなる垂直の列で構成されています。大脳新皮質の6つの細胞層は、HTM階層におけるレベルと混同すべきではありません。

HTMノードは、列あたり約20個のHTM「セル」を用いて、皮質列の一部（80～100個のニューロン）をモデル化しようとします。HTMは、入力の空間的および時間的特徴を検出するために、第2層と第3層のみをモデル化します。第2層では空間的な「プーリング」のために列あたり1個のセルを使用し、第3層では時間的なプーリングのために列あたり14～20個のセルを使用します。HTMと皮質の鍵となるのは、入力のノイズと変動を処理する能力です。これは、ある時点でアクティブな列が全体の約2%のみである「スパース分散表現」を用いることで実現されます。

HTMは、上述のように皮質の学習と可塑性の一部をモデル化しようとするものである。HTMとニューロンの違いは以下の通りである[ 16 ]。

  • 厳密に2進の信号とシナプス
  • シナプスや樹状突起の直接的な抑制はない（ただし間接的にシミュレートされる）
  • 現在はレイヤー2/3と4のみをモデル化しています（5と6はありません）
  • 「モーター」制御なし（レイヤー5）
  • 領域間のフィードバックなし（高層6層から低層1層まで）

疎分散表現

メモリコンポーネントをニューラルネットワークに統合する研究は、分散表現[ 17 ] [ 18 ]や自己組織化マップの初期研究にまで遡る長い歴史があります。例えば、スパース分散メモリ（SDM）では、ニューラルネットワークによって符号化されたパターンが連想メモリのメモリアドレスとして使用され、「ニューロン」は本質的にアドレスエンコーダとデコーダとして機能します。[ 19 ] [ 20 ]

コンピュータは、 32ビットワードのような1と0のあらゆる組み合わせが可能な高密度表現で情報を格納します。これとは対照的に、脳はスパース分散表現（SDR）を使用します。[ 21 ]人間の大脳新皮質には約160億個のニューロンがありますが、特定の時点で活動しているのはそのうちのごく一部です。ニューロンの活動はコンピュータのビットのようなもので、したがって表現はスパースです。NASAが80年代に開発したSDM [19] や潜在意味解析で使用されるベクトル空間モデルと同様に、HTMはスパース分散表現を使用します。[ 22 ]

HTMで使用されるSDRは、多数のビットで構成されるデータのバイナリ表現であり、そのうちアクティブなビット（1）の割合はごくわずかです。典型的な実装では、2048列と64Kの人工ニューロンがあり、一度にアクティブなビットは40個程度です。特定の表現において大部分のビットが「未使用」になるのは効率が悪いように思えるかもしれませんが、SDRには従来の稠密表現に比べて2つの大きな利点があります。第一に、SDRは表現の意味が少数のアクティブビット（疎）に共有（分散）されるため、破損や曖昧さに耐性があります。稠密表現では1ビットを反転するだけで意味が完全に変わりますが、SDRでは1ビットが全体の意味に大きな影響を与えない場合があります。これがSDRの2つ目の利点につながります。表現の意味がすべてのアクティブビットに分散されるため、2つの表現間の類似性は、それらが表すオブジェクトの意味的類似性の尺度として使用できます。つまり、SDR内の2つのベクトルが同じ位置に1を持つ場合、それらはその属性において意味的に類似している。SDR内のビットには意味があり、その意味はビット全体に分散されている。[ 22 ]

意味的折り畳み理論[ 23 ]は、これらのSDR特性に基づいて言語意味論の新しいモデルを提案しており、単語は単語SDRにエンコードされ、用語、文、テキスト間の類似性は単純な距離尺度で計算できる。

他のモデルとの類似性

ベイジアンネットワーク

ベイジアンネットワークに例えられるHTMは、ツリー状の階層構造に配置されたノードの集合体です。階層構造内の各ノードは、入力パターンと時系列から様々な原因を発見します。ベイジアンビリーフリビジョンアルゴリズムは、フィードフォワードビリーフとフィードバックビリーフを子ノードから親ノードへ、またその逆方向に伝播するために使用されます。しかし、HTMは自己学習が可能（各ノードが明確な家族関係を持つように）、時間依存のデータに対応し、潜在的注意のためのメカニズムを付与できるため、ベイジアンネットワークとの類似性は限定的です。

ベイズ的信念伝播に基づく階層的皮質計算理論は、以前にタイ・シン・リーとデイビッド・マンフォードによって提案された。[ 24 ] HTMはこれらのアイデアとほぼ一致しているが、視覚皮質における不変表現の取り扱いについての詳細を追加している。[ 25 ]

ニューラルネットワーク

大脳新皮質の詳細をモデル化するあらゆるシステムと同様に、HTMは人工ニューラルネットワークと見なすことができます。HTMで一般的に用いられるツリー型の階層構造は、従来のニューラルネットワークの一般的なトポロジーに似ています。HTMは、皮質柱（80～100個のニューロン）と、それらとより少数のHTM「ニューロン」との相互作用をモデル化しようとします。現在のHTMの目標は、一般的なコンピュータの能力の範囲内で、画像処理など容易に利用できる領域において、ニューロンとネットワークの機能（現在理解されている範囲で）を可能な限り捉えることです。例えば、高次レベルからのフィードバックや運動制御は、それらをどのように組み込むかがまだ分かっていないため試みられていません。また、可変シナプスではなくバイナリシナプスが使用されるのは、現在のHTMの機能では十分であると判断されたためです。

スティーブン・グロスバーグが研究したLAMINARTや類似のニューラルネットワークは、大脳皮質のインフラストラクチャとニューロンの行動の両方を時間的枠組みの中でモデル化し、神経生理学的および心理物理学的データを説明しようと試みている。しかし、これらのネットワークは現時点では複雑すぎて、現実的な応用には至っていない。[ 26 ]

HTMは、視覚皮質の腹側視覚路をモデル化するHMAXと呼ばれるアプローチを含む、トマソ・ポッジョの研究とも関連しています。HTMと様々なAIの考え方との類似性については、2005年12月号のArtificial Intelligence誌で解説されています。[ 27 ]

ネオコグニトロン

ネオコグニトロンは、1987年に福島邦彦教授によって提案された階層型多層ニューラルネットワークであり、最初の深層学習ニューラルネットワークモデルの一つである。 [ 28 ]

参照

参考文献

  1. ^ Cui, Yuwei; Ahmad, Subutai; Hawkins, Jeff (2016). 「教師なしニューラルネットワークモデルによる連続オンラインシーケンス学習」. Neural Computation . 28 (11): 2474– 2504. arXiv : 1512.05463 . doi : 10.1162/NECO_a_00893 . PMID  27626963. S2CID  3937908 .
  2. ^ Ahmad, Subutai; Lavin, Alexander; Purdy, Scott; Agha, Zuha (2017). 「ストリーミングデータのための教師なしリアルタイム異常検知」 . Neurocomputing . 262 : 134–147 . doi : 10.1016/j.neucom.2017.04.070 .
  3. ^ 「感覚運動推論に関する新しい理論研究の予備的詳細」 HTMフォーラム。2016年6月3日。
  4. ^ YouTubeのHTM回顧展
  5. ^ 「Numentaの古いドキュメント」numenta.com。 2009年5月27日時点のオリジナルよりアーカイブ。
  6. ^ YouTubeで皮質学習アルゴリズムを説明するジェフ・ホーキンスの講義
  7. ^ Cui, Yuwei; Ahmad, Subutai; Hawkins, Jeff (2017). 「HTM空間プーラー ― オンラインスパース分散コーディングのための大脳新皮質アルゴリズム」 . Frontiers in Computational Neuroscience . 11 111. doi : 10.3389/fncom.2017.00111 . PMC 5712570. PMID 29238299 .  
  8. ^ a b cホーキンス、ジェフ、アフマド、スブタイ（2016年3月30日） 「ニューロンが何千ものシナプスを持つ理由：大脳新皮質におけるシーケンス記憶の理論」Front. Neural Circuits . 10:23 . doi : 10.3389/fncir.2016.00023 . PMC 4811948. PMID 27065813 .  
  9. ^ 「Grok製品ページ」grokstream.com . 2019年4月26日時点のオリジナルよりアーカイブ。2017年8月12日閲覧。
  10. ^ Laserson, Jonathan (2011年9月). 「ニューラルネットワークからディープラーニングへ：人間の脳に焦点を絞る」(PDF) . XRDS . 18 (1). doi : 10.1145/2000775.2000787 . S2CID 21496694 . 
  11. ^ホーキンス、ジェフ、アフマド、スブタイ、崔、ユーウェイ (2017). 「大脳新皮質のコラムが世界の構造を学習できるようにする理論」 .神経回路のフロンティア. 11 81. doi : 10.3389/fncir.2017.00081 . PMC 5661005. PMID 29118696 .  
  12. ^大脳皮質の機能の半分は見逃されているのか？知覚の基礎としてのアロセントリックな位置（ YouTube）
  13. ^ 「Numenta、知能と皮質計算に関する画期的な理論を発表」 eurekalert.org 2019年1月14日。2020年11月8日時点のオリジナルよりアーカイブ。 2019年3月22日閲覧。
  14. ^ホーキンス、ジェフ；ブレイクスリー、サンドラ.知能について.
  15. ^ George, Dileep; Hawkins, Jeff (2009). 「皮質微小回路の数学的理論に向けて」 . PLOS Computational Biology . 5 (10) e1000532. Bibcode : 2009PLSCB...5E0532G . doi : 10.1371/ journal.pcbi.1000532 . PMC 2749218. PMID 19816557 .  
  16. ^ 「HTM 皮質学習アルゴリズム」(PDF) . numenta.org .
  17. ^ Hinton, Geoffrey E. (1984).分散表現(PDF) (技術レポート). カーネギーメロン大学コンピュータサイエンス学部. CMU-CS-84-157.
  18. ^ Plate, Tony (1991). 「ホログラフィック縮小表現：構成的分散表現のための畳み込み代数」（PDF） . IJCAI .
  19. ^ a bカネルヴァ、ペンティ (1988)。スパース分散メモリ。 MITプレス。ISBN 978-0-262-11132-4。
  20. ^ Snaider, Javier; Franklin, Stan (2012).整数スパース分散メモリ(PDF) . 第25回国際フレア会議. S2CID 17547390. 2017年12月29日時点のオリジナル(PDF)からアーカイブ。 
  21. ^ Olshausen, Bruno A.; Field, David J. (1997). 「過剰完備基底関数を用いたスパース符号化：V1で採用されている戦略？」 . Vision Research . 37 (23): 3311– 3325. doi : 10.1016/S0042-6989(97)00169-7 . PMID 9425546. S2CID 14208692 .  
  22. ^ a b Ahmad, Subutai; Hawkins, Jeff (2016). 「Numenta NUPIC – スパース分散表現」. arXiv : 1601.00720 [ q-bio.NC ].
  23. ^ De Sousa Webber, Francisco (2015). 「セマンティックフォールディング理論とセマンティックフィンガープリンティングへの応用」. arXiv : 1511.08855 [ cs.AI ].
  24. ^ Lee, Tai Sing; Mumford, David (2002). 「視覚皮質における階層的ベイズ推論」. Journal of the Optical Society of America A . 20 (7): 1434–48 . CiteSeerX 10.1.1.12.2565 . doi : 10.1364/josaa.20.001434 . PMID 12868647 .  
  25. ^ George, Dileep (2010-07-24). 「視覚皮質における階層的ベイズ推論」 . dileepgeorge.com . 2019年8月1日時点のオリジナルよりアーカイブ。
  26. ^ Grossberg, Stephen (2007). Cisek, Paul; Drew, Trevor; Kalaska, John (編).新皮質の統一理論に向けて：視覚と認知のための層状皮質回路．技術報告書 CAS/CNS-TR-2006-008. 計算神経科学に向けて：ニューロンから理論へ、そしてニューロンから理論へ(PDF) (報告書). アムステルダム: Elsevier. pp.  79– 104.オリジナル(PDF)から2017年8月29日にアーカイブ。
  27. ^ 「特別レビュー号」 .人工知能. 169 (2): 103– 212. 2005年12月. doi : 10.1016/j.artint.2005.10.001 .
  28. ^福島邦彦 (2007). 「ネオコグニトロン」 . Scholarpedia . 2 (1): 1717. Bibcode : 2007SchpJ...2.1717F . doi : 10.4249/scholarpedia.1717 .

さらに読む

「 https://en.wikipedia.org/w/index.php?title=Hierarchical_temporal_memory&oldid=1332863688」より取得