スパイキングニューラルネットワーク
この昆虫はスパイクニューラルネットワークによって制御され、未知の地形にあるターゲットを見つけます。

スパイキングニューラルネットワーク（SNN）は、自然のニューラルネットワークを模倣した人工ニューラルネットワーク（ANN）です。[ 1 ]これらのモデルは、離散スパイクのタイミングを主な情報伝達手段として利用します。[ 2 ]

SNNは、ニューロンとシナプスの状態に加えて、時間の概念を動作モデルに組み込んでいます。その考え方は、 SNNのニューロンが（一般的な多層パーセプトロンネットワークのように）伝播サイクルごとに情報を伝達するのではなく、膜電位（ニューロンの膜電荷に関連する固有の特性）が閾値と呼ばれる特定の値に達したときにのみ情報を伝達するというものです。膜電位が閾値に達すると、ニューロンが発火し、他のニューロンに伝達される信号を生成します。この信号に反応して、ニューロンは電位を増減させます。閾値を超えた瞬間に発火するニューロンモデルは、スパイキングニューロンモデルとも呼ばれます。[ 3 ]

スパイクレートは従来のANNの可変出力の類似物と考えることができるが、[ 4 ]神経生物学研究では、レートベースの方式だけでは高速処理は実現できないことが示唆されている。例えば、人間は網膜から側頭葉まで、ニューロン1個あたり10ms以下の処理時間で画像認識タスクを実行できる。この時間枠はレートベースの符号化には短すぎる。少数のスパイクニューロンにおける正確なスパイクタイミングは、レートベースのアプローチと比較して高い情報符号化能力も有する。[ 5 ]

最も有名なスパイクニューロンモデルは、リーキー積分発火モデルである。[ 6 ]このモデルでは、瞬間的な活性化レベル（微分方程式としてモデル化される）が通常、ニューロンの状態とみなされ、入力スパイクによってこの値が上昇または下降し、最終的に状態が減衰するか、発火閾値に達した場合はニューロンが発火する。発火後、状態変数はより低い値にリセットされる。

スパイクの頻度 (レート コード)、刺激後の最初のスパイクまでの時間、またはスパイク間の間隔に基づいて、 出力されるスパイク列を実数値として解釈するためのさまざまなデコード方法が存在します。

歴史

パルスニューロンモデル
FTJに基づく人工シナプス

多くの多層人工ニューラルネットワークは完全に結合しており、前層のすべてのニューロンからの入力を受け取り、後層のすべてのニューロンに信号を送ります。これらのネットワークは画期的な成果を上げていますが、生物学的ネットワークと一致しておらず、ニューロンを模倣していません。

生物学に着想を得たスパイクニューロンのホジキン・ハクスリーモデルは1952年に提唱されました。このモデルは、活動電位の発生と伝播の仕組みを記述しています。シナプス間隙における化学伝達物質の交換を必要とするニューロン間のコミュニケーションは、積分発火モデル、フィッツヒュー・ナグモモデル（1961～1962年）、ヒンドマーシュ・ローズモデル（1984年）などのモデルで記述されています。リーキー積分発火モデル（またはその派生モデル）は、ホジキン・ハクスリーモデルよりも計算が容易なため、広く用いられています。[ 7 ]

人工スパイキングニューラルネットワークの概念が広く知られるようになったのは21世紀に入ってからであるが、[ 8 ] [ 9 ] [ 10 ] 1980年から1995年にかけての研究によってこの概念は裏付けられていた。この種のANNの最初のモデルは、非アルゴリズム的な知的情報処理システムをシミュレートするものと思われた。[ 11 ] [ 12 ] [ 13 ]しかし、スパイキングニューラルネットワークを数学モデルとして初めて研究したのは1970年代初頭であった。[ 14 ]

2019年時点ではSNNはANNに比べて精度が遅れていましたが、その差は縮まっており、いくつかのタスクでは差がなくなりました。[ 15 ]

基礎

脳内の情報は活動電位（ニューロンスパイク）として表され、スパイク列または協調波にグループ化されることがあります。神経科学における根本的な問いは、ニューロンが速度コードで通信するのか、それとも時間コードで通信するのかを明らかにすることです。[ 16 ]時間コードとは、従来のニューラルネットワークにおいて、1つのスパイクニューロンが数百の隠れユニットを置き換えることができることを意味します。[ 1 ]

SNNはニューロンの現在の状態を電位（微分方程式としてモデル化される場合もある）として定義する。[ 17 ]入力パルスは電位を上昇させ、その後徐々に低下させる。符号化方式は、パルス周波数とパルス間隔を考慮して、これらのパルス列を数値として解釈することができる。[ 18 ]パルス発生の正確な時間を用いることで、ニューラルネットワークはより多くの情報を考慮し、より優れた計算特性を提供することができる。[ 19 ]

SNNは連続領域で計算を行います。このようなニューロンは、電位が特定の値に達した場合にのみ活性化を判定します。ニューロンが活性化されると、そのニューロンは信号を生成し、それが接続されたニューロンに渡され、それに応じてニューロンの電位が上昇または低下します。

SNNアプローチは、従来のANNのバイナリ出力ではなく、連続出力を生成します。パルス列は解釈が容易ではないため、符号化方式が必要になります。しかし、パルス列表現は時空間データ（または実世界のセンサデータ分類）の処理に適している可能性があります。[ 20 ] SNNはニューロンを近くのニューロンとのみ接続し、入力ブロックを個別に処理します（フィルタを使用するCNNに似ています）。SNNは情報をパルス列として符号化することで時間を考慮し、情報を失わないようにします。これにより、再帰型ニューラルネットワーク（RNN）の複雑さを回避します。インパルスニューロンは、従来の人工ニューロンよりも強力な計算ユニットです。[ 21 ]

SNNは理論的には、いわゆる「第二世代ネットワーク」よりも強力です。第二世代ネットワークとは、「入力の加重和（または多項式）に連続的な出力値を持つ活性化関数を適用する計算ユニットに基づく」ANNと定義されます。しかし、SNNのトレーニングの問題とハードウェア要件により、その使用は制限されています。ヘブ学習やSTDPなどの生物学に着想を得た教師なし学習法は利用可能ですが、第二世代ネットワークよりも優れたパフォーマンスを提供できる効果的な教師ありトレーニング法はSNNには存在しません。[ 21 ] SNNのスパイクベースの活性化は微分化できないため、勾配降下法に基づくバックプロパゲーション（BP）は利用できません。

SNNは、従来のANNに比べて、現実的なニューラルモデルをシミュレートするための計算コストがはるかに大きい。[ 22 ]

パルス結合ニューラルネットワーク（PCNN）は、しばしばSNNと混同されます。PCNNはSNNの一種と見なすことができます。

研究者たちは様々なテーマに積極的に取り組んでいます。まず、微分可能性に関する問題があります。順方向学習法と逆方向学習法の両方の式には、ニューロン活性化関数の微分が含まれていますが、これは微分不可能です。なぜなら、ニューロンの出力はスパイク時には1、それ以外は0となるからです。この「全か無か」の挙動は勾配を乱し、これらのニューロンは勾配ベースの最適化には適さないものとなります。この問題を解決するアプローチには、以下のものがあります。

  • 隠れユニットに対して完全に生物学的にヒントを得た局所学習ルールを採用する
  • 従来訓練された「レートベース」NNをSNNに変換する
  • ネットワークモデルを連続的に微分可能になるように平滑化する
  • 代理勾配（SG）を実勾配の連続緩和として定義する

2つ目は最適化アルゴリズムに関するものです。標準的なBPは、計算、メモリ、通信の面でコストが高く、それを実装するハードウェア（例えば、コンピュータ、脳、ニューロモルフィックデバイス）に適さない可能性があります。[ 23 ]

スパイク周波数適応 (SFA) などの追加のニューロンダイナミクスを組み込むことは、効率と計算能力を向上させる注目すべき進歩です。[ 6 ] [ 24 ]これらのニューロンは、生物学的複雑性と計算複雑性の中間に位置します。[ 25 ]生物学的洞察から生まれた SFA は、消費電力を削減することで計算上の大きな利点を提供します。 [ 26 ]特に反復刺激や強い刺激の場合に有効です。この適応により、信号/ノイズの明瞭性が向上し、ニューロンレベルで基本的な短期記憶が導入され、精度と効率が向上します。[ 27 ]これは主にコンパートメントニューロンモデルを使用して実現されました。適応しきい値を備えたニューロンモデルのより単純なバージョンは、SFA を実現する間接的な方法です。これにより、シナプス可塑性が制限されていても SNN の学習能力が向上し、計算効率が向上します。[ 28 ] [ 29 ]この機能は、スパイク処理の必要性を減らすことでネットワーク層への要求を軽減し、計算負荷とメモリアクセス時間を削減します。これはニューラル計算の重要な要素です。さらに、SFA対応ニューロンを利用したSNNは、従来のANNに匹敵する精度レベルを達成し、[ 30 ] [ 31 ]同等のタスクに必要なニューロン数も少なくなります。この効率性により、計算ワークフローが合理化され、技術的な完全性を維持しながら、スペースとエネルギーを節約できます。高性能ディープスパイクニューラルネットワークは、ニューロンあたり0.3スパイクで動作できます。[ 32 ]

アプリケーション

SNNは原理的には従来のANNと同じアプリケーションに適用できる。[ 33 ]さらに、SNNは環境に関する事前の知識なしに餌を探している昆虫など、生物の中枢神経系をモデル化することができる。 [ 34 ]比較的リアルなため、生物学的神経回路の研究に使用することができる。生物学的神経回路のトポロジーとその機能に関する仮説から始めて、この回路の記録を対応するSNNの出力と比較し、仮説の妥当性を評価することができる。SNNには効果的なトレーニングメカニズムがないため、コンピュータービジョンを含む一部のアプリケーションを複雑にする可能性があります。

画像ベースのデータにSNNを使用する場合、画像をバイナリスパイク列に変換する必要がある。[ 35 ]エンコーディングの種類には以下が含まれる。[ 36 ]

  • 時間的コーディング。ニューロンごとに 1 つのスパイクを生成し、スパイクの遅延はピクセルの強度に反比例します。
  • レート コーディング: ピクセルの強度をスパイク トレインに変換します。スパイクの数はピクセルの強度に比例します。
  • ダイレクトコーディング。学習可能なレイヤーを用いて、各タイムステップごとに浮動小数点値を生成します。このレイヤーは、特定のタイムステップにおける各ピクセルを浮動小数点値に変換し、生成された浮動小数点値に対して閾値を適用して0または1を選択します。
  • 位相コーディング。グローバル発振器に基づいて時間情報をスパイク パターンにエンコードします。
  • バーストコーディング。スパイクをバーストで送信し、通信の信頼性を高めます。

ソフトウェア

SNNをシミュレートできるアプリケーションソフトウェアは多岐にわたります。これらのソフトウェアは、用途に応じて以下のように分類できます。

SNNシミュレーション

強誘電体シナプスを用いた教師なし学習

これらは複雑なニューラルネットワークをシミュレートします。大規模なネットワークでは通常、長時間の処理が必要になります。候補としては以下が挙げられます。[ 37 ]

ハードウェア

ハードウェアベースのスパイキングニューラルネットワーク（SNN）実装への取り組みは、研究者が脳に着想を得たニューロモルフィックシステムの研究を始めた1980年代に始まりました[ 41 ]。その後数十年にわたり、半導体技術の進歩により、いくつかの注目すべきプロジェクトが開発されました[ 42 ] 。

そうしたプロジェクトの 1 つがマンチェスター大学で開発された SpiNNakerで、数百万個の処理コアを利用してスパイクニューロンの大規模なシミュレーションを実行します。

IBM が開発したTrueNorthは、エネルギー効率と並列処理のために設計された最初の商用ニューロモルフィック チップの 1 つです。

Intelの研究用チップであるLoihiは、ニューロモルフィックモデリングにおけるオンライン学習と適応性に重点を置いています。

研究分野では、ヨーロッパで開発されたBrainScaleSなどのプラットフォームは、アナログ回路とデジタル回路を統合し、神経シミュレーションを高速化しています。スタンフォード大学のNeurogridは、生物学的ニューロンとシナプスを効率的にシミュレートするために設計されました。iniLabsが開発したDynap-se [ 43 ]モデルは、ロボット工学やモノのインターネット（IoT）アプリケーションでの使用を目的とした、低消費電力でイベントベースのニューロモルフィックチップファミリーです。

さらに、メモリスタやその他の新興メモリ技術をベースにしたハードウェアがSNNの実装に検討されており、消費電力の低減と生物学的神経モデルとの互換性の向上を目指している。[ 42 ]

強誘電体シナプスを用いたSTDP学習の予測
ニューロン間メッシュルーティングモデル

サットンとバートは、将来のニューロモルフィック・アーキテクチャ[ 44 ]は数十億個のナノシナプスから構成されると提唱しており、それに伴う物理的メカニズムを明確に理解する必要がある。強誘電体トンネル接合に基づく実験システムは、STDPが異種分極スイッチングから利用できることを実証するために用いられてきた。走査プローブイメージング、電気輸送、原子スケール分子動力学を組み合わせることで、伝導率の変化は核形成が支配的なドメイン反転によってモデル化できる。シミュレーションは、強誘電体ナノシナプスのアレイが予測可能な方法でパターンを認識することを自律的に学習できることを示し、教師なし学習への道を開く。[ 45 ]

強誘電体シナプスを用いた教師なし学習

ベンチマーク

教師なし学習法[ 46 ]に従って訓練されたスパイキングネットワークの分類能力は、Iris、Wisconsin Breast Cancer、Statlog Landsatデータセットなどのベンチマークデータセットでテストされています。[ 47 ] [ 48 ]データのクラスタリングと分類には2層フィードフォワードネットワークなど、情報符号化とネットワーク設計に関する様々なアプローチが用いられています。ホップフィールド（1995）に基づいて、著者らはラジアル基底関数とスパイキングニューロンの特性を組み合わせた局所受容野モデルを実装し、浮動小数点表現を持つ入力信号をスパイキング表現に変換しました。[ 49 ] [ 50 ]

参照

参考文献

  1. ^ a b Maass W (1997). 「スパイキングニューロンネットワーク：第三世代ニューラルネットワークモデル」.ニューラルネットワーク. 10 (9): 1659– 1671. doi : 10.1016/S0893-6080(97)00011-7 . ISSN  0893-6080 .
  2. ^ Auge, Daniel; Hille, Julian; Mueller, Etienne; Knoll, Alois (2021-12-01). 「スパイキングニューラルネットワークにおける信号処理のための符号化技術の概説」 . Neural Processing Letters . 53 (6): 4693– 4710. doi : 10.1007/s11063-021-10562-2 . ISSN 1573-773X . 
  3. ^ Gerstner W, Kistler WM (2002).スパイキングニューロンモデル：単一ニューロン、集団、可塑性. ケンブリッジ大学出版局, イギリス. ISBN 0-511-07817-X. OCLC  57417395 .
  4. ^ Wang, Xiangwen; Lin, Xianghong; Dang, Xiaochao (2020-05-01). 「スパイキングニューラルネットワークにおける教師あり学習：アルゴリズムと評価のレビュー」 . Neural Networks . 125 : 258–280 . doi : 10.1016/j.neunet.2020.02.011 . ISSN 0893-6080 . PMID 32146356. S2CID 212638634 .   
  5. ^ Taherkhani, Aboozar; Belatreche, Ammar; Li, Yuhua; Cosma, Georgina; Maguire, Liam P.; McGinnity, TM (2020-02-01). 「生物学的に妥当なスパイキングニューラルネットワークにおける学習のレビュー」 . Neural Networks . 122 : 253– 272. doi : 10.1016/j.neunet.2019.09.036 . ISSN 0893-6080 . PMID 31726331. S2CID 207904985 .   
  6. ^ a b Ganguly, Chittotosh; Bezugam, Sai Sukruth; Abs, Elisabeth; Payvand, Melika; Dey, Sounak; Suri, Manan (2024-02-01). 「スパイク周波数適応：神経モデルとニューロモルフィックアプリケーションの橋渡し」 . Communications Engineering . 3 (1): 22. doi : 10.1038/s44172-024-00165-9 . ISSN 2731-3395 . PMC 11053160 .  
  7. ^ Lee D, Lee G, Kwon D, Lee S, Kim Y, Kim J (2018年6月). 「Flexon: 効率的なスパイキングニューラルネットワークシミュレーションのための柔軟なデジタルニューロン」. 2018 ACM/IEEE 第45回国際コンピュータアーキテクチャシンポジウム (ISCA) . pp.  275– 288. doi : 10.1109/isca.2018.00032 . ISBN 978-1-5386-5984-7. S2CID  50778421 .
  8. ^ Goodman, DF, & Brette, R. (2008). Brian: Pythonによるスパイキングニューラルネットワークシミュレータ. Frontiers in Neuroinformatics, 2, 350.
  9. ^ Vreeken、J. (2003)。スパイキング ニューラル ネットワーク、概要
  10. ^ Yamazaki, K.; Vo-Ho, VK; Bulsara, D.; Le, N. (2022年6月30日). 「スパイキングニューラルネットワークとその応用：レビュー」 . Brain Sciences . 12 (7): 863. doi : 10.3390/brainsci12070863 . PMC 9313413. PMID 35884670 .  
  11. ^ Ballard, DH (1987年7月). ニューラルネットワークにおけるモジュール学習. 第6回人工知能全国会議論文集 第1巻 (pp. 279-284).
  12. ^ Peretto, P. (1984). ニューラルネットワークの集合的性質：統計物理学的アプローチ. 生物サイバネティクス, 50(1), 51-62.
  13. ^黒木 誠 (1987). 時空間パターン認識のためのニューラルネットワークモデル. 生物サイバネティクス, 57(1), 103-114.
  14. ^ Anderson, JA (1972). 対話型メモリを生成する単純なニューラルネットワーク.数理生物科学, 14(3-4), 197-220.
  15. ^ Tavanaei A, Ghodrati M, Kheradpisheh SR, Masquelier T, Maida A (2019年3月). 「スパイキングニューラルネットワークにおけるディープラーニング」. Neural Networks . 111 : 47–63 . arXiv : 1804.08150 . doi : 10.1016/j.neunet.2018.12.002 . PMID: 30682710. S2CID : 5039751 .  
  16. ^ Gerstner W (2001). 「スパイキングニューロン」 . Maass W, Bishop CM (編).パルスニューラルネットワーク. MIT Press. ISBN 978-0-262-63221-8。
  17. ^ Hodgkin, AL; Huxley, AF (1952-08-28). 「膜電流の定量的記述と神経伝導および興奮への応用」 . The Journal of Physiology . 117 (4): 500– 544. doi : 10.1113/jphysiol.1952.sp004764 . ISSN 0022-3751 . PMC 1392413. PMID 12991237 .   
  18. ^ Dan, Yang; Poo, Mu-Ming (2006年7月). 「スパイクタイミング依存可塑性：シナプスから知覚へ」 .生理学レビュー. 86 (3): 1033– 1048. doi : 10.1152/physrev.00030.2005 . ISSN 0031-9333 . PMID 16816145 .  
  19. ^ Nagornov, Nikolay N.; Lyakhov, Pavel A.; Bergerman, Maxim V.; Kalita, Diana I. (2024). 「デジタル画像処理用デバイスおよびシステムの技術特性向上における最新動向」 . IEEE Access . 12 : 44659–44681 . Bibcode : 2024IEEEA..1244659N . doi : 10.1109/ACCESS.2024.3381493 . ISSN 2169-3536 . 
  20. ^ Van Wezel M (2020).時系列データセットのための堅牢なモジュラースパイキングニューラルネットワーク学習手法：ジェスチャー制御に焦点を当てて（理学修士論文）. デルフト工科大学.
  21. ^ a b Maass W (1997). 「スパイクニューロンネットワーク：第3世代ニューラルネットワークモデル」.ニューラルネットワーク. 10 (9): 1659– 1671. doi : 10.1016/S0893-6080(97)00011-7 .
  22. ^ Furber, Steve (2016年8月). 「大規模ニューロモルフィック・コンピューティング・システム」 . Journal of Neural Engineering . 13 (5) 051001. Bibcode : 2016JNEng..13e1001F . doi : 10.1088/1741-2560/13/5/051001 . ISSN 1741-2552 . PMID 27529195 .  
  23. ^ Neftci, Emre O.; Mostafa, Hesham; Zenke, Friedemann (2019). 「スパイキングニューラルネットワークにおける代理勾配学習：勾配ベース最適化のパワーをスパイキングニューラルネットワークにもたらす」 . IEEE Signal Processing Magazine . 36 (6): 51– 63. Bibcode : 2019ISPM...36f..51N . doi : 10.1109/msp.2019.2931595 .
  24. ^ Salaj, Darjan; Subramoney, Anand; Kraisnikovic, Ceca; Bellec, Guillaume; Legenstein, Robert; Maass, Wolfgang (2021-07-26). O'Leary, Timothy; Behrens, Timothy E; Gutierrez, Gabrielle (編). 「スパイク頻度適応は時間的に分散した情報に基づくネットワーク計算をサポートする」 . eLife . 10 e65459 . doi : 10.7554/eLife.65459 . ISSN 2050-084X . PMC 8313230. PMID 34310281 .   
  25. ^ Izhikevich, EM (2004). 「皮質スパイクニューロンにはどのモデルを使うべきか？」IEEE Transactions on Neural Networks . 15 (5): 1063– 1070. Bibcode : 2004ITNN...15.1063I . doi : 10.1109 / tnn.2004.832719 . PMID 15484883. S2CID 7354646 .  
  26. ^ Adibi, M., McDonald, JS, Clifford, CW & Arabzadeh, E. 適応は変動性における相関の増加にもかかわらず神経コーディング効率を向上させる。J. Neurosci. 33, 2108–2120 (2013)
  27. ^ラフリン、S. (1981)。 「単純なコーディング手順により、ニューロンの情報能力が強化されます。」自然のためのツァイツシュリフト C . 36 ( 9–10 ) : 910–912。ISSN 0341-0382 。​ PMID 7303823。  
  28. ^ Querlioz, Damien; Bichler, Olivier; Dollfus, Philippe; Gamrat, Christian (2013). 「メモリスティブナノデバイスを用いたスパイキングニューラルネットワークにおけるデバイス変動への耐性」 . IEEE Transactions on Nanotechnology . 12 (3): 288– 295. Bibcode : 2013ITNan..12..288Q . doi : 10.1109/TNANO.2013.2250995 . S2CID 14416573 . 
  29. ^ Yamazaki, Kashu; Vo-Ho, Viet-Khoa; Bulsara, Darshan; Le, Ngan (2022年7月). 「スパイキングニューラルネットワークとその応用：レビュー」 . Brain Sciences . 12 (7): 863. doi : 10.3390/brainsci12070863 . ISSN 2076-3425 . PMC 9313413. PMID 35884670 .   
  30. ^ Shaban, Ahmed; Bezugam, Sai Sukruth; Suri, Manan (2021-07-09). 「ナノデバイスハードウェア実装によるリカレントスパイキングニューラルネットワーク向け適応閾値ニューロン」. Nature Communications . 12 (1): 4234. Bibcode : 2021NatCo..12.4234S . doi : 10.1038/s41467-021-24427-8 . ISSN 2041-1723 . PMC 8270926. PMID 34244491 .   
  31. ^ Bellec, Guillaume; Salaj, Darjan; Subramoney, Anand; Legenstein, Robert; Maass, Wolfgang (2018-12-25),スパイクニューロンネットワークにおける長期短期記憶と学習学習, arXiv : 1803.09574
  32. ^アナ・スタノジェビッチ;ヴォジュニアク、スタニスワフ。ベレック、ギョーム。ケルビーニ、ジョバンニ。パンタジ、アンジェリキ。ガースナー、ウルフラム (2024-08-09)。「ニューロンあたり 0.3 個のスパイクを備えた高性能ディープ スパイク ニューラル ネットワーク」。ネイチャーコミュニケーションズ。15 (1): 6793.arXiv : 2306.08744。Bibcode : 2024NatCo..15.6793S。土井: 10.1038/s41467-024-51110-5。ISSN 2041-1723。PMC 11315905。PMID 39122775。   
  33. ^ Alnajjar F, Murase K (2008). 「自律ロボットの適応行動を生成するためのシンプルなアメフラシ型スパイキングニューラルネットワーク」Adaptive Behavior . 14 (5): 306– 324. doi : 10.1177/1059712308093869 . S2CID 16577867 . 
  34. ^ Zhang X, Xu Z, Henriquez C, Ferrari S (2013年12月). 「スパイクベース間接学習によるスパイキングニューラルネットワーク制御仮想昆虫」.第52回IEEE意思決定制御会議. pp.  6798– 6805. CiteSeerX 10.1.1.671.6351 . doi : 10.1109/CDC.2013.6760966 . ISBN  978-1-4673-5717-3. S2CID  13992150 .
  35. ^ Yamazaki K, Vo-Ho VK, Bulsara D, Le N (2022年6月). 「スパイキングニューラルネットワークとその応用：レビュー」 . Brain Sciences . 12 (7): 863. doi : 10.3390/brainsci12070863 . PMC 9313413. PMID 35884670 .  
  36. ^ Kim Y, Park H, Moitra A, Bhattacharjee A, Venkatesha Y, Panda P (2022-01-31). 「レートコーディングとダイレクトコーディング：正確で堅牢、かつエネルギー効率の高いスパイキングニューラルネットワークにはどちらが適しているか？」arXiv : 2202.03133 [ cs.NE ].
  37. ^ Abbott LF, Nelson SB (2000年11月). 「シナプス可塑性：野獣を飼いならす」. Nature Neuroscience . 3 (S11): 1178– 1183. doi : 10.1038/81453 . PMID 11127835. S2CID 2048100 .  
  38. ^ Atiya AF, Parlos AG (2000年5月). 「リカレントネットワークトレーニングに関する新たな成果：アルゴリズムの統合と収束の加速」. IEEE Transactions on Neural Networks . 11 (3): 697– 709. Bibcode : 2000ITNN...11..697A . doi : 10.1109/72.846741 . PMID 18249797 . 
  39. ^ Sanaullah S, Koravuna S, Rückert U, Jungeblut T (2023年8月). 「ランタイムシミュレータRAVSimを用いたスパイキングニューラルネットベースの画像分類の評価」. International Journal of Neural Systems . 33 (9) 2350044. doi : 10.1142/S0129065723500442 . PMID 37604777. S2CID 259445644 .  
  40. ^ Eshraghian, JK, Ward, M., Neftci, E., Wang, X., Lenz, G., Dwivedi, G., Bennamoun, M., Jeong, DS, & Lu, WD (2023).ディープラーニングの教訓を用いたスパイキングニューラルネットワークの学習IEEE紀要, 111(9), 1016–1054.
  41. ^ Valle, Maurizio (2002). 「教師ありオンチップ学習による人工ニューラルネットワークのアナログVLSI実装」.アナログ集積回路と信号処理. 33 (3): 263– 287. Bibcode : 2002AICSP..33..263V . doi : 10.1023/A:1020717929709 . ISSN 0925-1030 . 
  42. ^ a b James, Conrad D.; Aimone, James B.; Miner, Nadine E.; Vineyard, Craig M.; Rothganger, Fredrick H.; Carlson, Kristofor D.; Mulder, Samuel A.; Draelos, Timothy J.; Faust, Aleksandra (2017-01-01). 「ニューラル・インスパイアードおよびニューロモルフィック・コンピューティング・アプリケーションのためのアルゴリズムとハードウェア・アーキテクチャの歴史的概観」. Biologically Inspired Cognitive Architectures . 19 : 49– 64. doi : 10.1016/j.bica.2016.11.002 . ISSN 2212-683X . OSTI 1340263 .  
  43. ^ Richter, Ole; Wu, Chenxi; Whatley, Adrian M; Köstinger, German; Nielsen, Carsten; Qiao, Ning; Indiveri, Giacomo (2024-03-01). 「DYNAP-SE2: スケーラブルなマルチコア動的ニューロモルフィック非同期スパイキングニューラルネットワークプロセッサ」 . Neuromorphic Computing and Engineering . 4 (1): 014003. doi : 10.1088/2634-4386/ad1cd7 . ISSN 2634-4386 . 
  44. ^ Sutton RS, Barto AG (2002)『強化学習入門』Bradford Books, MIT Press, Cambridge, MA.
  45. ^ Boyn S, Grollier J, Lecerf G, Xu B, Locatelli N, Fusil S, 他 (2017年4月). 「固体シナプスにおける強誘電体ドメインダイナミクスを通じた学習」 . Nature Communications . 8 14736. Bibcode : 2017NatCo...814736B . doi : 10.1038/ncomms14736 . PMC 5382254. PMID 28368007 .  
  46. ^ Ponulak F, Kasiński A (2010年2月). 「ReSuMeを用いたスパイキングニューラルネットワークにおける教師あり学習：シーケンス学習、分類、スパイクシフト」. Neural Computation . 22 (2): 467– 510. doi : 10.1162/neco.2009.11-08-901 . PMID 19842989. S2CID 12572538 .  
  47. ^ Newman D, Hettich S, Blake C, Merz C (1998). 「UCI機械学習データベースリポジトリ」 .
  48. ^ Bohte S, Kok JN, La Poutré H (2002). 「時間的に符号化されたスパイキングニューロンネットワークにおける誤差逆伝播」 . Neurocomputing . 48 ( 1–4 ): 17–37 . doi : 10.1016/S0925-2312(01)00658-0 .
  49. ^ Pfister JP, Toyoizumi T, Barber D, Gerstner W (2006年6月). 「教師あり学習における正確な活動電位発火のための最適なスパイクタイミング依存可塑性」. Neural Computation . 18 (6): 1318– 1348. arXiv : q-bio/0502037 . Bibcode : 2005q.bio.....2037P . doi : 10.1162/neco.2006.18.6.1318 . PMID 16764506. S2CID 6379045 .  
  50. ^ Bohte SM, La Poutré H, Kok JN (2002年3月). 「スパース時間符号化と多層RBFネットワークによるスパイキングニューロンの教師なしクラスタリング」 . IEEE Transactions on Neural Networks . 13 (2): 426– 435. Bibcode : 2002ITNN...13..426B . doi : 10.1109/72.991428 . PMID 18244443 . 
「 https://en.wikipedia.org/w/index.php?title=Spiking_neural_network&oldid=1323589711」より取得