光ニューラルネットワーク
論理ゲートとして機能する光ニューラルネットワークの概略図（上）と、マイクロ波周波数におけるその実装（下）。中間の回折メタサーフェスは隠れ層として機能する。[ 1 ]

光ニューラルネットワークは、光学部品 を用いた人工ニューラルネットワークの物理的な実装である。初期の光ニューラルネットワークでは、光屈折ボリュームホログラムを用いて、入力ニューロンのアレイを、多重化されたホログラムの強度に比例したシナプス重みを持つ出力のアレイに相互接続していた。[ 2 ] ボリュームホログラムは、スペクトルホールバーニングを用いてさらに多重化され、空間に波長の1次元を追加することで、2次元のニューロン入力と出力のアレイを4次元で相互接続することができた。[ 3 ] この研究は、光相互接続の強みをニューロン通信の実装に利用する代替方法に関する広範な研究につながった。[ 4 ]

光ニューラルネットワークとして実装されている人工ニューラルネットワークには、ホップフィールドニューラルネットワーク[ 5 ]や液晶空間光変調器を使用したコホネン自己組織化マップ[ 6 ]などがあります。光ニューラルネットワークは、ニューロモルフィックエンジニアリング の原理に基づいて、ニューロモルフィック光子システムを作成することもできます。通常、これらのシステムはスパイクを使用してネットワークに情報をエンコードし、光および光子ハードウェアのスパイクニューラルネットワークの機能を模倣します。ニューロモルフィック機能が実証されている光子デバイスには、（特に）垂直共振器面発光レーザー[ 7 ] [ 8 ]集積光子変調器、[ 9 ]超伝導ジョセフソン接合に基づく光電子システム[ 10 ]または共鳴トンネルダイオードに基づくシステムなどがあります。[ 11 ]

電気化学ニューラルネットワークと光ニューラルネットワーク

生物学的ニューラル ネットワークは電気化学的に機能しますが、光ニューラル ネットワークは電磁波を使用します。生物学的ニューラル ネットワークへの光インターフェイスはオプトジェネティクスで作成できますが、光ニューラル ネットワークと同じではありません。生物学的ニューラル ネットワークには、ニューロンの状態を動的に変更するためのさまざまなメカニズムが存在し、これらには短期および長期のシナプス可塑性が含まれます。シナプス可塑性は、シナプス伝達の効率を制御するために使用される電気生理学的現象の 1 つであり、長期的には学習と記憶に、短期的にはシナプス伝達効率の短い過渡的変化に使用されます。これを光学部品で実装するのは難しく、理想的には高度なフォトニック材料が必要です。光ニューラル ネットワーク用のフォトニック材料に望ましい特性には、入射光の強度に基づいて光の透過効率を変更する機能が含まれます。

光ニューラルネットワークの台頭時代

様々な分野でコンピュータービジョンの重要性が高まるにつれて、これらのタスクの計算コストが増加し、処理加速の新しいアプローチの開発がますます重要になっています。 特にムーアの法則の陳腐化が迫っていることを考慮すると、光コンピューティングは、現代のニューラルネットワークに対する GPU アクセラレーションの潜在的な代替手段として浮上しています。 その結果、光ニューラルネットワークは研究コミュニティでますます注目を集めています。 現在、シリコンフォトニクスベースと自由空間光学という 2 つの主要な光ニューラルコンピューティングの方法が研究されています。 それぞれのアプローチには利点と欠点があり、シリコンフォトニクスは優れた速度を提供できますが、自由空間光学が実現できる大規模な並列処理には欠けています。 自由空間光学の大幅な並列処理機能を考慮して、研究者はその活用に注力してきました。 Lin らによって提案された 1 つの実装[ 12 ]では、手書き数字分類器の位相マスクのトレーニングと製造が行われています。 3D プリントされた位相マスクを積み重ねることにより、作製されたネットワークを通過する光は、1 から 10 までの数字クラスをそれぞれ表す 10 個の検出器からなる光検出器アレイで読み取ることができます。 このネットワークはテラヘルツ範囲の分類を実現できますが、位相マスクが特定のタスク用に作製されており、再トレーニングできないため、柔軟性に欠けます。 Cahng らによって導入された自由空間光学における分類の代替方法[ 13 ]では、畳み込み定理に基づいて畳み込み演算を実行する 4F システムを採用しています。 このシステムでは、2 つのレンズを使用して畳み込み演算のフーリエ変換を実行し、電力消費や遅延なしでフーリエ領域への受動的な変換を可能にします。 ただし、この実装の畳み込み演算カーネルも作製された位相マスクであるため、デバイスの機能はネットワークの特定の畳み込み層のみに制限されます。[ 14 ] は、位相マスクの代わりにデジタルマイクロミラーデバイス（DMD）を使用しながら、4Fシステムの並列性を活用するカーネルタイリング技術を提案しました。このアプローチにより、ユーザーは様々なカーネルを4Fシステムにアップロードし、ネットワーク全体の推論を単一のデバイスで実行できます。残念ながら、現代のニューラルネットワークは主にCPU/GPU時代に開発されたため、4Fシステム向けに設計されていません。主な理由は、特徴マップにおいて解像度が低く、チャネル数が多い傾向があるためです。

その他の実装

2007年当時、光ニューラルネットワークのモデルは一つしかありませんでした。それは、プログラマブル光アレイ／アナログコンピュータ（POAC）です。これは2000年に実装され、改良型ジョイントフーリエ変換相関器（JTC）とバクテリオロドプシン（BR）をホログラフィック光メモリとして利用することを前提としていました。POACは、光CNNの実現にあたり、完全な並列性、大規模なアレイサイズ、そして光速という3つの性能を約束していました。これらの性能は、過去数年間にわたり、実用上の限界や検討事項を踏まえて検討され、最初のポータブル版POACの設計に至りました。

実用的な詳細（ハードウェア（光学セットアップ）とソフトウェア（光学テンプレート））は公開されています。しかし、POACは汎用性の高いプログラマブルアレイコンピュータであり、以下のような幅広い用途に使用できます。

2020年代の進歩

北京の清華大学が開発したTaichiは、光回折の電力効率と並列処理能力、そして光干渉の設定可能性を組み合わせたハイブリッドONNです。Taichiは1,396万個のパラメータを備えています。Taichiは、再構成可能な計算のために、より少ない層の回折ユニットのクラスターと干渉計アレイを組み合わせることで、深い（多層）ネットワークに見られる高いエラー率を回避しています。そのエンコードプロトコルは、大規模なネットワークモデルを複数のチップレットに並列に分散できるサブモデルに分割します。[ 15 ]

TaichiはOmniglotデータベースを用いたテストで91.89%の精度を達成しました。また、バッハの楽譜生成や、ゴッホやムンク風の画像生成にも使用されました。[ 15 ]

開発者らは、エネルギー効率は最大160兆回/秒（ワット）で面積効率は880兆回/mmで、 NVIDIA H100よりも10の3乗倍、従来のONNよりも10の2乗倍、10倍の面積効率であると主張した。[ 15 ]

最近、ペロブスカイト水和のフェムト秒レーザーリソグラフィーによって、回折ニューラルネットワークに時間次元が導入されました。ニューロンの時間的挙動は、ナノスケールのフェムト秒レーザーによって変調することができ、時間的進化機能を備えたプログラム可能なホログラフィックニューラルネットワークを可能にします。つまり、機能は水和刺激下で時間とともに変化することができます。メモリ内の時間的推論機能は、人間の脳の機能進化を模倣することが実証されました。つまり、機能は時間とともに単純な数字画像分類からより複雑な数字や衣料品画像分類へと変化することができます。これは、光ニューラルネットワークに時間次元を導入した初めての事例であり、将来の脳のような光子チップ開発の基礎を築くものです。[ 16 ]

参照

参考文献

  1. ^ Qian, Chao; Lin, Xiao; Lin, Xiaobin; Xu, Jian; Sun, Yang; Li, Erping; Zhang, Baile; Chen, Hongsheng (2020). 「回折ニューラルネットワークによる光論理演算の実行」 . Light: Science & Applications . 9 (59): 59. Bibcode : 2020LSA.....9...59Q . doi : 10.1038/s41377-020-0303-2 . PMC  7154031 . PMID  32337023 .
  2. ^ Wagner K, Psaltis D (1988). 「光屈折結晶を用いた適応型光ネットワーク」 . Appl. Opt . 27 (9): 1752– 1759. Bibcode : 1988ApOpt..27.1752P . doi : 10.1364/AO.27.001752 . PMID 20531647 . 
  3. ^ Weverka R, Wagner K, Saffman M (1991). 「波長多重体積ホログラムを用いた完全相互接続型2次元ニューラルアレイ」. Optics Letters . 16 (11): 826– 828. Bibcode : 1991OptL...16..826W . doi : 10.1364/OL.16.000826 . PMID 19776798 . 
  4. ^ Wagner K, Psaltis D (1993). 「光ニューラルネットワーク：特集編集者による序論」 . Appl. Opt . 32 (8): 1261– 1263. Bibcode : 1993ApOpt..32.1261W . doi : 10.1364/AO.32.001261 . PMID 20820259 . 
  5. ^ Ramachandran R, Gunasekaran N (2000). 「2次元双極性ホップフィールドモデルニューラルネットワークの光学的実装（科学ノート）」(PDF) . Proceedings-National Science Council Republic of China Part a Physical Science and Engineering . 24 (1): 73–8 . 2004年10月12日時点のオリジナル(PDF)からのアーカイブ。
  6. ^ Duvillier J, Killinger M, Heggarty K, Yao K, de Bougrenet de la Tocnaye JL (1994年1月). 「自己組織化マップの全光学的実装：予備的アプローチ」.応用光学. 33 (2): 258–66 . Bibcode : 1994ApOpt..33..258D . doi : 10.1364/AO.33.000258 . PMID 20862015 . 
  7. ^ Hejda M, Robertson J, Bueno J, Alanis J, Hurtado A (2021-06-01). 「光子VCSELニューロンを用いた画像ピクセルデータのレートコード化光スパイク列へのニューロモルフィック符号化」 . APL Photonics . 6 (6) 060802. Bibcode : 2021APLP....6f0802H . doi : 10.1063/5.0048674 . ISSN 2378-0967 . 
  8. ^ Robertson J, Hejda M, Bueno J, Hurtado A (2020年4月). 「スパイキングVCSELニューロンに基づくニューロモルフィックフォトニクスのための超高速光統合とパターン分類」 . Scientific Reports . 10 (1) 6098. Bibcode : 2020NatSR..10.6098R . doi : 10.1038/s41598-020-62945-5 . PMC 7142074. PMID 32269249 .  
  9. ^ George JK, Mehrabian A, Amin R, Meng J, de Lima TF, Tait AN, et al. (2019年2月). 「電気吸収変調器を用いたニューロモルフィックフォトニクス」. Optics Express . 27 (4): 5181– 5191. arXiv : 1809.03545 . Bibcode : 2019OExpr..27.5181G . doi : 10.1364/OE.27.005181 . PMID: 30876120. S2CID : 80625696 .  
  10. ^ Shainline JM (2020年1月). 「光子シナプスイベントのフラクソン処理」. IEEE Journal of Selected Topics in Quantum Electronics . 26 (1): 1– 15. arXiv : 1904.02807 . Bibcode : 2020IJSTQ..2627473S . doi : 10.1109/JSTQE.2019.2927473 . ISSN 1077-260X . S2CID 102352120 .  
  11. ^ Romeira B, Javaloyes J, Ironside CN, Figueiredo JM, Balle S, Piro O (2013年9月). 「共鳴トンネルダイオード光検出器駆動型半導体レーザーにおける励起性と光パルス生成」. Optics Express . 21 (18): 20931–40 . Bibcode : 2013OExpr..2120931R . doi : 10.1364/OE.21.020931 . hdl : 10400.1/11954 . PMID: 24103966. S2CID : 480070 .  
  12. ^ Lin, Xing; Rivenson, Yair; Yardimci, Nezih T.; Veli, Muhammed; Luo, Yi; Jarrahi, Mona; Ozcan, Aydogan (2018年9月7日). 「回折型ディープニューラルネットワークを用いた全光型機械学習」 . Science . 361 ( 6406): 1004– 1008. arXiv : 1804.08711 . Bibcode : 2018Sci...361.1004L . doi : 10.1126/science.aat8084 . PMID 30049787. S2CID 13753997 .  
  13. ^ Chang, Julie; Sitzmann, Vincent; Dun, Xiong; Heidrich, Wolfgang; Wetzstein, Gordon (2018年8月17日). 「画像分類のための最適化された回折光学系を備えたハイブリッド光電子畳み込みニューラルネットワーク」 . Scientific Reports . 8 (1): 12324. Bibcode : 2018NatSR...812324C . doi : 10.1038 / s41598-018-30619 - y . PMC 6098044. PMID 30120316. S2CID 256961403 .   
  14. ^ Li, Shurui; Miscuglio, Mario; Sorger, Volker J.; Gupta, Puneet (2020). 「光ニューラルネットワークアクセラレータの性能と精度を向上させるチャネルタイリング」arXiv : 2011.07391 [ cs.ET ].
  15. ^ a b c CHOI, CHARLES Q. (2024年4月12日). 「AIチップがエネルギー予算を99%以上削減 - IEEE Spectrum」 . IEEE . 2024年4月17日閲覧。
  16. ^ Zhang, Yinan; Zhu, Shengting; Hu, Jinming; Gu, Min (2024年10月6日). 「フェムト秒レーザーによるペロブスカイト水和の直接ナノリソグラフィーと時間的にプログラム可能なホログラム」 . Nature Communications . 15 (1): 1661. Bibcode : 2024NatCo..15.6661Z . doi : 10.1038/ s41467-024-51148-5 . PMC 11303552. PMID 39107331 .  
「 https://en.wikipedia.org/w/index.php?title=Optical_neural_network&oldid=1321549142」より取得