ネオコグニトロン
ネオコグニトロン（英: Neocognitron）は、1979年に福島邦彦によって提唱された畳み込みニューラルネットワークである[1][2] 。
概要
[編集]畳み込みの手法を導入する以前のコグニトロン（「教師なし学習」を行う多層神経回路）では位置ずれや変形の影響を受けやすかった。 このため、形の類似性だけに基づいてパターン認識することを目的としてネオコグニトロンが開発された。 ネオコグニトロンは複数の種類の細胞から構成され、その中で最も重要な細胞は「S細胞」および「C細胞」と呼ばれる[3] 。 局所特徴量はS細胞によって抽出され、微小変位（local shift）といったこれらの特徴の変形はC細胞に委ねられている。 入力中の局所特徴量は、隠れ層によって徐々に統合され、分類される[4]。
デイヴィッド・ヒューベルとトルステン・ウィーセルが1959年に提唱したモデルから発想を得ている。 彼らは「単純細胞」および「複雑細胞」と呼ばれる一次視覚野の2種類の細胞を発見し、パターン認識タスクにおいて使用されるこれら2種類の細胞のカスケードモデルを提唱した[5][6]。
1998年、ヤン・ルカンらはネオコグニトロンにバックプロパゲーションによる教師あり学習を適用し、LeNet と名付けて公表した[7]。 手書き文字認識やその他のパターン認識の課題に用いられている[8]。
ネオコグニトロンには様々な種類が存在する[9]。例えば、ある種のネオコグニトロンは、逆伝播シグナルを用いることによって同一入力中の複数のパターンを検出でき、選択的注意（selective attention）を達成する[10]。
脚注
[編集]- ^ Fukushima, Kunihiko「位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---」『Trans. IECE』J62-A第10号、October 1979、658–665頁。
- ^ Fukushima, Kunihiko (1980). “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”. Biological Cybernetics 36 (4): 93–202.
- ^ Fukushima 1987, p. 83.
- ^ Fukushima 1987, p. 84.
- ^ David H. Hubel and Torsten N. Wiesel (2005). Brain and visual perception: the story of a 25-year collaboration. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6
- ^ Hubel, DH; Wiesel, TN (October 1959). “Receptive fields of single neurones in the cat's striate cortex”. J. Physiol. (Lond.) 148: 574–91. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
- ^ Lecun, Y (1998). “Gradient-based learning applied to document recognition”. Proceedings of the IEEE 86 (11): 2278-2324. doi:10.1109/5.726791.
- ^ LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). “Deep learning”. Nature 521: 436–444. doi:10.1038/nature14539. PMID 26017442.
- ^ Fukushima 2007
- ^ Fukushima 1987, pp.81, 85
参考文献
[編集]- Fukushima, K.; Miyake, S.; Ito, T. (1983). “Neocognitron: a neural network model for a mechanism of visual pattern recognition”. IEEE Transactions on Systems, Man, and Cybernetics SMC-13 (3): 826–834.
- K. Fukushima. "A hierarchical neural network model for selective attention." In Eckmiller, R. & Von der Malsburg, C. eds. Neural computers, Springer-Verlag. pp. 81–90. 1987.
- Fukushima, K. (2007). “Neocognitron”. Scholarpedia 2 (1): 1717. doi:10.4249/scholarpedia.1717.
- Hubel, D.H.; Wiesel, T.N. (1959). “Receptive fields of single noreones in the cat's striate cortex”. J Physiol 148 (3): 574–591. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
関連項目
[編集]外部リンク
[編集]- Neocognitron on Scholarpedia
- NeoCognitron by Ing. Gabriel Minarik - application (C#) and video
- Neocognitron resources at Visiome Platform - includes MATLAB environment
- Beholder - a Neocognitron simulator
- Neocognitron on Learn artificial neural networks