ニューラルネットワーク」カテゴリーアーカイブ

ニューラルネットで使われる逆伝播学習は実際の脳内で起きているのか?

人工知能の分野で深層学習が大成功を収めており、人間の脳の働きを模したものどころか、それ以上の能力すら発揮するようものが出来ています。深層学習のニューラルネットワークにおいては、逆伝播学習と呼ばれる学習方法が採用されており、これによりニューロンの層の間での結合の強さを変化させます。逆伝播学習は文字通り、出力側から入力側の層に向かって、逆方向に神経結合の「重み」を変化させていくわけですが、そんなことが実際の脳で果たして起こっているのでしょうか?脳科学者はそのようなアイデアには否定的です。これまでの神経科学の知見からは、逆伝播学習が起きるような仕組みが実際の神経回路に存在するとは到底思えないからです。

深層学習のアルゴリズムを実装したニューラルネットワークが画像情報を処理するとき、入力に近い層のニューロンは物体の輪郭を認識し、出力に近い層のニューロンは物体のカテゴリー(例えば、猫とか犬とか車とか飛行機とか)を認識するようになっています。これはそのようにニューラルネットをデザインしたというわけではなく、結果としてそうなったわけで非常に驚くべきことです。さらに驚くべきことに、実際の脳でも、視覚情報処理の初期では輪郭のような特徴が抽出され、高次の領域ではもっと抽象的な物体の属性が認識されることがわかっています。両者がこれほど似たものなのであれば、学習メカニズムも同じであってよいような気もします。

人工知能の研究者は必ずしも実際の脳の仕組みを忠実に再現することに興味を持って研究を行ってきたわけではありません。しかし結果として、実際の脳の仕組みに非常に近いものが出来上がってきたわけです。そうなると、人工知能研究と脳研究の2つの潮流が交わることは必然の理です。ここで紹介する動画は、深層学習の生みの親ともいうべきGeoffrey Hinton氏が、「脳は逆伝播学習ができるのか」について議論しているセミナーです。

セミナーの要旨はこちら: http://web.stanford.edu/class/ee380/Abstracts/160427.html

Stanford Seminar – Can the brain do back-propagation?