人工ニューロンのアイデアは脳から直接ヒントを得たもので、素晴らしいアイデアです。なぜでしょうか？脳には様々な器官があり、ひだも存在しますが、ひだはおそらく重要ではないからです。なぜニューロンが重要だと考えるのでしょうか？それは、ニューロンがたくさんあるからです。なんとなく納得できるので、ニューロンが欲しいと思うでしょう。ニューロン間の接続を変化させる局所的な学習ルールが欲しいと思うでしょう。脳がそれを行うというのは、もっともらしいことのように思えます。

分散表現という考え方。脳は経験に反応するので、ニューラルネットワークは経験から学ぶべきだという考え方です。脳は経験から学び、ニューラルネットワークも経験から学ぶべきです。これは、何かが根本的なものか、そうでないか、そして物事はどうあるべきか、という問いを自分自身に投げかけるようなものです。