私たちがすべきだと思うのは、脳を、ゴールデンゲートブリッジ回路を見つけて、ニューロンが実際にどのように… 正確に説明するのではなく、アーキテクチャ、学習ルール、初期化といった言語で記述することです。これは非常に複雑な学習パターンになるでしょう。Konrad KordingとTim Lillicrapは、少し前、おそらく5年前に「ニューラルネットワークを理解するとはどういうことか？」という論文を発表しました。彼らが言っているのは、ニューラルネットワークを訓練して円周率の数字などを計算させる様子を想像してみてください、ということです。これはかなり突飛なパターンです。また、ニューラルネットワークを訓練して、最も複雑なものを予測したり、株価を予測したり、基本的に非常に複雑なシステム、計算的に完全なシステムを予測したりすることもできます。ニューラルネットワークを訓練して、セルオートマトンなどの突飛なことを実行させることもできます。しかし、それを解釈可能性をもって完全に捉えることは決してできないと思います。内部的に非常に複雑な計算を行うだけになるでしょう。

しかし、それでも、それがそのようになったのは、アーキテクチャがあり、それに訓練データを与え、損失関数を与えたからだと言えます。ですから、私は脳を同じように説明したいと思っています。そして、私がこれまで示してきたこの枠組みは、大脳皮質と、それがどのように学習アルゴリズムを具体化しているかを理解する必要があるということです。「ゴールデンゲートブリッジ」をどのように計算するかを理解する必要はないのです。