そもそも「Transformerは原理的にリバースエンジニアリングできるのか」という根本的な問題で、彼と私の意見は完全に割れました。

私は「おそらくできるのではないか」という立場ですが、 イノベーションのスピードについていくのは難しいだろうと思っています。私たちがその仕組みを解明しようとするスピードより、プログラム空間を探索するスピードの方がずっと速くなるでしょう。

ですが、ルカシュは「いや、無理だ」という意見でした。彼の主張はこうです。「知能というもの自体が、そもそも混沌としている。知識のさまざまな領域を結びつけ、抽象的で確率的な事象にも対処する必要がある以上、それを実装したシステムも必然的に混沌としたものにならざるを得ない。我々が、知能をきれいで整然とした形で実装できる日は決して来ないだろう」とね。