なぜLLMが他のLLMのために本を書けないのでしょうか？それは素晴らしいことだと思います。なぜ他のLLMがそのLLMの本を読んで、刺激を受けたり、衝撃を受けたりできないのでしょうか？これらのどれにも同等のものはありません。

LLMには文化に相当するものが本当に存在しないからです。もしかしたら、私たちはLLMに多くのものを与えすぎて、文化を生み出さないようにインセンティブを与えているのかもしれません。しかし、文化の発明、記録の発明、そしてお互いにメモを渡すという行為は、今のところLLMにはそれに相当するものが存在しないと思います。LLMには今のところ文化が本当に存在せず、それが障害の一つになっていると言えるでしょう。

人類が急激な発展を遂げるとは予想していない理由として、人類が急激な発展を遂げたのは6万年前、つまり私たちが今日持っているような認知構造が備わっていた頃だと述べています。1万年前には農業革命、近代化が起こりました。その5万年間に何が起こっていたのでしょうか？世代を超えて知識を蓄積できる文化的な足場を築く必要があったのです。

ヒト科の知能と鳥類の知能があります。ワタリガラスなどは非常に賢いですが、脳の部位は全く異なっており、私たち人間との共通点はそれほど多くありません。これは、知能が何度か出現する可能性があることを示唆しています。もしそうなら、より頻繁に出現すると予想されます。

ニック・レーンは、細菌と古細菌におけるこの非常に明白なボトルネックを非常にうまく説明しています。20億年の間、何も起こらなかったのです。生化学的には極めて多様なのに、動物に成長するものは何もないのです。20億年もの間。

知性の核心は動物の知能であるというサットンの見解を受け入れるなら…彼が言った言葉は「リスに到達できれば、AGIへの道はほぼ完了するだろう」です。

リスの知能は、6億年前のカンブリア爆発の直後に誕生しました。そのきっかけとなったのは、6億年前の酸素化イベントだったようです。しかし、すぐに知能アルゴリズムがリスの知能を生み出しました。動物の知能もそのようなものだったと示唆しています。環境に酸素が供給され、真核生物が誕生した途端、アルゴリズムが誕生したのです。

宇宙に存在するあらゆる世界について考えるのは、実に興味深いことです。例えば、地球のような惑星が1000個あって、それらがどんな姿をしているのか、と想像してみてください。ニック・レーンはここで、初期の段階について話していたと思います。彼は、大まかに言って、それらの惑星のほとんどに非常に似た生命体、例えばバクテリアのようなものが存在すると予想しています。しかし、そこにはいくつかの例外があります。直感的に、知性の進化は、かなり稀な出来事であるように思います。

おそらく、何かがどれくらい長く存在してきたかに基づいて判断した方がいいでしょう。もし細菌が20億年もの間存在し、何も起こらなかったとしたら、真核生物に至るのはおそらくかなり難しいでしょう。なぜなら、細菌は地球の進化、あるいは歴史のかなり初期に出現したからです。動物はどれくらい前から存在してきたのでしょうか？おそらく数億年でしょう。走り回ったり、這ったりする多細胞動物です。それは地球の寿命の10%くらいでしょう。その時間スケールであれば、それほど難しいことではないのかもしれません。直感的に、それが進化してきたことは今でも驚きです。動物のような生命体が動物のようなことをしているだけだろうと予想していました。文化と知識を生み出し、それを蓄積する何かが生まれるという事実は、私にとって驚くべきことです。

初期のiPhoneにはApp Storeもありませんでしたし、現代のiPhoneのような便利な機能もほとんどありませんでした。ですから、iPhoneが発売された2008年は大きな変化だったと考えられていますが、実際にはそうではありません。あらゆるものが広く普及し、ゆっくりと拡散していくため、最終的にはすべてが同じ指数関数的に平均化されてしまうのです。コンピューターも全く同じです。GDPを見ても「ああ、今はコンピューターがある」とわかるようなことはありません。実際にはそうではありません。なぜなら、コンピューターの進化は非常にゆっくりとしたものだからです。

AIでも全く同じことが起こります。ただ、自動化が進むだけです。AIによって、これまでは書けなかった様々な種類のプログラムが書けるようになりますが、AIは根本的には依然としてプログラムです。新しい種類のコンピュータであり、新しい種類のコンピューティングシステムです。しかし、AIには様々な問題があり、時間の経過とともに徐々に解消され、それでも同じ指数関数的に増加していくでしょう。指数関数は依然として非常に垂直に伸びていくでしょう。そのような環境で生活するのは、非常に異質なものになるでしょう。

でも、もう何十年も前から知能爆発の真っ只中にいるから、いつものことなんです。GDP曲線は、産業の様々な側面を指数関数的に加重した曲線です。あらゆるものが徐々に自動化されつつあり、それは何百年も続いています。産業革命は自動化であり、物理的な部品やツールの構築など、あらゆるものが自動化されました。コンパイラは初期のソフトウェア自動化などです。私たちは長きにわたって、再帰的に自己改善と爆発を繰り返してきました。

別の見方をすれば、地球はバイオメカニクスなどを考慮に入れなければ、かなり退屈な場所で、非常に似たようなものに見えたということです。宇宙から見ると、私たちはまさにこの爆発的な出来事の真っ只中にいるのですが、スローモーションで見ているようなものです。これは確かに、かなり長い間起こってきたことのように感じます。繰り返しますが、AIは、既に長い間起こってきたこととは全く異なる技術だとは考えていません。

どういう形になるのか全く想像もつかない領域にかなり踏み込んでいますが、もし私がSF小説を書くとしたら、単一の存在が全てを支配するのではなく、複数の存在が互いに競い合い、徐々に自律性を高めていくような物語になるでしょう。一部が暴走し、他の存在がそれに対抗する。完全に自律的な活動の寄せ集めを、私たちが委任したような作品です。そんな雰囲気になると思います。