宇宙に存在するあらゆる世界について考えるのは、実に興味深いことです。例えば、地球のような惑星が1000個あって、それらがどんな姿をしているのか、と想像してみてください。ニック・レーンはここで、初期の段階について話していたと思います。彼は、大まかに言って、それらの惑星のほとんどに非常に似た生命体、例えばバクテリアのようなものが存在すると予想しています。しかし、そこにはいくつかの例外があります。直感的に、知性の進化は、かなり稀な出来事であるように思います。

おそらく、何かがどれくらい長く存在してきたかに基づいて判断した方がいいでしょう。もし細菌が20億年もの間存在し、何も起こらなかったとしたら、真核生物に至るのはおそらくかなり難しいでしょう。なぜなら、細菌は地球の進化、あるいは歴史のかなり初期に出現したからです。動物はどれくらい前から存在してきたのでしょうか？おそらく数億年でしょう。走り回ったり、這ったりする多細胞動物です。それは地球の寿命の10%くらいでしょう。その時間スケールであれば、それほど難しいことではないのかもしれません。直感的に、それが進化してきたことは今でも驚きです。動物のような生命体が動物のようなことをしているだけだろうと予想していました。文化と知識を生み出し、それを蓄積する何かが生まれるという事実は、私にとって驚くべきことです。

初期のiPhoneにはApp Storeもありませんでしたし、現代のiPhoneのような便利な機能もほとんどありませんでした。ですから、iPhoneが発売された2008年は大きな変化だったと考えられていますが、実際にはそうではありません。あらゆるものが広く普及し、ゆっくりと拡散していくため、最終的にはすべてが同じ指数関数的に平均化されてしまうのです。コンピューターも全く同じです。GDPを見ても「ああ、今はコンピューターがある」とわかるようなことはありません。実際にはそうではありません。なぜなら、コンピューターの進化は非常にゆっくりとしたものだからです。

AIでも全く同じことが起こります。ただ、自動化が進むだけです。AIによって、これまでは書けなかった様々な種類のプログラムが書けるようになりますが、AIは根本的には依然としてプログラムです。新しい種類のコンピュータであり、新しい種類のコンピューティングシステムです。しかし、AIには様々な問題があり、時間の経過とともに徐々に解消され、それでも同じ指数関数的に増加していくでしょう。指数関数は依然として非常に垂直に伸びていくでしょう。そのような環境で生活するのは、非常に異質なものになるでしょう。

でも、もう何十年も前から知能爆発の真っ只中にいるから、いつものことなんです。GDP曲線は、産業の様々な側面を指数関数的に加重した曲線です。あらゆるものが徐々に自動化されつつあり、それは何百年も続いています。産業革命は自動化であり、物理的な部品やツールの構築など、あらゆるものが自動化されました。コンパイラは初期のソフトウェア自動化などです。私たちは長きにわたって、再帰的に自己改善と爆発を繰り返してきました。

別の見方をすれば、地球はバイオメカニクスなどを考慮に入れなければ、かなり退屈な場所で、非常に似たようなものに見えたということです。宇宙から見ると、私たちはまさにこの爆発的な出来事の真っ只中にいるのですが、スローモーションで見ているようなものです。これは確かに、かなり長い間起こってきたことのように感じます。繰り返しますが、AIは、既に長い間起こってきたこととは全く異なる技術だとは考えていません。

どういう形になるのか全く想像もつかない領域にかなり踏み込んでいますが、もし私がSF小説を書くとしたら、単一の存在が全てを支配するのではなく、複数の存在が互いに競い合い、徐々に自律性を高めていくような物語になるでしょう。一部が暴走し、他の存在がそれに対抗する。完全に自律的な活動の寄せ集めを、私たちが委任したような作品です。そんな雰囲気になると思います。

基本的には自動化ですが、非常に馴染みのない、奇妙なものになるでしょう。おっしゃる通り、これらすべてをコンピュータクラスターで実行すれば、はるかに高速に実行できます。

世界がこのような状況にある時、私が不安になり始めるシナリオの一つは、何が起こっているのかという理解と制御が徐々に失われていくことです。これが最も起こり得る結末だと思います。理解が徐々に失われていくのです。私たちは徐々にあらゆるところにこうしたものを積み重ね、それを理解する人はますます少なくなっていくでしょう。そして、何が起こっているのかという理解と制御が徐々に失われていくでしょう。私にとって、これがこのすべての事態の展開として最も起こり得る結末のように思えます。

自動化には人間がすでにできることが含まれており、超知能は人間ができないことを意味します。

しかし、人々が行うことの 1 つは新しいものを発明することであり、それが意味を成すのであれば、私はそれを自動化に組み込むだけです。

コーディングはLLMやエージェントにとって最適な最初のステップだと確信しています。コーディングはこれまで、根本的にテキストを中心に行われてきたからです。コンピュータ端末とテキスト、そしてすべてがテキストに基づいています。インターネットで訓練を受けたLLMはテキストが大好きです。彼らは完璧なテキスト処理者であり、膨大なデータも存在します。まさにぴったりの選択肢です。

コードやテキストを扱うためのインフラも豊富に構築済みです。例えば、Visual Studio Codeやお気に入りのIDEでコードを表示でき、エージェントをそこにプラグインできます。エージェントが変更箇所の差分を表示すると、コードベースとの差分がすべて表示されるコードが既に用意されているので、差分表示でコードベースとの差分をすべて確認できます。まるで、コードのためのインフラを豊富に構築済みと言えるでしょう。

それと対照的に、全く自動化を享受していないものがいくつかあります。例えば、コーディングではなくスライドの自動化を構築しようとしている人々がいます。ある企業がスライドを作成しているのを見たことがありますが、これははるかに困難です。なぜはるかに難しいかというと、スライドはテキストではないからです。スライドは小さなグラフィックで、空間的に配置され、視覚的な要素があります。スライドには、このようなあらかじめ構築されたインフラストラクチャがありません。例えば、エージェントがスライドに変更を加える場合、どのように差分を表示するのでしょうか？どのように差分を確認するのでしょうか？スライドの差分を表示するものはありません。誰かが構築する必要があります。これらの機能の一部は、テキストプロセッサであるAIにそのままでは対応していませんが、コードは驚くほど対応しています。

AGIですよね？ 何でもできるもの。物理的な作業は除きますが、あらゆる知識労働をこなせるはずです。この進化は、コンサルタントが行っているちょっとした作業をバケツから取り出し、会計士が行っているちょっとした作業をバケツから取り出し、あらゆる知識労働に応用していく、という単純な流れで起こるだろうと、皆さんは想像していたでしょう。

しかし、もし私たちが現在のパラダイムでAGIへの道を歩んでいると信じているとしても、その進歩は全く異なります。コンサルタントや会計士の生産性が大幅に向上しているようには見えません。むしろ、プログラマーの仕事がますます削られているようなものです。これらの企業の収益を見てみると、通常のチャット収入（Googleなどに似ています）を除いて、API収入だけを見ると、コーディングが大部分を占めています。つまり、あらゆる知識労働ができるはずのこの「汎用的なもの」が、圧倒的にコーディングだけしか行っていないのです。

Waymoが初めて導入された頃は、助手席に人が座っていて、何か重大な問題が発生した場合に監視できるように、必ずそこにいなければなりませんでした。今でも、物事が順調に進んでいるかを確認するために、人が見守っています。最近導入されたRobotaxiにも、まだ人が乗っています。

仕事の99%を自動化した場合、人間が担う最後の1%が他のすべてのボトルネックとなっているため、非常に貴重な作業となる可能性があります。もしこれが放射線科医の場合だとしたら、Waymoの前に座っている人は最後の1%を提供するために何年も特別な訓練を受けなければならないので、彼らの賃金は飛躍的に上昇するはずです。なぜなら、彼らは広範囲にわたる展開のボトルネックとなっている唯一の存在だからです。放射線科医の賃金が上昇したのも、同じような理由からだと思います。つまり、最後のボトルネックであり、代替不可能な存在である場合です。Waymoのドライバーは他の人と代替可能かもしれません。つまり、99%に達するまでは賃金が上昇し、最後の1%がなくなると一気に下落する、という状況が見られるかもしれません。

仕事の中には、早期に自動化できるような特徴を持つものがあります。例えば、コールセンターの従業員がよく挙げられますが、それは当然のことだと思います。コールセンターの従業員は、現在自動化可能なものと比べて、いくつかの単純化された特性を持っています。彼らの仕事は非常に単純です。一連のタスクで構成されており、すべてのタスクは似ています。人と電話で話すと、10分程度のやり取りになりますが、おそらくもう少し長くなります。私の経験では、はるかに長くなります。何らかのスキームでタスクを完了し、データベースのエントリを変更するなど、何かを何度も繰り返します。つまり、同じことを何度も繰り返す、それがあなたの仕事です。

タスクの所要時間、つまりタスクの実行にかかる時間を考慮しつつ、コンテキストも考慮する必要があります。企業や他の顧客のサービスにおける様々な要素を扱うのではなく、データベースとあなた自身、そしてあなたがサービスを提供する相手だけに焦点を当てます。より閉じられ、より理解しやすく、純粋にデジタル化されたデータです。ですから、私はこうした要素を重視します。

しかし、それでもまだ完全な自動化は見ていません。自律性のスライダーのようなものを考えています。人間がすぐに置き換わることはないと考えています。80%の業務をAIに置き換えることになるでしょう。AIは残りの20%を人間に委任し、人間は5つのAIからなるチームを監督し、より定型的なコールセンター業務を担います。