強力な AIとは、おそらく今日の LLM と形式は似ているものの、異なるアーキテクチャに基づいており、複数の相互作用モデルが含まれ、異なる方法でトレーニングされる可能性のある、次のような特性を持つ AI モデルを念頭に置いています。

・純粋な知能の点では、生物学、プログラミング、数学、工学、執筆など、ほとんどの関連分野でノーベル賞受賞者よりも賢いです。つまり、未解決の数学定理を証明したり、非常に優れた小説を書いたり、難しいコードベースをゼロから書いたりできるということです。

・ロボットは、単に「話しかける賢いもの」であるだけでなく、テキスト、音声、ビデオ、マウスとキーボードの制御、インターネット アクセスなど、仮想的に作業する人間が利用できるすべての「インターフェイス」を備えています。インターネット上でのアクションの実行、人間への指示の取得または指示、材料の注文、実験の指示、ビデオの視聴、ビデオの作成など、このインターフェイスによって可能になるあらゆるアクション、通信、リモート操作を実行できます。ロボットは、これらすべてのタスクを、再び、世界で最も有能な人間のスキルを超えるスキルで実行します。

・単に受動的に質問に答えるのではなく、完了までに数時間、数日、または数週間かかるタスクを任せることができ、その後は賢い従業員のように、必要に応じて説明を求めながら、自律的にそれらのタスクを実行します。

・物理的な実体はありませんが (コンピューター画面上に存在する以外)、コンピューターを介して既存の物理的なツール、ロボット、または実験装置を制御することができます。理論的には、ロボットや装置を自分で設計して使用することもできます。

・モデルのトレーニングに使用されるリソースは、数百万のインスタンスを実行するために再利用することができ（これは、約2027年までに予測されるクラスターサイズと一致します）、モデルは人間の約10倍から100倍の速度で情報を吸収し、アクションを生成することができます。ただし、物理世界や相互作用するソフトウェアの応答時間によって制限される可能性があります。

・これら何百万もの複製はそれぞれ、無関係なタスクを独立して実行することも、必要に応じて、おそらく特定のタスクに特に優れているように微調整された異なるサブポピュレーションを使用して、人間が協力するのと同じようにすべて連携して動作することもできます。

これを「データセンターの天才たちの国」と要約することができます。

強力な AI (AGI という用語は好きではありません) がどのようなものになるのか、そしていつ (あるいは本当に) 登場するのかは、それ自体が大きなテーマです。

明らかに、強力な AI がすぐに構築されることに懐疑的な人が多く、そもそも構築されること自体に懐疑的な人もいます。

私は 2026 年という早い時期に登場しうると考えていますが、それよりずっと長くかかる可能性もあります。

ほとんどの人は強力な AI の利点を過小評価していると思うが、急進的な AI の未来について議論する少数のコミュニティでは、過度に「SF」的なトーンで議論することが多い（アップロードされたマインド、宇宙探査、または一般的なサイバーパンクの雰囲気など）。これにより、人々は主張をあまり真剣に受け止めなくなり、ある種の非現実感を吹き込むことになると思う。

多くの AI リスク公人 (AI 企業のリーダーは言うまでもありません) が、AGI 後の世界について、まるで人々を救済に導く預言者のように、それを独力で実現することが自分たちの使命であるかのように語る様子に、私はうんざりすることがよくあります。企業が一方的に世界を形作っていると見なすのは危険であり、実用的な技術目標を本質的に宗教的な観点から見るのは危険だと思います。

AI 企業が AI の素晴らしいメリットについて語ると、プロパガンダのように、あるいはマイナス面から目をそらそうとしているように受け取られる可能性があります。また、原則として、自分の考えを語ることに時間をかけすぎるのは、魂に良くないと思います。

初めてVRグラスを装着したときのことを思い出します。すぐに星座早見盤を開いて、地球を両手で包み込むように持ってみたのですが、そこで「概観効果（overview effect）」というものを体験しました。宇宙から見ると、地球はとてもか弱く小さく、国境は見えないので、意味のないものだと感じられるのです。

ChatGPTに標準中国語（普通話）以外の言語で話しかけようとすると、ChatGPTはそれを理解できずにごまかして、広東語で応答したり、台湾語 で話していると言い張ったりするので、うまくいきません。

「人生は短く、芸術は長し（Vita Brevis Ars Longa）」

サーバーの冷却に飲料水を使っているデータセンターの問題が気になっています。例えばオランダでは、マイクロソフトのデータセンターが冷却のためだけに年間8000万リットル以上もの飲料水を使っています。