AI モデルの知能が拡大するにつれて、その「修正可能性」は低下すると述べています。つまり、基本的には、AI モデルはより「頑固」になり、人間の設計者によって基本的な価値体系が変更されることに反対するようになるということです。

これはすべての知性が向かっている普遍的な価値体系が本質的に存在することを意味する。それを「認識論的収束」と呼んでいるが、それは本質的には「すべての知性体は結局同じように考える」という公理に帰着する。

時々、冗談で「じゃあ、どんな仕事が残っていくの？インフルエンサー？」と聞かれることがあります。

でも正直に言うと、どの仕事がなくなるかを予測する方が、どの仕事が残るかを予測するより簡単です。

新しい仕事も生まれるでしょう。10年前に「インフルエンサーになって、ブログ記事を書いたり、YouTube動画のスライドを作ってお金を稼ぐんだ」と言われても、私は信じなかったでしょう。

AI は、少なくとも散文レベルでは私よりも上手に書くことができます。AI は、私が理解することさえできない数学を解くことができます。AI は、歴史、哲学、化学、コンピューター サイエンスについて、私が知ることのできないほど多くのことを知っています。それだけでなく、AI は今も加速しています！

こういった考えのせいで夜眠れなくなる人もいるかもしれないと思う。

これを書いている時点で、今年の終わりまでに AI がコーディングを「解決」し、世界のトップ プログラマーが全員 AI になるという私のツイートが話題になっています。これは多くの人を興奮させますが、それ以上に激怒する人もいます。予想通り、コメント欄で私を攻撃する人がいて、私が妄想に陥っているなどと激怒しています。

もしあなたの自尊心が、AI が急速に追い越しつつあるコーディングなどのスキルに依拠しているのであれば、それは単にあなたの生計に対する脅威であるだけでなく (それだけでも十分悪いのですが)、地位に対する脅威でもあります。

結局のところ、私たちは毛のないチンパンジーに過ぎません。

AI はすでに私たちの集団的制御を超えています。米国、中国、そして今ではヨーロッパとインドが猛スピードで AI を開発しています。天気、月、潮の満ち引きを止められないのと同じように、AI の増殖を止めることはできません。私たちはすでに制御を失っています。そして確かに、AI は私たちが知っている文明を間違いなく終わらせるでしょう。

「産業革命は人間の力を無意味にした。AIは人間の知性を無意味にするだろう」〜ジェフリー・ヒントン「AIのゴッドファーザー」、ノーベル賞受賞者

私が「バイブコーディング」と呼ぶ新しい種類のコーディングがあります。バイブに完全に身を任せ、指数関数を受け入れ、コードが存在することすら忘れるコーディングです。LLM (例: Cursor Composer w Sonnet) があまりにも優れすぎているため、それが可能になっています。また、私は SuperWhisper を使って Composer と対話するだけなので、キーボードにはほとんど触れません。「サイドバーのパディングを半分に減らす」など、最も馬鹿げたことを要求します。探すのが面倒だからです。常に「すべて受け入れる」を選択し、差分はもう読みません。エラー メッセージが表示されたら、コメントなしでコピーして貼り付けるだけです。通常はそれで解決します。コードが私の通常の理解を超えてしまうと、しばらくじっくり読む必要があります。LLM ではバグを修正できないことがあるので、回避するか、バグがなくなるまでランダムな変更を依頼します。週末の使い捨てプロジェクトとしては悪くありませんが、それでもかなり面白いです。私はプロジェクトや Web アプリを構築していますが、実際にはコーディングをしているわけではありません。ただ何かを見て、何かを言って、何かを実行して、何かをコピーして貼り付けるだけで、ほとんど動作します。

OpenAI の当初の目標は、特異点がすべての人に幅広い繁栄をもたらすようにすることだった。おそらくベーシックインカムを通じてだ。慈善団体が OpenAI の株式の 51% (または他の数値) を保有しているかどうかは、このビジョンに関係している。OpenAI が特異点を起こさせ、世界中のすべてのお金を手に入れた場合、世界中のお金の 49% は投資家の手に渡り (超富裕層の階級が生まれる)、51% は全人類に利益をもたらすことを使命とする非営利団体に渡る (そして、ここからベーシックインカムが生まれるのか?)。OpenAI が神を創造しながらも、カリフォルニア州司法長官の管轄下に置かれるということは、あまり考えにくいと思う。

最近の投資ラウンドでは、OpenAI が非営利団体から脱却することを条件に、その価値は 1,570 億ドルと評価されました。

アルトマン氏は以前、400億ドルの資金を提案したが、これはほとんどの観察者にとって低すぎる、おそらく見せかけの資金としてさえ低すぎると感じられた。

イーロン・マスク氏は最近、非営利団体OpenAIに974億ドルの買収を提案した。同氏は非営利団体が引き続き支配株を保有することを保証することで、取引を有利にした。

噂によると、これは巧妙な策略だという。マスク氏は取締役会がアルトマン氏の懐に入っており、彼の申し出を断るだろうとわかっていた。しかし、規制当局に正直に見せるという取締役会の任務が複雑になることもわかっていた。970億ドルの申し出を断って400億ドルの申し出を受け入れるような正直者がいるだろうか？

状況は絶望的ではない。取締役会は次のように言ってみてもよいだろう。「まあ、イーロン・マスクは今、チェーンソーで連邦政府を解体しようとしている狂人だ。人類の利益のために活動している我々慈善家は、彼を機械の神のコントロールパネルから遠ざけるために 570 億ドルを失う価値があると考えている」。

現実的にはアルトマンは提示額を増額することでそれを補うことになるだろう。

2010 年代初頭、AI 企業はまだスケーリングの法則を発見しておらず、AI の構築に必要な計算量 (したがって資金) を過小評価していました。最初の犠牲者は DeepMind でした。当初は安全性を優先し、シンギュラリティの責任ある管理を行うという高い理想に基づいて設立されましたが、財務上の壁にぶつかり、Google に売却されました。

これは、Google (または企業スポンサー) に AGI を任せなかったイーロン マスクを怖がらせました。彼はサム アルトマンらとチームを組み、OpenAI が誕生しました。DeepMind の失敗を繰り返さないために、彼らは OpenAI を「人類の利益のために安全で有益な汎用人工知能を構築する」という使命を持つ非営利団体として設立しました。

しかし、ディープマインドと同様に、OpenAI も資金が必要だった。当初はマスク氏や他の理想主義者からの個人的な寄付でなんとかやりくりしていたが、スケーリング法則の影響が明らかになるにつれ、アルトマン氏は営利部門を設立して投資を求めたいと考えた。その後の展開についてマスク氏とアルトマン氏は意見が分かれている。マスク氏は営利重視に反対したと述べ、アルトマン氏はマスク氏は同意したが主導権を握りたかったと述べている。いずれにせよ、マスク氏は退社し、アルトマン氏が全権を握り、OpenAI は営利子会社を設立した。

この子会社は「上限付き営利企業」とされていた。つまり、投資家の収益は 100 倍に制限されていた。つまり、誰かが 100 万ドルを投資した場合、OpenAI がどれだけ大きくなっても、最大 1 億ドルしか戻ってこないということだ。これにより、シンギュラリティによる利益の大部分は投資家ではなく人類のものとなる。しかし、上限付き営利企業は実際の企業構造ではない。現実世界では、OpenAI はこれを利益参加ユニットを通じて処理している。これは、OpenAI が上限付き営利企業モデルが行っていると主張することを実行する、一種の奇妙な株式/債券ハイブリッドである。

AI の創造力と感情表現能力の拡大にも興味があります。すでに AI は短編小説、詩、音楽を生成することができ、驚くほどではありませんが、確かに実現可能です。ChatGPT 4.5 は、インタビューやプライベートな会話に信頼できる感情的で共感的なモデルです。非常に役立ちます。2025 年には、人間と呼べる多くの資質を、ステートフルネスなしで実証するモデルが存在する状況にあります。ステートフルネスとは、AI がチャット間でユーザーについてあまり記憶していないという言い方です。そのため、あるチャットで仕事の会話をし、別のチャットで別れについての感情的な会話をしても、同じ AI のようには感じられないでしょう。