引用ジャングルは同名のTumblrページからインポートしています

最新の知見を知るサイト

  • AI はすでに私たちの集団的制御を超えています。米国、中国、そして今ではヨーロッパとインドが猛スピードで AI を開発しています。天気、月、潮の満ち引きを止められないのと同じように、AI の増殖を止めることはできません。私たちはすでに制御を失っています。そして確かに、AI は私たちが知っている文明を間違いなく終わらせるでしょう。

  • 「産業革命は人間の力を無意味にした。AIは人間の知性を無意味にするだろう」〜ジェフリー・ヒントン「AIのゴッドファーザー」、ノーベル賞受賞者

  • 私が「バイブコーディング」と呼ぶ新しい種類のコーディングがあります。バイブに完全に身を任せ、指数関数を受け入れ、コードが存在することすら忘れるコーディングです。LLM (例: Cursor Composer w Sonnet) があまりにも優れすぎているため、それが可能になっています。また、私は SuperWhisper を使って Composer と対話するだけなので、キーボードにはほとんど触れません。「サイドバーのパディングを半分に減らす」など、最も馬鹿げたことを要求します。探すのが面倒だからです。常に「すべて受け入れる」を選択し、差分はもう読みません。エラー メッセージが表示されたら、コメントなしでコピーして貼り付けるだけです。通常はそれで解決します。コードが私の通常の理解を超えてしまうと、しばらくじっくり読む必要があります。LLM ではバグを修正できないことがあるので、回避するか、バグがなくなるまでランダムな変更を依頼します。週末の使い捨てプロジェクトとしては悪くありませんが、それでもかなり面白いです。私はプロジェクトや Web アプリを構築していますが、実際にはコーディングをしているわけではありません。ただ何かを見て、何かを言って、何かを実行して、何かをコピーして貼り付けるだけで、ほとんど動作します。

  • OpenAI の当初の目標は、特異点がすべての人に幅広い繁栄をもたらすようにすることだった。おそらくベーシックインカムを通じてだ。慈善団体が OpenAI の株式の 51% (または他の数値) を保有しているかどうかは、このビジョンに関係している。OpenAI が特異点を起こさせ、世界中のすべてのお金を手に入れた場合、世界中のお金の 49% は投資家の手に渡り (超富裕層の階級が生まれる)、51% は全人類に利益をもたらすことを使命とする非営利団体に渡る (そして、ここからベーシックインカムが生まれるのか?)。OpenAI が神を創造しながらも、カリフォルニア州司法長官の管轄下に置かれるということは、あまり考えにくいと思う。

  • 最近の投資ラウンドでは、OpenAI が非営利団体から脱却することを条件に、その価値は 1,570 億ドルと評価されました。

    アルトマン氏は以前、400億ドルの資金を提案したが、これはほとんどの観察者にとって低すぎる、おそらく見せかけの資金としてさえ低すぎると感じられた。

    イーロン・マスク氏は最近、非営利団体OpenAIに974億ドルの買収を提案した。同氏は非営利団体が引き続き支配株を保有することを保証することで、取引を有利にした。

    噂によると、これは巧妙な策略だという。マスク氏は取締役会がアルトマン氏の懐に入っており、彼の申し出を断るだろうとわかっていた。しかし、規制当局に正直に見せるという取締役会の任務が複雑になることもわかっていた。970億ドルの申し出を断って400億ドルの申し出を受け入れるような正直者がいるだろうか?

    状況は絶望的ではない。取締役会は次のように言ってみてもよいだろう。「まあ、イーロン・マスクは今、チェーンソーで連邦政府を解体しようとしている狂人だ。人類の利益のために活動している我々慈善家は、彼を機械の神のコントロールパネルから遠ざけるために 570 億ドルを失う価値があると考えている」。

    現実的にはアルトマンは提示額を増額することでそれを補うことになるだろう。

  • 2010 年代初頭、AI 企業はまだスケーリングの法則を発見しておらず、AI の構築に必要な計算量 (したがって資金) を過小評価していました。最初の犠牲者は DeepMind でした。当初は安全性を優先し、シンギュラリティの責任ある管理を行うという高い理想に基づいて設立されましたが、財務上の壁にぶつかり、Google に売却されました。

    これは、Google (または企業スポンサー) に AGI を任せなかったイーロン マスクを怖がらせました。彼はサム アルトマンらとチームを組み、OpenAI が誕生しました。DeepMind の失敗を繰り返さないために、彼らは OpenAI を「人類の利益のために安全で有益な汎用人工知能を構築する」という使命を持つ非営利団体として設立しました。

    しかし、ディープマインドと同様に、OpenAI も資金が必要だった。当初はマスク氏や他の理想主義者からの個人的な寄付でなんとかやりくりしていたが、スケーリング法則の影響が明らかになるにつれ、アルトマン氏は営利部門を設立して投資を求めたいと考えた。その後の展開についてマスク氏とアルトマン氏は意見が分かれている。マスク氏は営利重視に反対したと述べ、アルトマン氏はマスク氏は同意したが主導権を握りたかったと述べている。いずれにせよ、マスク氏は退社し、アルトマン氏が全権を握り、OpenAI は営利子会社を設立した。

    この子会社は「上限付き営利企業」とされていた。つまり、投資家の収益は 100 倍に制限されていた。つまり、誰かが 100 万ドルを投資した場合、OpenAI がどれだけ大きくなっても、最大 1 億ドルしか戻ってこないということだ。これにより、シンギュラリティによる利益の大部分は投資家ではなく人類のものとなる。しかし、上限付き営利企業は実際の企業構造ではない。現実世界では、OpenAI はこれを利益参加ユニットを通じて処理している。これは、OpenAI が上限付き営利企業モデルが行っていると主張することを実行する、一種の奇妙な株式/債券ハイブリッドである。

  • AI の創造力と感情表現能力の拡大にも興味があります。すでに AI は短編小説、詩、音楽を生成することができ、驚くほどではありませんが、確かに実現可能です。ChatGPT 4.5 は、インタビューやプライベートな会話に信頼できる感情的で共感的なモデルです。非常に役立ちます。2025 年には、人間と呼べる多くの資質を、ステートフルネスなしで実証するモデルが存在する状況にあります。ステートフルネスとは、AI がチャット間でユーザーについてあまり記憶していないという言い方です。そのため、あるチャットで仕事の会話をし、別のチャットで別れについての感情的な会話をしても、同じ AI のようには感じられないでしょう。

  • 「AI は人間に取って代わることはないが、AI を効果的に使用する人間は、使用しない人間に取って代わる」という発言には、ある程度の真実が含まれています。AI を受け入れた同僚や友人は、効率性や創造性が高まり、大量の作業負荷をうまく処理できるようになることが多いことに私は気づいています。一方、適応を拒む人は不利な立場に置かれます。これは、電子メール、検索エンジン、Web サイトの使い方を学んだ人が明らかに優位に立っていたインターネットの初期の時代と似ています。AI は新しいフロンティアであり、迅速に適応した人が繁栄する可能性が高いでしょう。

  • 私は、Anthropic の新しいClaude Codeエージェントを使ってみることにしました。このエージェントは、Claude Sonnet 3.7 LLM に、コンピューター上のファイルを操作し、インターネットを使用する機能を提供します。実際、Claude Code を使用する前に AI の助けが必要でした。私は、ごく一部の非常に特殊なプログラミング言語 (主に統計で使用される) でしかコーディングできず、Linux マシンの経験はまったくありません。しかし、Claude Code は Linux でしか実行できません。幸い、Claude が問題の処理方法を教えてくれたので、いくつかの vibetroubleshooting (本当に、AI を技術サポートに使用したことがないなら、ぜひ使用してください) の後、Claude Code をセットアップできました。

    バイブコーディングの時間が来ました。Claude Code に最初に入力したのは、「さまざまなデザインの建物を配置して、作成した町をドライブできる 3D ゲームを作成してください」でした。文法やスペルの問題も含めて、それだけです。約 4 分後には、それ以上入力しなくても、動作するアプリケーションができました (Claude がブラウザーで起動してくれました)。

  • 影響力のある AI 研究者のAndrej Karpathy氏は 2 年前に「最もホットな新しいプログラミング言語は英語だ」と書き、先月この話題を「バイブコーディング」というアイデアでさらに広げました。これは、AI に何かを作成するよう依頼し、その都度フィードバックを与えるという手法です。