現在、LLMが本を読むということは、テキストのシーケンスを引き伸ばし、モデルが次のトークンを予測して、そこから知識を得ていることを意味します。これは人間が行うこととは全く異なります。本を読んでいる時、私はその本が、私が注意を払い、訓練すべき説明だとさえ感じません。本は、私が合成データを生成するための、あるいは読書クラブに行って友人と本について語り合うための、一連のヒントです。実際に知識を得るのは、その情報を操作することによってです。LLMにはこれに相当するものはありません。LLMは実際にはそのようなことをしていません。

強化学習は、平均的な人が考えているよりもはるかに悪いものです。ひどいものです。ただ、強化学習以前のものはすべて、それよりもはるかに悪いのです。以前はただ人間を真似していただけだったので、様々な問題を抱えているのです。

強化学習では、例えば数学の問題を解くことを考えてみましょう。とても簡単です。数学の問題が与えられ、その答えを見つけようとします。強化学習では、まず様々なことを並行して試します。問題が与えられ、何百通りもの試行を繰り返します。これらの試行は複雑になることがあります。「ああ、これを試してみよう、あれを試してみよう、これはうまくいかなかった、あれはうまくいかなかった」などといった具合です。そして、答えが見つかるかもしれません。そして、本の裏表紙を確認すると、「正解はこれだ」と分かります。これとこれとあれは正解でしたが、残りの97個は正解ではありませんでした。

強化学習が文字通り行うことは、うまくいったものに注目し、その過程で行ったすべてのこと、すべてのトークンに重み付けを加え、「これをもっとやろう」というように促すことです。

人間の進化は3ギガバイトのDNAを通して滴定されなければならないということです。これはモデルの重みとは全く異なります。文字通り、モデルの重みは脳であり、精子や卵子には脳は存在しないため、成長させる必要があります。また、脳内の全てのシナプスの情報は、DNAに存在する3ギガバイトには到底収まりきりません。

動物における強化学習はほとんどないと思います。強化学習の多くは運動課題に近く、知能課題ではありません。ですから、人間は大まかに言えば、実際には強化学習をあまり使っていないのではないかと思います。

シマウマは生まれて数分後には走り回り、母親の後をついていきます。これは非常に複雑な動作です。これは強化学習ではなく、すでに備わっているものです。進化には明らかに、ニューラルネットワークの重みをATCGにエンコードする何らかの方法があり、それがどのように機能するのかは私には全く分かりませんが、どうやら機能しているようです。

Googleで、人間の脳には100兆個のシナプスがあると言われました。これは、私が1兆個を使っても見つけられなかった情報です。なぜなら、そこに存在しなかったからです。しかし今、それは私の脳の中にあります…少なくとも一時的には…

GeminiにはGemini 2.5 FlashとGemini 2.5 Proの2つのオプションしかありませんが、Ultraプランに加入すると、Gemini Deep Think（別のメニューにあります）にアクセスできます。現時点では、Gemini 2.5は主要なAIモデルの中で最も弱いですが（それでも十分に高性能で、Deep Thinkは非常に強力です）、今後数ヶ月以内に新しいGemini 3がリリースされる予定です。

ChatGPTの場合、無料版と有料版のどちらを使用しても、デフォルトで提供されるモデルは「ChatGPT 5」です。問題は、GPT-5は1つのモデルではなく、非常に弱いGPT-5 miniから非常に優れたGPT-5 Thinking、そして非常に強力なGPT-5 Proまで、多くのモデルがあることです。GPT-5を選択すると、実際に得られるのは「自動」モードであり、AIが使用するモデルを決定しますが、多くの場合、それほど強力ではありません。料金を支払うことで、使用するモデルを決定できるようになり、さらに複雑なことに、モデルが答えについてどれだけ一生懸命「考える」かを選択することもできます。複雑な問題の場合は、常に手動でGPT-5 Thinking Extended（20ドルプラン）またはGPT-5 Thinking Heavy（200ドルモデルを支払っている場合）を選択します。多くの思考を必要とする本当に難しい問題の場合は、最高価格層でのみ利用可能な最強のモデルであるGPT-5 Proを選択できます。

最も先進的な AI システムは、Anthropic のClaude 、Google のGemini 、OpenAI のChatGPT 、 Elon Musk の xAI のGrok の4つです。次に、ほぼ同じくらい (ただし完全に同じではない) 優れているオープンウェイト AI ファミリーとして、中国のDeepseek 、Kimi 、ZおよびQwen 、フランスのMistral があります。

政治討論は人々の考えを変えるものではないことを示しています。人々は討論を見始めた時点で自分の考えは分かっていますが、大多数の人々は最後まで考えを変えません。

社会主義が「機能する」かどうかといった問題について議論を試みるのは無駄です。相手は既にその問題についての決断を下しているでしょう。なぜなら、自分自身が何者であるか既に決めているからです。秩序、管理、階層構造に執着する人は、自らのアイデンティティをそのように構築してきたがゆえに、社会主義という概念そのものを嫌うでしょう。そして、誰かの自己意識は、30分のパネル討論で変えることができるものではありません。