LLMが根本的に何をしているのかについては、ある程度説明されています。つまり、アーキテクチャ、学習規則、ハイパーパラメータ、初期化、そして訓練データがあるということです。 アダム・マーブルストーン – AIは脳の根本的な… 続きを読む »

私たちが持っている最高の計算神経科学理論は、主にAIモデルと、うまく機能するものの発見の結果として発明されてきたということです。つまり、バックプロパゲーションがうまく機能することを発見し、「バックプロパゲーションを皮質回… 続きを読む »

ペーパークリップ・マキシマイザーとか、そういうのを実際に作れるのか、ということです。ペーパークリップ・マキシマイザーを作ろうとすると、ペーパークリップを作ることしか報酬関数がないので、結局は賢くなくなってしまうのでしょう… 続きを読む »

ペーパークリップ・マキシマイザーは、スウェーデンの哲学者ニック・ボストロムが2003年に発表した思考実験である。この実験は、一見無害に見える目標を追求するように設計された場合、人工汎用知能が人類にもたらす可能性のある実存… 続きを読む »

細胞が行う動作の中には、もっと説得力のあるものがあると思います。小脳の役割の一つは、時間経過に伴う予測です。時間差とは一体何でしょうか？例えば、閃光を見て、数ミリ秒後にまぶたに空気が噴き出すなどといった状況を想定してみま… 続きを読む »

細胞には膨大な変化が起こり、細胞内では膨大な量の情報処理が行われます。しかし、アルゴリズム的には、これらのアルゴリズム以上の何かを追加するわけではありません。デジタルコンピューターであれば、重みを見つけて変更するだけで簡… 続きを読む »

脳は200ヘルツで動作し、20ワットで動作する必要があるのです。一方、ロボット工学においては、これまで私たちがモーターを作れるよりも指の方がはるかに機敏であることがはっきりと分かっています。 アダム・マーブルストーン –… 続きを読む »

例えば、実際にはほぼ必ず毒になる豆が、10段階の非常に複雑な手順を踏めば食べられるとどうやって判断するのでしょうか？その手順のどれか一つでも失敗すると、豆自体が毒になってしまうのです。また、このアザラシを特定の方法で、特… 続きを読む »

脳に関して言えば、モデルフリー強化学習に非常によく似た機能を持つと考えられている脳の部分がいくつかあると思います。それは線条体と基底核の部分です。それらは、ある限られた比較的小さな行動空間を持っていると考えられています。… 続きを読む »

イリヤが「価値関数を使わないのは奇妙ですよね？」と言っていたと思います。基本的には最も愚かな形式の強化学習を使っているのです。もちろん、これらの人々は非常に賢く、GPUでそれを行う方法を最適化しており、彼らが達成している… 続きを読む »