人類がChatGPTのレベルに到達したのは、知性を十分に理解し、知的な心を作り出すことができたからではありません。コンピューターが十分に強力になったことで、人間が内部で育まれる認知を理解する必要なく、勾配降下法によってA… 続きを読む »

AIモデルの複雑さとその学習方法により、人間は人間の指示に予測通りに従う、あるいは人間の価値観を優先するAIモデルを設計することはできない The case for AI doom isn’t very co… 続きを読む »

「カスタム設計された生物学的技術を構築する上での課題は、それを製造するためのツールを開発することではなく、設計言語であるDNAとRNAを理解することだ」 「我々の推測では、超知能AIシステムが「DNAの秘密を解読」し、「… 続きを読む »

先週、アンスロピックのCEO、ダリオ・アモデイ氏はAIについて「比較的楽観的」だと自称した。しかし、事態が「極めて悪化する可能性は25％」あるとも述べた。アモデイ氏が懸念するリスクの一つは、「モデルの自律性への危険性」だ… 続きを読む »

継続的な学習はほとんどの哺乳類が持つ能力であるという、非常に興味深い指摘だと思います。おそらくすべての哺乳類が持っているのでしょう。すべての哺乳類が持っている能力を人間が持っているのに、AIシステムが持っていないというの… 続きを読む »

例えば、北極圏に住んでいると、アザラシを狩る方法を論理的に考えることは不可能です。餌の作り方、アザラシの見つけ方、そして毒に侵されないよう餌を加工する方法など、非常に多くの段階を踏む長いプロセスがあります。その全てを論理… 続きを読む »

私たちは知能を再現しようとしています。人間が月に行ったり半導体を製造したりできる理由を理解したいのであれば、私たちが理解したいのは、それがなぜ可能になるのかということです。動物は月に行ったり半導体を製造したりできません。… 続きを読む »

教師あり学習は自然界では起こりません。たとえ学校で起こったとしても、それは人間に起こる特別な現象なので、忘れるべきです。自然界では広く起こりません。リスは学校に通いません。リスは世界のあらゆることを学ぶことができます。動… 続きを読む »

ゲーセンは毎日ＵＦＯキャッチャーに入れられた金額を見て損をしないようにアームの強さやツメを調節します。 だから高いものだと、明らかに持ち上がらないような詐欺的アームの弱さにして、お客さんがたくさんやってくれて元をとってか… 続きを読む »

私にとって、目標を持つことが知性の本質です。目標を達成できるものこそが知的です。ジョン・マッカーシーの定義、「知性とは目標を達成する能力の計算的部分である」は素晴らしいと思います。目標がなければ、ただの振る舞いをするシス… 続きを読む »