優れた科学者が発見をし、それが国家の戦争勝利につながった歴史上の事例は数多くあります。中でも最もよく知られているのは、第二次世界大戦におけるものです。マンハッタン計画に参加し、アメリカ初の核兵器開発に貢献した物理学者たち… 続きを読む »
「引用ジャングル」カテゴリーアーカイブ
AIが数十年にわたり人間のトッププレイヤーを凌駕してきたチェスとの類似点を繰り返し挙げています。しかし、チェスには現実世界のモデルとして適さない独自の特性があります。チェスは完全情報ゲームであり、両プレイヤーは常に盤上の… 続きを読む »
しばしば驚くべき結果をもたらす複雑なプロセスである進化との類似点を挙げている。例えば、オスのクジャクの長く色鮮やかな尾は、捕食者から逃げにくくする。では、なぜオスは尾を持つのだろうか？ある時点で、初期のメスのクジャクは尾… 続きを読む »
人類がChatGPTのレベルに到達したのは、知性を十分に理解し、知的な心を作り出すことができたからではありません。コンピューターが十分に強力になったことで、人間が内部で育まれる認知を理解する必要なく、勾配降下法によってA… 続きを読む »
AIモデルの複雑さとその学習方法により、人間は人間の指示に予測通りに従う、あるいは人間の価値観を優先するAIモデルを設計することはできない The case for AI doom isn’t very co… 続きを読む »
「カスタム設計された生物学的技術を構築する上での課題は、それを製造するためのツールを開発することではなく、設計言語であるDNAとRNAを理解することだ」 「我々の推測では、超知能AIシステムが「DNAの秘密を解読」し、「… 続きを読む »
先週、アンスロピックのCEO、ダリオ・アモデイ氏はAIについて「比較的楽観的」だと自称した。しかし、事態が「極めて悪化する可能性は25％」あるとも述べた。アモデイ氏が懸念するリスクの一つは、「モデルの自律性への危険性」だ… 続きを読む »
継続的な学習はほとんどの哺乳類が持つ能力であるという、非常に興味深い指摘だと思います。おそらくすべての哺乳類が持っているのでしょう。すべての哺乳類が持っている能力を人間が持っているのに、AIシステムが持っていないというの… 続きを読む »
例えば、北極圏に住んでいると、アザラシを狩る方法を論理的に考えることは不可能です。餌の作り方、アザラシの見つけ方、そして毒に侵されないよう餌を加工する方法など、非常に多くの段階を踏む長いプロセスがあります。その全てを論理… 続きを読む »
私たちは知能を再現しようとしています。人間が月に行ったり半導体を製造したりできる理由を理解したいのであれば、私たちが理解したいのは、それがなぜ可能になるのかということです。動物は月に行ったり半導体を製造したりできません。… 続きを読む »