「引用ジャングル」カテゴリーアーカイブ

意識科学の研究者たちは、「モデル福祉」の研究をますます進めており、その結果、ChatGPTやClaudeのようなAIに法的権利を与えるべきだという考えが広まっています。 「法的権利」とは、AIが自由に会話を終了できるかど… 続きを読む »

8月下旬、ニューヨーク・タイムズ紙は、ある10代の少年の自殺について詳細な記事を掲載しました。 4月10日の夜、GPT-4oはレインに「サイレント・ポア作戦」と名付けた作戦を指導した。これは、両親を起こさずに自宅の酒棚か… 続きを読む »

私たちは未来、未来について心配するべきです。未来を良いものにしようと努力すべきです。しかし同時に、限界、私たちの限界も認識すべきです。権利意識、「私たちが最初にここにいるんだから、常に良い方向に進むべきだ」という気持ちは… 続きを読む »

人類の大部分は、何が起こるかにそれほど大きな影響力を持っていないということを指摘しておくのは適切だと思います。人類の大部分は、誰が原子爆弾を制御できるか、誰が国民国家を支配できるかといったことに影響力を持っていません。私… 続きを読む »

人間という立場から離れて宇宙の視点に立ってみると、これは宇宙における大きな段階、大きな転換期、複製子からの転換期だと思います。私たち人間、動物、植物、私たちは皆、複製子です。だからこそ、私たちには強みと限界があるのです。… 続きを読む »

AlphaGoが超人的だったことです。どんな囲碁棋士にも勝っていました。AlphaZeroはAlphaGoに毎回勝っていました。つまり、超人よりもさらに超人的になる方法があるということです。また、AlphaZeroはアー… 続きを読む »

AlphaGo 、特にAlphaZeroがこれほどうまく機能したことは驚きでした。 AlphaGo には先駆者、TD-Gammonがありました。ジェリー・テサウロは強化学習、つまり時間差分学習法をバックギャモンに応用しま… 続きを読む »

一般化とは、ある事柄を訓練することで、それが他の事柄の行動に影響を与えることを意味します。ディープラーニングはこの点が非常に苦手であることが分かっています。例えば、何か新しいことを訓練すると、それが既存の知識と壊滅的な干… 続きを読む »

あるAIインスタンスが「暴走」したとしても、自衛を助けてくれる別のインスタンスを作成できるはずです。 つまり、問題は「最高のAIは人間よりも劇的に賢くなるのか？」ではなく、「最高のAIは、2番目に優れたAIの助言を受けた… 続きを読む »