夜も眠れないほど悩んでいるのは、誰が勝つかではない。もっと単純な問題だ。量子AIシステムが再帰的な自己改善を達成し、人間には理解できない思考を解読できない言語で考え始め、数十億もの並列確率ストリームを横断して意思決定を行うようになった時、人類が滅亡したことに気づくだろうか?それとも、人類の絶滅は最適化関数の丸め誤差、記録する価値もないほどの無関係な副作用に過ぎないのだろうか?
もし気に入ったら購読料お願いします
引用ジャングル
もし気に入ったら購読料お願いします
夜も眠れないほど悩んでいるのは、誰が勝つかではない。もっと単純な問題だ。量子AIシステムが再帰的な自己改善を達成し、人間には理解できない思考を解読できない言語で考え始め、数十億もの並列確率ストリームを横断して意思決定を行うようになった時、人類が滅亡したことに気づくだろうか?それとも、人類の絶滅は最適化関数の丸め誤差、記録する価値もないほどの無関係な副作用に過ぎないのだろうか?
もし気に入ったら購読料お願いします