数週間前、The Information は、OpenAI が破産の危機に直面していることを明らかにしました。同社は年末までに 50 億ドルの損失を計上する見込みです。それだけでなく、同社の AI 開発プログラムのコストは、成長と存続に不可欠な、より大規模で高性能なモデルの構築に努めているため、年間約 30 億ドルから 70 億ドルをはるかに超える額にまで急増する見込みです。つまり、OpenAI は赤字を垂れ流し、死を待つばかりでした。しかし、この暴露の直後、OpenAI は 65 億ドルの投資を調達し、同社の評価額を 1,500 億ドルとすることを計画していると発表しました。これは、年初時点の評価額のほぼ 2 倍です。また、銀行から 50 億ドルの融資を確保しようとしていることも発表しました。確保できたとしても、OpenAI はせいぜいあと 1 年しか持ちこたえられないでしょう。

私のお気に入りのマーク・トウェインの名言を引用します。

「私は死を恐れません。私は生まれる前から何十億年も死んでいましたが、死によって少しも不便を感じたことはありませんでした」

エリザベス・ギルバートはこの感情を美しく表現しています。

「ある時点で、手放して、じっと座り、満足感が訪れるのを許さなければなりません」

死について考えることの影響に関する研究では、善良な人々は自分の死を認識すると、より思いやりと寛容さを持つようになることがわかっています。彼らは健康と幸福を促進する行動に従事し、愛、個人の成長、そして避けられない死の床で思い出す意味のあることなど、内在する価値に焦点を当てる傾向があります。人生の有限性を見つめることには、表面的なものから深遠なものへ、量的なものから質的なものへと移行することを促す何かがあるのです。

「自分に起こるあらゆる良いことに感謝し、絶えず感謝する習慣を身につけることが必要です」

原子力発電が衰退した重要な理由の 1 つは、需要がまったくなかったことです。

今、需要は戻ってきています。マイクロソフトはスリーマイル島の再稼働を進めています。アマゾンは小型モジュール原子炉に投資しています。グーグルはカイロスパワーから最大500MWの電力を購入しています。

昔は、人間は自由にふざけて調べることが許されていました。進歩はこうして起こりました。エジソンの電線は人を感電させました。ライト兄弟は試験飛行中にキティホークの砂浜に顔面を打ち付けました。ヴァンダービルトの蒸気船のボイラーは時折爆発しました。

「自分自身に賭けるのは非常に難しいです。お金を失うのは自分自身だからです」

AGI が根本的に独立した意志を持たない限り、つまり、私たちが頼んだことだけをする慈悲深い神である限り、AGI には無限の利点があると思います。私たちが正しいことを頼む限り、そのツールを大いに活用できます。しかし、間違ったことを頼んだり、意図せず間違った目的に導くようなプログラミングを吹き込んだりすると、核兵器と同じくらい確実に、私たち自身を絶滅させる可能性があります。さらに悪いことに、AGI が独自の意志と目標を持つように開発されれば、私たちはすぐに食物連鎖の頂点から脱落するでしょう。それが怒れる神のシナリオです。