「自分に起こるあらゆる良いことに感謝し、絶えず感謝する習慣を身につけることが必要です」

原子力発電が衰退した重要な理由の 1 つは、需要がまったくなかったことです。

今、需要は戻ってきています。マイクロソフトはスリーマイル島の再稼働を進めています。アマゾンは小型モジュール原子炉に投資しています。グーグルはカイロスパワーから最大500MWの電力を購入しています。

昔は、人間は自由にふざけて調べることが許されていました。進歩はこうして起こりました。エジソンの電線は人を感電させました。ライト兄弟は試験飛行中にキティホークの砂浜に顔面を打ち付けました。ヴァンダービルトの蒸気船のボイラーは時折爆発しました。

「自分自身に賭けるのは非常に難しいです。お金を失うのは自分自身だからです」

AGI が根本的に独立した意志を持たない限り、つまり、私たちが頼んだことだけをする慈悲深い神である限り、AGI には無限の利点があると思います。私たちが正しいことを頼む限り、そのツールを大いに活用できます。しかし、間違ったことを頼んだり、意図せず間違った目的に導くようなプログラミングを吹き込んだりすると、核兵器と同じくらい確実に、私たち自身を絶滅させる可能性があります。さらに悪いことに、AGI が独自の意志と目標を持つように開発されれば、私たちはすぐに食物連鎖の頂点から脱落するでしょう。それが怒れる神のシナリオです。

我々が地球を支配しているのは、ここに生息する他のすべてのものよりも賢いからだ。ハンバーガーを食べることと、ハンバーガーの原料として工場で飼育されることの違いは、純粋に脳の容量だけであり、我々は我々よりも脳の容量が大きいものを作ろうとしている。我々はそれが我々に従属することを期待している。我々はこれまで遭遇した知能の低いものに従属しているだろうか？ 神をうまく制御できると本当に期待できるだろうか？ 我々が召喚するものが悪魔ではないことを保証できるだろうか？

1934 年、ベル研究所のエンジニア、クラレンス・ヒックマンが留守番電話に使う磁気テープを発明しました。この発明は 1994 年まで発見されませんでした。

「AT&T は研究所に磁気ストレージに関するすべての研究を中止するよう命じ、ヒックマンの研究は 60 年以上もの間抑制され、隠蔽されました」

「AT&T は留守番電話とその磁気テープが一般大衆に電話を捨てさせると固く信じていたからです」

AT&T は公益事業として規制されていました。利益は事実上制限されており、規制当局に正当化する必要がありました。利益が多すぎると料金が引き下げられました。利益を削減する方法の 1 つは、研究開発に資金を投入することでしたが、AT&T は他のどの企業よりも研究開発に力を入れていました。 

ベル研究所は、トランジスタ (1947 年)、太陽電池 (1954 年)、Unix (1969 年)、情報理論 (1947 年)、携帯電話技術 (1947 年)、連続波レーザー (1958 年)、デジタル画像センサー (1969 年)、通信衛星 (1962 年) など、さまざまな基本的な発明を生み出しました。

OpenAI、Anthropic、xAIなどのハイパースケーラーやフロンティアモデル企業は、多くの国のGDPに相当する金額を研究開発とインフラ構築に費やしています。2023年には、Alphabet、Amazon、Meta、Microsoftのわずか4社が合計1960億ドル、つまり米国GDPの0.72%を費やしており、この総額は増加すると予想されています。

マーク・ザッカーバーグ、サティア、サンダーはそれぞれ違う言い方で、ROI についてはまったく考えていないと言いました。彼らがそう言った理由は、これらの企業を実際に支配している人々、つまり創業者たち、マイクロソフトの場合、超議決権株か大きな影響力を持つ人々が、デジタルの神を創り出す競争をしていると信じているからです。

そして、最初のデジタル神を創造した場合、その価値が数十兆ドルなのか数百兆ドルなのか、またそれが馬鹿げているかどうかについても議論の余地はありますが、彼らはそう信じており、その競争に負ければ、会社にとって存在そのものが脅かされると信じています。

ラリー・ペイジは明らかに Google 社内で何度も「この競争に負けるくらいなら破産しても構わない」と発言しています。つまり、誰もがこの ROI 方程式に本当に注目しているのですが、意思決定を行う人々はそうではないのです。