「人間が強力であるのは、主に脳のおかげではなく、テクノロジーのおかげです」

「先史時代の人間は、環境を形成する能力が動物よりわずかに優れていただけです」

「人間の知識のほとんどは暗黙のものであり、体系化することはできません」

「ある程度を超えると、能力の向上には、人々との実際のやり取りから長期間にわたって学習する必要があります。最も貴重で価値のある人間の知識の多くは、薬物検査から税制政策に至るまで、人々を対象とした実験から得られます」

自動運転車を例に挙げる。初期の頃、こうした車両は急速に進歩したように見えた。2010年代後半までには、多くの企業が基本的な自動運転機能を備えた試作車両を製造していた。

しかし、最近では「専門家が当初予想していたよりもはるかに進歩が遅い。これは、現実世界のインタラクション データを収集して学習することの難しさを過小評価していたためだ」と書いている。

自動運転車は、実際の公道で試行錯誤して発見しなければならない「エッジ ケース」の長いリストに対処しなければならない。ウェイモがフェニックスで最初の無人タクシー サービスを開始するのに十分な進歩を遂げるまでに 10 年以上かかった。そしてウェイモの車でさえ、今でも時々遠隔オペレーターの支援に頼っている。

「敵と接触したらどんな計画も生き残れない」という有名な軍事格言があります。世界は複雑で、軍事計画者は常に不完全で不正確な情報に基づいて作業しています。戦闘が始まると、彼らは必然的にいくつかの仮定が間違っていたことに気づき、戦闘は予想外の展開を迎えます。

トーマス・エジソンは、同様の考えを表現した「天才とは、1 パーセントのひらめきと 99 パーセントの努力である」という格言を残しました。エジソンは、彼の最も有名な発明である電球のフィラメントに適した材料を見つけるために、1,600 種類の異なる材料を試しました。

「私は人生でアイデアを思いついたことがない」とエジソンはかつて言った。「私のいわゆる発明は、すでに環境の中に存在していたもので、私がそれを取り出したのです。私は何も生み出していません。誰も生み出しません。頭から生まれるアイデアなどありません。すべては外部からやってくるのです」

過去 15 年間、AI 企業はインターネットから収集された膨大なデータの恩恵を受けてきました。これにより、GPT-4o や Claude 3.5 Sonnet などの幅広く高性能なモデルの作成が可能になりました。しかし、幅広いタスクで人間レベルの能力に到達するには、さらなる進歩が必要です。そして、それにはより多くのデータが必要になるだけでなく、AI 企業がこれまで使用してきたものとは異なる種類のデータが必要になります。

2020年2月には、1日に感染者が数人しかいないように見えたため、多くの人がCOVIDを軽視していた。しかし、複利成長の力により、3月末までに毎日何千人もの人が感染するようになった。

したがって、AI システムが「AGI を達成」した瞬間に突然の変化が起こることはないかもしれません。しかし、計算能力が飛躍的に向上し、人間よりもはるかに優れた AI システムが生まれることは期待できます。

AI システムの性能を高めるために必要なのが、より優れたアルゴリズムとより高い計算能力だけであれば、それは妥当な仮定かもしれません。しかし、データはあらゆる AI システムにとって 3 番目に不可欠な要素です。そして、計算能力とは異なり、データは代替可能ではありません。ロケットを設計する AI モデルが必要な場合は、ロケットに関するトレーニング データが必要です。フランス文学や昆虫学に関するデータは役に立ちません。

ソフトウェア産業の黎明期には、プログラマーはソフトウェアをバイナリ コードで記述する必要がありました。これは面倒でエラーが発生しやすいプロセスであり、複雑なプログラムを書くのが困難でした。その後、この面倒な作業の多くを自動化するコンパイラーと呼ばれるソフトウェアが開発されました。プログラマーは COBOL や Fortran などの高級言語でプログラムを書くことができ、コンピューターはそれらのプログラムを 1 と 0 のマシン コードに自動的に変換します。

数十年にわたり、プログラマーはソフトウェア開発プロセスを自動化するための強力なツールを開発してきました。たとえば、Amazon Web Services などのクラウド コンピューティング プラットフォームでは、プログラマーは数回のクリックで新しいサーバーをセットアップできます。このプロセスは、以前は何時間もかかっていました。

「開発パイプラインがすでに高度に自動化されていなければ、AI の歴史において現在の段階に到達することはできなかったでしょう」

「生成 AI はこれをさらに一歩進め、不完全ではあるものの、プログラマーのアイデアを英語 (または他の人間の言語) からコンピューター コードに変換します」

タレブの反脆弱性理論を思い出さずにはいられませんでした。西洋は、その多様な地理とそれに対する多種多様な脅威のために、より反脆弱性があったようです。一方、中国はより大きく、より組織化されていましたが、その地理的統一性と遊牧民からの脅威の単一性のために、最終的には頻繁に（100年ごと、時にはそれ以上に）ブラックスワンの影響を受けやすかったようです。

科挙を通じて才能ある人材を国家の軌道に乗せ、商業企業から遠ざけることも、この制度のマイナス面と考えられるかもしれない。なぜなら、国家内での仕事は、国家外で優秀な人材が行っていた仕事よりも生産性が低い可能性があるからだ。同様に、現代中国では、最も才能ある若者の多くが国家に受け入れられており、彼らが民間部門でより生産的になれることは疑いようがない。

[ヨーロッパでは、アジアとは対照的に] 強い国同士が対立し、互いに協力する国はほぼ同じ勇気を持っている。これがアジアの弱さとヨーロッパの強さの理由であり、ヨーロッパの自由とアジアの奴隷制の理由である。—モンテスキュー『法の精神』

たとえば、ローマのカラカラ浴場を考えてみましょう。浴場の建物は巨大で、長さ 228 メートル、幅 116 メートル、高さ 38.5 メートルでした。推定 1,600 人の入浴者を収容でき、豪華な装飾が施されたこの複合施設は、約 13 ヘクタールの広さを誇りました。この建物全体は、西暦 211 年から 216 年までのわずか 5 年間で建設されました。しかし、ローマ帝国の崩壊後、5 世紀頃からアルプス山脈の北側では、焼成レンガ (およびコンクリート) の建設が中止されたようです。

この事実を説明する上で、需要の減少が重要な役割を果たしたことは疑いようがない。例えば、テミンは、古代ローマの生活水準はおそらく 17 世紀および 18 世紀のヨーロッパのそれに匹敵するだろうと主張している。これは、帝国の崩壊後に需要が大幅に減少したことを示唆している。その結果、建設は以前のような規模と頻度では行われなくなり、この部門の準工業組織は採算が取れなくなった。これで、焼成レンガなどの基本的な技術が失われたことが説明できる。この技術はもはや採算が取れなかったため、実践も伝達もされなかった。その結果、技術の退行が起こった。実際、焼成レンガは、12 世紀前半まで (北ヨーロッパでは) 建設に再び使用されなかったと報告されている。焼成レンガとともに、ポッツァラーナ セメントも失われている。

建設の生産性への影響は甚大でした。カラカラ浴場やディオクレティアヌス浴場などの大事業は 10 年足らずで完成しましたが、ラン、ノートルダム、ソールズベリーなどの中世の大聖堂は、ローマ浴場と同等の規模であったにもかかわらず、完成までに 50 ～ 100 年かかることもよくありました。根本的な原因は、需要の縮小によってもたらされた分業の著しい減少であり、最終的には焼成レンガやポッツァラーナ セメントなどの重要な技術の喪失につながりました。