マンハッタン計画は最も有名な例です。その目標は、ナチスより先に核爆弾を手に入れ、戦争に勝利し、ナチスの核戦争を阻止するという、存在をかけたものでした。その目標は、政府予算の約 1%、米国 GDP の 0.4% に相当し、同様に重要な点として、世界で最も優秀な人材の多く (オッペンハイマー、フェルミ、フォン ノイマン、ファインマン、テラー、シラード、ベーテ、ローレンス、ウラム) がロスアラモスに結集したことでした。全体として、米国政府は第二次世界大戦に勝利するために米国 GDP のほぼ 40% を費やしました。

「ホッケースティック成長」という言葉は、株価のグラフが端に横たわっているホッケースティックのように見えることを意味する。

なぜ AI への期待がこれほどまでに高まっているのか。私はこの奇妙な瞬間の根底には、平凡な生活から解放されたいという幅広い願望があると主張してきた。AI は退屈な現実に生きる重荷から私たちを解放してくれる何かのように聞こえ、それは概して満足のいく生活を送っている人々にとっても魅力的な概念だ。AI ユートピアと AI 破滅のシナリオは、大きな変化、つまり (たとえば) ついに上司に「くたばれ」と言える過去との亀裂の可能性を提示しているように思える点で、違いよりも共通点が多い。

僕は矢倉で名人にもなり、タイトルも取り、たくさん勝っていて、矢倉がいちばん得意なんだけれども、矢倉の中で5局ぐらい手を焼いている形があるんですよ。その中のひとつの作戦を、このとき藤井さんが僕にぶつけてきた。僕はその瞬間、彼はすごい勉強家だと思った。

問題は、最初に浮かんで「これがいちばんいい手だ」と思ったけども、少し考えたとき、「あ、これもいい手だな」と思える局面がときどきあることです。僕の経験則で、最初に浮かんだ手と後から考えた手の二者択一の場合は、かならず直観で浮かんだ手を選んで勝っています。

　つまりね、後から考えた手というのは、どちらかというと自分の都合のいいように、いいようにと考えた手で、僕の言葉で言うと「勝手読み」。こういうことは人生でもあることです。自分の都合のいいように考えていったらけっこう失敗しますね。

「将来、AIによってパンデミックを引き起こすウイルスを研究室で開発することが容易になる可能性はある」

「しかし、そのようなウイルスを研究室で作ることはすでに可能だ。入手可能な証拠に基づくと、COVIDの研究室漏洩説は依然妥当性がある」

ハッカーたちは、ソフトウェア コード内のバグを手動で検索するよりもはるかに高速で使いやすいバグ検出 AI ツールを長い間使用してきました。

それでも世界は終わっていません。なぜでしょうか? 防御側も同じツールにアクセスできるという単純な理由からです。重要なソフトウェアのほとんどは、導入前に開発者や研究者によって脆弱性が徹底的にテストされています。実際、バグ検出ツールの開発は主にハッカーではなく、数十億ドル規模の情報セキュリティ業界によって行われています。総合的に見て、ソフトウェアの欠陥を見つけるための AI の利用可能性はセキュリティを悪化させるのではなく、向上させています。

自動化されたバグ検出方法が改善し続けても、防御側が攻撃側に対して優位に立つことは間違いありません。

悲観論者は、AI システムの大半が一方側に、人間の大半が他方側にいるという紛争を思い描いています。しかし、物事がそのようにうまくいくと期待する理由はほとんどありません。たとえ一部の AI システムが最終的に「暴走」したとしても、人間は自衛に使用できる AI システムを持っている可能性が高いです。

「問題の核心は、AI がすでに人間をより強力にしており、AI の能力が向上するにつれてこの傾向が続くということだ」

「人間は、人類を滅ぼす超知能という恐怖が呼び起こす『超知能』の存在だ。AI が単独で行動したり、その作成者に反抗したりすることが、将来、AI の助けを借りて行動する人間よりも有能になると考える理由はない」