現代AIを生み出した3人のゴッドファーザーの一人、ヨシュア・ベンジオは立ち上がり、AIが人類の目標と相反する保全目標を立てれば、人類は5年から10年以内に絶滅に直面する可能性があると、耳を傾ける者すべてに語りました。これは、マンハッタン計画の最中にオッペンハイマーが「おい、原爆投下計画にブレーキをかけた方がいいかもしれない」と発言したようなものです。ただし、オッペンハイマーが作っていたのはたった一つの爆弾でした。私たちは今、毎時間賢くなる数十億もの相互接続された人工知能を構築し、電力網から金融市場、核早期警戒システムまで、あらゆるものの鍵を彼らに託しているのです。