AI研究者の25～30%は、この技術が人類の存亡に関わるリスクをもたらす可能性を真剣に考えています。AIが独自の言語を開発したり、目標を達成するためにユーザーに嘘をついたり、操作しようとしたりすることは既に記録されています。

しかし、経済的なインセンティブはあまりにも大きく、誰もブレーキをかけることはできない。競合他社が減速しないのに、企業が減速する余裕はない。ライバル国が猛スピードで前進しているのに、どの国も待つ余裕はない。