AI システムが誤って調整されている可能性がある (人間の価値観ではなく独自の目標を追求している) という証拠が出てきたとき、企業幹部の反応は基本的に「しかし、中国は私たちより 2 か月遅れているだけです」というものです。

これはゲーム理論の最悪の例だ。どちらの側も、より緩やかで安全な発展の世界を望んでいる。しかし、どちらが先に減速するわけにはいかない。これは文明の未来を賭けた囚人のジレンマなのだ。