引用ジャングル

悲観論者は、AI システムの大半が一方側に、人間の大半が他方側にいるという紛争を思い描いています。しかし、物事がそのようにうまくいくと期待する理由はほとんどありません。たとえ一部の AI システムが最終的に「暴走」したとしても、人間は自衛に使用できる AI システムを持っている可能性が高いです。

「問題の核心は、AI がすでに人間をより強力にしており、AI の能力が向上するにつれてこの傾向が続くということだ」

「人間は、人類を滅ぼす超知能という恐怖が呼び起こす『超知能』の存在だ。AI が単独で行動したり、その作成者に反抗したりすることが、将来、AI の助けを借りて行動する人間よりも有能になると考える理由はない」