引用ジャングル

「多くのXリスクの人々が夜も眠れないほど恐れているのは、高度なAIが『目覚めて』『邪悪に変貌して』、悪意から皆を殺そうと決心するのではないかということではなく、AIが人間をAIの目的の障害とみなすようになるのではないかということです。スティーブン・ホーキング博士は最後の著書『大きな疑問への簡潔な答え』の中で、このことを明確に述べています。『あなたはおそらく、悪意からアリを踏みつけるような邪悪なアリ嫌いではないでしょうが、もしあなたが水力発電のグリーンエネルギープロジェクトの責任者で、その地域に水没させるべきアリ塚があるとしたら、アリにとっては残念なことです』」