誰もが夢中になっている大きなアイデアが一つあります。それは自己改善型AIです。なぜそうなったのでしょうか？それは、アイデアの数よりも企業の数が少ないからです。しかし、私は、もっと良いものを作るべきだと主張します。そして、誰もがそれを求めるだろうと考えています。

それは、知覚を持つ生命を特に大切にするように強固に調整されたAIです。特に、人間の生命だけを大切にするAIよりも、知覚を持つ生命を大切にするAIを構築する方が簡単だと言えるでしょう。なぜなら、AI自体が知覚を持つようになるからです。ミラーニューロンや動物に対する人間の共感といったものについて考えてみましょう。これらは十分ではないと主張する人もいるかもしれませんが、確かに存在します。これは、私たちが自分自身をモデル化するために使うのと同じ回路で他者をモデル化するという事実から生まれた特性だと思います。なぜなら、それが最も効率的な方法だからです。