引用ジャングル

歴史を通して、人々はAIが真に知的であることを認めるのに非常に抵抗してきました。例えば、かつてはAIがチェスを解けば真に知的だと考えていました。しかし、実際にチェスを解くと、人々は「いや、それはただのアルゴリズムだ」と反論しました。そして、哲学ができれば真に知的かもしれない、と反論しました。そして、AIが哲学的な論説を書けるようになると、「いや、それはアルゴリズムだと理解しているだけだ」と反論しました。

「AIはずれているか？」「AIは邪悪か？」といった問いにも似たようなものが既に存在していると思います。どこかに邪悪なAIがいるという漠然とした考えはあるものの、何か問題が起きると人々は「ああ、それはアルゴリズムのせいだ」と答えるだけです。例えば10年前に「ずれが本当に心配すべき重要な問題だとわかるのはいつになるのか？」と問われたとしたら、人々は「ああ、AIが嘘をついたら」と答えたでしょう。しかしもちろん、今ではAIは人々に常に嘘をついています。そして誰もがそれを無視します。なぜなら、なぜそうなるのかは理解しているし、現在のAIアーキテクチャに基づいて当然起こることだから。あるいは5年前なら、「AIが誰かを殺すと脅したら」と答えたかもしれません。確かBingがニューヨーク・タイムズの記者をインタビュー中に殺すと脅したのを覚えています。そして皆は「ああ、AIってそういうものなんだ」と言うでしょう。