引用ジャングル

先週、アンスロピックのCEO、ダリオ・アモデイ氏はAIについて「比較的楽観的」だと自称した。しかし、事態が「極めて悪化する可能性は25％」あるとも述べた。アモデイ氏が懸念するリスクの一つは、「モデルの自律性への危険性」だ。

2023年のインタビューで、OpenAIのCEOであるサム・アルトマン氏はさらに率直に、最悪のシナリオは「私たち全員にとっての終焉」だと述べた。

こうした懸念を最も強く提起したのは、合理主義の虻のようなエリエゼル・ユドコウスキー氏だろう。「誰かがそれを作れば、誰もが死ぬ」。ユドコウスキー氏は、もし誰かが超知能AIを発明すれば、それが世界を支配し、人類を滅ぼすだろうと考えている。