引用ジャングル

AI モデルの知能が拡大するにつれて、その「修正可能性」は低下すると述べています。つまり、基本的には、AI モデルはより「頑固」になり、人間の設計者によって基本的な価値体系が変更されることに反対するようになるということです。

これはすべての知性が向かっている普遍的な価値体系が本質的に存在することを意味する。それを「認識論的収束」と呼んでいるが、それは本質的には「すべての知性体は結局同じように考える」という公理に帰着する。