事前学習にはある特性がありました。事前学習を重ねるごとに、モデルはあらゆる面で、多かれ少なかれ均一に、より優れたものになるのです。つまり、汎用AI、つまり事前学習によってAGIが生まれるのです。

しかし、AGIと事前学習に関して起こったことは、ある意味で目標をやり過ぎてしまったということです。「AGI」という言葉について、特に事前学習という文脈で考えてみると、人間はAGIではないことに気づくでしょう。確かにスキルの基礎はありますが、人間には膨大な知識が欠けています。その代わりに、私たちは継続的な学習に頼っているのです。