引用ジャングル

LLM トレーニングのサンプル効率を桁違いに高めることができるかどうかについては議論があります。結局のところ、子供は LLM よりもはるかに少ない単語に触れた後で言語を習得します。一方、子供は「ベビーベッドの中の科学者」であり、世界モデルと推論能力を早い段階で開発しており、それが効率的な言語習得を可能にするのかもしれません。