モデルが次の単語を予測する際、その前に出てきた単語だけに基づいて予測しているわけではありません。モデルは、その後に出てくる可能性のあるすべての単語も「念頭に置いて」います。より遠い未来の予測に照らし合わせて、近い未来を予測しているのです。アントロピックの技術がこれを証明しています。バットソン氏がプロンプトの最後にある「grab it（つかむ）」という単語をクリックすると、ネットワークは次の単語（「His」）だけでなく、より遠い地平線上にある単語の可能性、つまり「habit（習慣）」や「rabbit（ウサギ）」といった最終段階の可能性も示しました。