コンテキストウィンドウとは、モデルが一度にアクティブに保持して処理できるテキストの総量であり、提供されたテキストと、それに対する応答として生成されたテキストの両方を含みます。会話やドキュメントがこの制限を超えると、それ以前の内容はモデルの作業範囲から完全に外れてしまいます。そのため、モデルは50ページのレポートを正確に要約できる一方で、2時間の会話の冒頭で議論された内容を忘れてしまうことがあります。会話の終盤で応答する頃には、会話の冒頭部分がコンテキストウィンドウから外れてしまっている可能性があるからです。コンテキストウィンドウのサイズはモデルによって大きく異なります。Gemini 3.1 ProやClaude 4.6など、いくつかの最先端システムでは、100万トークン以上のコンテキストウィンドウが提供されるようになり、コードベース全体や長大な法律文書を一度に処理することが可能になっています。コンテキストウィンドウの拡張は、現在も開発が活発に行われている分野の一つです。なぜなら、この制限は、長大なドキュメントや長時間のやり取りにわたって継続的な注意を必要とするあらゆるタスクに直接的な影響を与えるからです。