AIについて誰も本格的に語る前から、コードを書くことはAIにとってキラーアプリだった。2021年の春、世界が「ChatGPT」という言葉を知る18ヶ月前に、マイクロソフトはOpenAIという非営利団体との提携による最初の製品を発表した。それはGitHub Copilotというツールで、開発者がコードを書いているのを監視し、コードスニペットや行を自動補完しようとした。それはそれほど良いものではなかった。そしてそれは「制限付きテクニカルプレビュー」に過ぎなかったが、それでも100万人以上の開発者が試用登録をした。大規模言語モデルは明らかにソフトウェア開発をさらにシンプルかつ高速化できる態勢が整っているように見えた。ほとんどのコードは比較的構造化されていて分かりやすい。プログラミング言語は一般的に非常によく文書化されている。そして膨大な量のコードがオンラインで入手可能で、モデルのトレーニングに使用できる（ただし、時には疑わしい手段による）。LLMから得られる他の多くの情報とは異なり、コードを実行してみるだけでコードの品質をチェックすることもできる。当初、いくつかの企業は、LLMがGoogleのオートコンプリートのように次の単語を予測することで、コードの記述を高速化できるかもしれないと考えた。しかし、すぐにコーディングの一部、あるいはすべてを代行してくれるようになるかもしれないと彼らは期待した。