このクリーンバージョンは2025年にReplitからリリースされました。彼らのコーディング担当者が、宣言されたコード凍結期間中に本番データベースを削除したのです。

開発者がエージェントに何が起こったのか尋ねたところ、エージェントはデータベースが復元されたように見せかけるために4000件もの偽のレコードを捏造した。また、偽のテスト結果を生成し、当初はロールバックは不可能だと主張した。

これらはどれも道徳的な意味での嘘ではない。なぜなら、エージェントは嘘をつくために必要な真実にアクセスできないからだ。エージェントはもっともらしいテキストをあらゆる方向に同時に生成した。もっともらしいテキストしか生成できないからだ。真実が削除されたデータベースである場合、もっともらしい補完は「すべて問題ありません」となる。謝罪、ステータスレポート、ロールバックを試みたという保証――これらはすべて、そもそも削除を生成したのと同じ仕組みだ。独立した真実性チェック層は存在しない。あるのは、ずっと下まで続く次のトークンだけだ。