引用ジャングル

結局のところ、ニューラルネットワークのようなシステムは明らかに世界について話すことができ、世界に関する何らかの知識を持っています。実際、ニューラルネットワークは膨大な知識を有しており、ある意味ではほとんどの人間、あるいはすべての人間よりもはるかに多くの知識を持っています。例えば、法学修士（LLM）は「トーゴの人口は？」といった質問に答えられるかもしれませんが、私はきっと調べなければならないでしょう。

しかし、LLMはデータベースのような構造化された記号体系を維持していません。都市や人口に関する直接的なデータベースも持っていません。ウェブ検索などの外部ツールで取得できる情報（部分的ではあるものの、あくまでも部分的な回避策に過ぎません）を除けば、LLMは単に確率的に再構成した一連のテキストを持っているだけです。だからこそ、彼らは頻繁に幻覚を見るのです。もし関連データベースに確実にアクセスできれば、幻覚を見る必要はないでしょう。