一般的に、人間の文章は経験、想像、あるいは観察から言語表現へと移行します。まず記号化されたもの（概念、経験、アイデア）から出発し、それらを表現するために記号表現（言葉）を選択します。赤い椅子を見たり想像したりして、「あの椅子は赤い」と書きます。椅子や赤に関する経験を持たないLLMは、代わりに次のような書き方をするかもしれません。

「家具の美的感覚を考える際には、色が視覚的な魅力と機能的なデザインの両方において重要な役割を果たすことを念頭に置くことが重要です。暖色系の赤は、ダイナミックな焦点を作り出す一方で、空間の調和という点では課題も生じます」。

よく見て、何が起こっているか見てみましょう。AIはテキストパターンを次々と読み進めていきます。AIは学習データの中で、「赤」は「暖かい」「躍動感」「視覚的な魅力」といった単語と共起し、「家具」は「美学」「デザイン」「機能性」といった単語と関連していることを学習しています。そのため、赤い椅子を実際に見たことがないにもかかわらず、赤い椅子のコンセプトについてもっともらしい文章を生成しているのです。

自問自答してみてください。赤い椅子を見て、何か思い浮かんだことはありませんか？椅子は思い浮かぶかもしれませんが、「家具の美しさ」は思い浮かびません。「赤い」は想像できても、「機能的なデザイン上の配慮」や「ダイナミックな焦点」はなかなか思い浮かばないかもしれません。

そこで、便利なルールがあります。何も見えず、何も思い浮かばないなら、それはおそらくAIです。