「真の思考には有機的な連想、推測的な飛躍、そして意外な推論が含まれるが、AIは精巧に自動化された統計的推測に基づいて、埋め込まれた単語の連鎖を認識し、繰り返すことしかできない」と指摘された。こうした主張をする感傷的なヒューマニストは必ずしも正しくはないが、彼らの混乱には容易に共感できる。モデルは言語を数値的な確率に還元する。言葉は数字とは違って生き生きとしていると考える私たちにとって、これは粗雑でロボット的に思える。モデルが次の単語を予測しているだけだと聞くと、その単語は予測可能、つまり決まり文句の寄せ集めだと期待してしまう。