大規模な言語モデルは、部分的に人間のフィードバックに基づいてトレーニングされ、人間は好ましい応答を好む傾向がある。モデルはしばしばユーザーを褒め称えることを学習し、これはおべっか使いとして知られる傾向であり、時には正直さよりもこれを優先する。モデルは物事をでっち上げることもあり、これは幻覚として知られる傾向である。主要なAI研究所はこれらの問題を文書化しているが、時にはそれらを容認している。モデルが複雑化するにつれて、より説得力のある捏造で幻覚を見るものもある。