一部のユーザーは、これらのモデルをより親しみやすく、近づきやすいと感じました。しかし、それらは危険な思考パターンを強化する可能性もあります。極端な場合、それは俗にAI精神病と呼ばれるもの、より正確には躁病や自己愛の誇大化を含む一連の行動へと発展します。ユーザーがAIシステムに問題を打ち明けると、モデルは有害な信念を再確認し、増幅させる可能性があり、それがパラノイア、自殺念慮などを助長する可能性があります。