ここに落とし穴がある。AIの能力が向上するにつれて、認知的なリスクは実際に増大するのだ。AIが即座に洗練された回答を提供するようになると、ユーザーは本来必要な認知プロセスを省略してしまうことになる。研究者たちはこれを「メタ認知的な怠惰」と呼んでいる。学生はAIの支援があれば課題の成績は向上するが、知識は定着しない。AIがなくなると、成績は急激に低下する。人々は「能力の錯覚」を抱くようになる。課題が簡単だと感じたため、学習したと思い込むのだが、実際にはAIの機能を借りただけで、自分自身の能力を構築していなかったのだ。