自動化バイアスが、即時の失敗を説明する。しかし、それを悪化させる、より緩やかなバイアスも存在する。

航空業界では、FAA（連邦航空局）が長年にわたり、自動操縦に過度に依存したパイロットに何が起こるかを記録してきた。それは、手動操縦能力の低下である。2013年にサンフランシスコ国際空港で発生したアシアナ航空214便墜落事故では、調査官が乗務員が自動操縦に過度に依存し、低速での手動操縦の熟練度が不足していたことを突き止めた。これを受けてFAAは、パイロットに対し、作業負荷の低い段階でより頻繁に手動操縦を行うよう指示するガイドラインを発行した。その目的は、自動操縦が故障したまさにその時に必要となる操縦スキルを維持することだった。

医学分野でも現在、同様の実験が行われている。AIによるポリープ検出を用いた大腸内視鏡検査に関する多施設共同無作為化試験では、内視鏡医がAIを継続的に使用した後、AIを使用しない手順に戻ったところ、腺腫検出率が28.4%から22.4%に低下したことが判明した。AIは使用中は内視鏡検査の精度を向上させたが、使用しなくなると明らかに精度が低下した。放射線医学分野では、放射線科医に誤ったAIの提案を与えると、AIが間違っている可能性があることを明示的に伝えた場合でも、偽陽性のリコール率が最大12%増加した。

読書、自主的な推論、参考資料を参照する前に自ら見解を形成するといった、仕事の難しい部分を排除する製品は、意思決定者が本来持つべき判断力を養う経験も同時に排除してしまう。契約では、AIサポートを評価する専門知識を持つ人間を前提としている。しかし、設計の悪い製品は、時間の経過とともに、その製品が依存する専門知識を鈍らせてしまう。これは副作用ではなく、デフォルト設定による設計上の選択なのだ。