最初の問題点は承認ボタンにある。「重要な操作の前には必ず人間が確認する」というのが標準的な安全対策だ。しかし、Anthropic社は自社製品において、許可ダイアログの約93%がそのまま承認されており、確認を求める回数が増えるほど、人々の注意力が散漫になると報告している。考えてみれば、これは当然のことだ。「許可しますか？」と1日に何十回も尋ねられ、その一つ一つを精査することを求められるのは、人間の注意力にとって不合理な要求だ。そもそも承認要求とは何なのか？それはAIが人間に小さなタスクを発行しているのだ。「確認してください」と言われた瞬間、確認する仕事は人間に割り当てられる。人間は1日に何十回もAIの下請け業者になる。こうして承認はガバナンスからクリック作業、つまり儀式へと堕落していく。そして恐ろしいのはその後だ。記録に残る唯一のものは、「人間が承認した」という事実、つまり責任の証拠なのだ。