2026年4月2日、FDAはミシガン州リボニアの小規模製薬会社に警告書を送付した。この会社のオーナーは帯状疱疹と性器ヘルペスの治療薬としてラベル付けされたホメオパシー製品を製造していた。彼女はAIを使って医薬品の仕様書、手順書、バッチ記録を作成していた。FDAの査察官が、21 CFR 211.100で義務付けられている製品出荷前の工程検証を行っていないことを直接指摘したところ、彼女は次のように答えた。

AIエージェントは、それが必須だとは一度も言っていませんでした。

連邦捜査官が彼女の前に立ち、それが義務だと告げた。彼女は、AIが沈黙していたことを理由に知らなかったと主張した。チャットボットの不備は、規制当局の指示よりも彼女にとって重みがあった。これは、このリストの以前のバージョンにおける項目7の終着点である。つまり、世界との関係を完全に外部委託してしまい、世界の修正よりもチャットボットの不備の方が現実味を帯びていると感じる人物像だ。

FDAの回答は、二度読む価値のある部分です。彼らはAIが間違っているとは言っていません。彼らは次のように書いています。「AIエージェントからの出力や推奨事項は、FD&C法第501条(a)(2)(B)項に従い、貴社の品質管理部門の権限のある担当者によって審査され、承認されなければなりません。」言い換えれば、チャットボットには同法の下での法的権限はありません。人間が署名する必要があるのです。規制当局は、要件を定めた文書と責任を負う人物に線引きをし、AIにどちらの責任も負わせることを拒否しました。