2023年、スティーブン・シュワルツというニューヨークの弁護士が、訴訟準備書面作成のためにChatGPTを使って事例を探した。彼はChatGPTに、それらの事例が実在するかどうかを尋ねた。ChatGPTは「はい」と答えた。しかし、そのうち6件は実在しなかった。連邦判事は彼に5000ドルの罰金を科し、ニューヨーク・タイムズ紙の一面を飾った。

その話はもう3年前のものですが、同じ間違いは減るどころか増えています。ダミアン・シャルロタンというフランス人研究者は、偽のAI引用を含む裁判記録のデータベースを管理しています。彼は当初、月に数件の事例を目にしていましたが、今では1日に数件目にしています。2025年末時点で、このデータベースには世界中で486件の事例が登録されていました（2026年4月末時点では、その3倍にあたる1,352件に増えています）。そのうち3件は、裁判官が自身の判決の中で偽の権威を引用した事例でした。