「生成モデルが行うように、法廷で使用するためにデータを捏造するという考えは、本当に本当に問題だ」と彼は言う。「警察官に『犯罪現場で見たものについて、自由に創作して物語を作ってくれ』とは決して言わないだろう。もちろんそんなことはしない。彼らは犯罪現場で見たものをできる限り客観的に記録し、文書化することが求められている。しかし、生成モデルは作り出すように設計されているのだ」。

2008年の金融危機の後、ロサンゼルス警察署長のチャーリー・ベックは、ウォルマートとアマゾンのパーソナライズされたショッピングアルゴリズムからヒントを得て、警察署は犯罪を予測するために同様のツールを使用すべきだと書いた。2010年代から、「予測型警察活動」プログラムは全米の都市で広く実施された。しかし、警察活動における公平性と正義の新時代を築くどころか、多くの場合、アルゴリズムは正反対の効果をもたらしました。モデルは過去の犯罪データからパターンを検出するように訓練されていたため、その訓練データに隠されたバイアスが、数学的客観性の名の下に永続化されてしまったのです。