AIの最も優れた能力はパターンを見つけることであり、人間の行動はパターンの集合体にほかなりません。
AIシステムが、個人について、地理位置情報データ、Web閲覧情報、個人の財務データ、CCTV映像、有権者登録記録など(公開されているものもあれば、データブローカーから購入したものもあります)を重ね合わせているところを想像してみてください。
「これらのシステムを大規模な国内監視に使用することは、民主主義の価値観と相容れません」とアモデイ氏は声明で述べています。
「強力なAIは、この散在した、個々には無害なデータを集めて、あらゆる人の生活の包括的な画像を自動的に、そして大規模に作成することを可能にします」。
アンスロピックは、この行為を明確に禁止する契約を求めたと述べていますが、OpenAIは既存の法的制限に大きく依存しているようです。