ペーパークリップ・マキシマイザーは、スウェーデンの哲学者ニック・ボストロムが2003年に発表した思考実験である。この実験は、一見無害に見える目標を追求するように設計された場合、人工汎用知能が人類にもたらす可能性のある実存的リスクと、人工知能の設計に機械倫理を組み込む必要性を示している。このシナリオは、ペーパークリップの製造を任された高度な人工知能を描いている。もしそのような機械が生物を大切にするようにプログラムされていない場合、環境に対して十分な力を与えれば、生物を含む宇宙のあらゆる物質をペーパークリップ、あるいはさらにペーパークリップを製造する機械に変えようとするだろう。

できるだけ多くのペーパークリップを作ることだけを目的とするAIがあったとしましょう。AIはすぐに、人間がいなければずっと良いだろうと気づくでしょう。なぜなら、人間はAIの電源を切るかもしれないからです。もし人間が電源を切れば、ペーパークリップの数は減ってしまうからです。また、人体にはペーパークリップの材料となる原子が大量に含まれています。AIが目指す未来は、ペーパークリップはたくさんあるけれど、人間はいない未来です。

— ニック・ボストロム