人工知能が人間のように思考できるかどうかを問う興味深い思考実験として、哲学者フランク・ジャクソンが1982年の論文「付随的クオリア」で提唱した「色彩科学者メアリー」がある。この思考実験では、メアリーは色の物理学と神経科学についてすべてを知っている科学者だが、生涯をモノクロの部屋で過ごしてきた。彼女の周りのすべて、つまり彼女の服、物、そして環境そのものがモノクロである。黒、白、そしてグレーの濃淡以外の色を見たことがないにもかかわらず、メアリーは光が物体とどのように相互作用するか、目がどのように異なる波長を捉えるか、そして脳がこの情報をどのように処理するかについて、あらゆる科学的詳細を知っている。しかし、こうした理論的知識をすべて持っているにもかかわらず、メアリーは色を直接見た経験がないのだ。

ある日、部屋が開け放たれ、メアリーは色が見えるようになる。彼女が初めて赤色を見たとき、私たちはこう自問する。彼女は何か新しいことを学んだのだろうか？もしそうだとすれば、主観的な経験、つまり色を知覚するとはどういうことかという感覚には、現象の物理的あるいは客観的な記述に完全に還元できない何かがあるように思われる。