引用ジャングル

たとえば、品物をピッキングしているときに、荷物が 2 つに分かれていた場合、ピッキングと配置の訓練を受けた単純なロボットは、教育によって伝えられた内容を参照し、できる限り 1 つの破片を選ぼうとします。

一方、あなたは 1 つ上のレベルに進んで、何を達成しようとしているのかをより全体的に考えます。あなたは顧客を満足させたいと考えており、顧客は完全な製品を求めています。そのため、2 つの部分を結合します。あなたの決定の正当性はすべて、高次の動機から来ています。これらは、あなたを正しく導くための文脈と参照を提供します。

社会的関心のない AI に、顧客を満足させようとしていることを説明するのがどれだけ難しいか考えてみてください。満足した顧客とは何か、無傷のパッケージの定義は何か、そしてこれらが AI の行動にどのように影響するかを AI に説明できるでしょうか。AI が問題を見つけられないときはいつでも、それは AI が高次の動機とのこの「正しい」関係を欠いているからです。