引用ジャングル

「人間の知識のほとんどは暗黙のものであり、体系化することはできません」

「ある程度を超えると、能力の向上には、人々との実際のやり取りから長期間にわたって学習する必要があります。最も貴重で価値のある人間の知識の多くは、薬物検査から税制政策に至るまで、人々を対象とした実験から得られます」

自動運転車を例に挙げる。初期の頃、こうした車両は急速に進歩したように見えた。2010年代後半までには、多くの企業が基本的な自動運転機能を備えた試作車両を製造していた。

しかし、最近では「専門家が当初予想していたよりもはるかに進歩が遅い。これは、現実世界のインタラクション データを収集して学習することの難しさを過小評価していたためだ」と書いている。

自動運転車は、実際の公道で試行錯誤して発見しなければならない「エッジ ケース」の長いリストに対処しなければならない。ウェイモがフェニックスで最初の無人タクシー サービスを開始するのに十分な進歩を遂げるまでに 10 年以上かかった。そしてウェイモの車でさえ、今でも時々遠隔オペレーターの支援に頼っている。