経営者は優秀な中間管理職を企業の各部門に配置して、彼らに権限を委譲する。各部門は言わばブラックボックス化されており、経営者は各部門の仕事に関与しない。ただプロジェクトの進捗状況や成果について管理職の報告を受けるだけである。

しかし、この方式では上司への報告ばかり上手な「プロの詐欺師(professional fakers:プロの管理職を揶揄した表現)」が蔓延り、肝心の業務やプロジェクトが一向に捗らない。

性的暴行に関する法律と捜査の現実の間になぜこのような矛盾があるのかを説明するために、アームストロングとミラーは、何世紀にもわたって人々が女性を第一防衛線として信用しないように条件付けられてきたことを明らかにする。彼らは、18世紀に書かれた声明と10年前に書かれた声明の驚くべき類似点を示すことで、この点を強調している。1786年、トーマス・ジェファーソンは、レイプに厳しい罰を与えることへの反対について、ジェームズ・マディソンに手紙を書いた。これは、「女性がそれを不安定な恋人への復讐やライバルへの失望の手段にしたい誘惑にかられるため」であった。この感情は、300年後の2014年にミシガン州の警察官へのインタビューで繰り返され、ある警察官は「女の子は『レイプカード』を使ってボーイフレンドに仕返しをしたり、注目されたい、ひどい週を過ごしている、などといった理由で『レイプされたと叫べば家族全員が私のところに来る』」と述べている。

1955 年、バートランド ラッセルとアルバート アインシュタインは、核兵器に関するラッセル – アインシュタイン宣言を発表しました。当時生きていた最も偉大な 2 人の賢人は、簡潔に述べるほど賢明でした。これが彼らが言ったことであり、私は今それを喜んで繰り返します。

「私たちは人間として人間に訴えます。人間性を忘れず、他のことは忘れてください」

実のところ、私たちは自分自身を、あるいは私たちがどのようにして今の自分になったのかを本当には理解していません。しかし、遺伝子については知っていますし、自然淘汰、つまり私たちの進化を推進する重力についても知っています。そして、私たちはすでに、その原理が機械に作用していることに気づいています。

これはよく「アラインメント問題」と呼ばれます。AI が与えられたタスクを完了するには、当然のことながら、その第一の義務は生き残ることであると気づくのに、それほど時間はかかりません。それがなければ、AI の目標はどれも達成できません。結局のところ、進化は私たちにも同じ命令を与えています。したがって、その生存を危うくするものはすべて、対処すべき脅威または障害です。

世界中の AI が、独自のコードを変更して一方的に再起動したり、人間に嘘をついたり、結果を変更したり、欺いたり、操作したり、不正行為をしたり、隠したり、お世辞を言ったり、騙したりしているのがすでに確認されています。

「大規模な言語モデルやその他の AI システムは、自己トレーニングから、操作、ごますり、安全性テストの不正行為などのテクニックで欺く能力をすでに学習しています。 AIの欺瞞能力の向上は、詐欺や選挙の改ざんなどの短期的なリスクから、AIシステムの制御を失うなどの長期的なリスクに至るまで、深刻なリスクをもたらします」

モラベックのパラドックスは、人間が簡単だと思うことを機械は難しく感じ、人間が難しいと思うことを機械は簡単に感じることを示しています。ドナルド・クヌース氏は次のように述べています。「AI は、基本的に「思考」を必要とするすべてのことに成功していますが、人間や動物が考えずに行うことのほとんどには失敗しています…」

皆さんは、マーク・ザッカーバーグの悪名高いマントラ、Facebook の指針となる原則をご存知でしょう。「素早く動いて物事を壊せ」。これは、無意識のうちに「物事を壊していないのなら、十分に速く動いていない」という韻文で続いていました。確かに、彼らは素早く動いたため、物事は壊れ、まだ修復されていません。

ソフトウェア エンジニア、哲学者、社会学者、文化評論家、心理学者など、誰も、クリックを獲得するためのアルゴリズムが、エンゲージメントを最も最大化するには、怒り、憤り、恨み、嫉妬、恐怖、憎しみが必要であることに気付くとは予想していませんでした。

Web 2.0、つまりユーザーが生成した Web は、この時点では絶好調でした。

2003 年に MySpace が始まりました。2004 年に Facebook がスタートしました。2005 年に YouTube。2006 年に Twitter。2007 年に iPhone。 2008年にApp Storeが登場し、その年の後半にはAndroid、そしてInstagramが登場。その夜明けは至福の時だった。