私たちはテキストや画像が主張する通りのものだと信じています。しかし、その信頼が繰り返し裏切られると、ユーザーは幻滅感を覚えます。感情的に（「どうせ全部偽物なんだ」と）離れ始めたり、極端な場合には参加をやめてしまうかもしれません。結局のところ、友人が自分で書いたのではないかもしれないと疑っているのに、友人の投稿にコメントする意味などあるのでしょうか？

こうして、死のスパイラルが始まります。AI生成コンテンツがフィードを埋め尽くすほど、人々は何が本物か分からなくなるか、あるいは単に試すことへの興味を失ってしまうため、それらに対する真のエンゲージメントは低下していきます。そして、それは次の悪影響、つまり真の人間的表現の価値の低下へと繋がります。

2022年、CGIインスタグラムモデル、リル・ミケーラがカルバン・クラインやプラダといった大手ファッションブランドと契約を結びました。彼女は生身の人間ではありませんが、AIが生み出したこの「インフルエンサー」は、1年間で商品プロモーションで1100万ドル以上の収益を上げました。眠らず、年を取らず、スキャンダルを巻き起こすこともないデジタルアバターと、どうやって競争できるのでしょうか？

たとえ非常に慈悲深い超知能であっても、私たちを子供や動物のように見ているかもしれないことを考えてみてください。愛されているかもしれないが、対等ではないのです。私たちは世話をされ、守られ、労働や苦しみから解放され、金箔で飾られた檻の中で悠々自適な生活を送るかもしれません。私たちのあらゆるニーズは機械によって満たされるかもしれません。しかし、このユートピアでは、主体性の喪失が暗黙のうちに存在します。私たちの意思決定は、（AIによって定義される）私たち自身の利益のために、導かれたり、微妙に制御されたりする可能性が高いのです。

Appleの共同創業者であるスティーブ・ウォズニアックはかつて、将来ロボットが非常に賢くなり、「私たちは彼らのペットになるだろう」と予言し、超知能AIが「私たちを自然の一部として保護」し、優しく世話をしてくれるかもしれないと推測しました。

最も憂慮すべき側面は、超知能が（潜在的に）自己改善する能力である。私たち人間は、数千年というタイムスケールで進化する脳という与えられたハードウェアに縛られている。しかしAIは、自身のコードを繰り返し書き換え、より優れたアルゴリズムを設計し、さらには自分自身のために新しいハードウェアを設計することもできる。これは知能の正のフィードバックループであり、賢くなるにつれて、さらに自分自身を賢くする能力が上がる。英国の数学者IJグッドは1965年に「知能爆発」というアイデアを述べた際に、これを予見していた。グッドは、人間よりほんの少し賢い機械を作ると、その機械は自分自身を再設計し始め、あっという間に考えられないレベルの知能にまで達する可能性があると指摘した。

「最初の超知能機械は、人類が作らなければならない最後の発明である」とグッド氏は書いている。なぜなら、その機械はその後、他のあらゆるものを発明することができるからだ。

この再帰的な自己改善は、地球の重力から脱出するロケットによく例えられます。AIが一定の能力閾値（脱出速度）を超えると、止められない勢いで超知能へと加速していきます。このプロセスは、私たちの視点から見ると、何世紀にもわたる進歩を数時間、あるいは数日に圧縮するかもしれません。

人間の知性は広範ですが、最も優れた知性にも限界があります。シェイクスピアは文学の天才でしたが、数学者ではありませんでした。アインシュタインは偉大な物理学者でしたが、音楽作曲家として知られていませんでした。超知能は専門分野に特化する必要がなく、モーツァルト、アインシュタイン、マキャベリのすべてを兼ね備えている可能性があります。革命的な物理学実験を設計すると同時に、交響曲を作曲し、巧妙な地政学的戦略を考案することもできます。この一般性は、知性の普遍性、つまり、あらゆる問題領域に等しく熱心に、計り知れない認知力を向ける能力を意味します。

これがどれほど驚くべきことか、考えてみてください。今日、私たちはチェス、囲碁、タンパク質の折り畳みなど、特定のタスクにおいて人間に匹敵、あるいは凌駕する特化したAIを構築しています。しかし、これらのAIはそれぞれ特定のことしか行いません。超知能AIの思考能力は、人間が持つあらゆる認知能力を網羅し、さらに人間にはない能力も網羅するかもしれません。

・JavaScript が少ないほどパフォーマンスは向上します。

・CSS は解析と実行が高速です。

・JavaScript は再レンダリングを強制しますが、CSS は強制しません。

・JavaScript エラーはページを壊す原因になります。CSS エラーはどうでしょうか? 大した問題ではありません。

もちろん、JavaScript を完全に捨てろと言っているわけではありません。

しかし、CSS で美しく処理できるのであれば、なぜ物事を複雑にしすぎるのでしょうか?

「秘密を守りたいなら、自分自身からもそれを隠さなければならない」
― ジョージ・オーウェル、1984年