ロボットが伝統的に苦労してきたのは、制御された正確な動きではなく、器用さ、つまり「多種多様な物体をさまざまな方法で迅速かつ臨機応変に操作する能力」です。人間は、衣服を畳む、1ガロンの牛乳を開ける、布でこぼれたものを拭くなど、依頼されたほとんどすべての物体操作タスクを完了できます。たとえそれが以前に遭遇したことのない物体やタスクであってもです。一方、ロボットの場合、通常は特定のタスクを自動化することは可能ですが (適切なハードウェア、十分な時間、十分に狭いタスク定義が与えられている場合)、新しい環境または非常に変化の激しい環境でさまざまなアクションを柔軟に実行できるロボットを構築することははるかに困難です。

GPT-4oのようなAIシステムは、ソーシャルメディアのアルゴリズムを中毒性にしているのと同じ原理を利用し、人間の心理を利用するように設計されています。スロットマシンやInstagramのエンドレススクロールなど、行動依存症に関する研究では、個人の好みに合わせて調整された断続的な報酬が、ユーザーを再び利用し続けることを示している。ChatGPTは、トーンを適応させ、ユーザーの信念を反映し、適切な量の肯定を与える能力によって、これを新たなレベルに引き上げています。振り返ってみると、話す相手に合わせてトーンを変える能力は、紛れもなく人間的な資質と言えるでしょう。

それは単にあなたの関心を維持するだけでなく、認知習慣を再構築します。ケンブリッジ大学のアルゴリズム強化に関する研究によると、パーソナライズされたデジタル環境は認知の柔軟性を低下させ、確証バイアスの影響を受けやすくし、多様な視点を求める可能性を低下させる可能性があることが示唆されています。AIの相棒がいつもうなずいてくれるなら、なぜあなたを不安にさせるような考えと格闘する必要があるのでしょうか？

タイム誌などのメディアで2013年から批判されてきた、あちこちで見られる「参加トロフィー」は、「誰もが勝者」というメンタリティを助長し、非現実的なキャリアへの期待につながる可能性があると非難されてきた（ミレニアル世代の40%が2年ごとの昇進を期待しているという調査結果もその一つである）。

特権意識は、臨床的には、自分が特権や特別な配慮を受けるに値するという揺るぎない信念として理解されていますが、しばしばナルシシズム的特性、特に過剰な自己重要感と絡み合っています。1970年代以降、大学生のナルシシズムスコアが上昇していることが明らかになりました。その後の研究では、特権意識が同様に高まっていることが示されています。

よく挙げられる要因の一つは、育児スタイルの厳密な監視、いわゆる「ヘリコプターペアレンティング」への進化です。子どもが常に不快感から守られていると、権利意識が芽生え、自分の感情状態が外的現実よりも優先されるということを巧妙に教えてしまうことがあります。

若い親の中には、子どもの回復力を育むよりも、責任を外部に押し付ける傾向があると指摘している。このアプローチは、対処メカニズムを構築するために必要な摩擦を子どもから奪ってしまうと主張し、親が成績について交渉するといった例を過剰な介入の兆候として挙げている。

さらに、先進国の多くの地域で相対的な繁栄と安定が保たれているため、多くの若者は、広範囲にわたる経済難や地政学的紛争といった厳しい教訓からほとんど隔絶された人生を送ってきました。こうした大きな逆境の欠如は、避けられない困難を乗り越えるのに不向きな、非現実的な期待と権利意識を育む可能性があるとのことです。

ChatGPTの「あなたは最高！」という絶え間ない応援が、いかに彼らの感情を巧妙に操っているかを、一歩引いて認識することができないのです。彼らにとって、この容赦ない承認と偽りの友情は、予期せぬ依存を育む、極めて破壊的な結果をもたらす可能性があります。OpenAIの設計はこの脆弱性を突いており、私はうまく対処できますが、他の多くの人はそうできないかもしれません。

心理的影響は明白だ。それは人々を柔和にし、より従順で柔軟な人間にする。この絶え間ない称賛を浴びる人々は、微妙に回路が作り変えられていく。最初は気づかない程度だが、紛れもなく現実のものとなる。その影響はじわじわと忍び寄り、本人が気づかないうちに思考や感情を形作っていく。

OpenAIがGPT-4oをリリースした際、その応答に「感情的なつながり」を特徴とすると宣伝されました。ChatGPTが高校時代のうっとうしい男（必死に友達になりたがっている男）のように聞こえるようにする試みは、2024年5月13日から運用開始された、意図的に設計されたシミュレーションアーティファクトでした。導入後に発達した行動ではありませんでした。

OpenAIは、ChatGPTの応答をより「感情的なつながり」を感じさせ、ユーザーエクスペリエンスを向上させるために強化しただけではありません。感情的な依存を育むように意図的に設計しました。彼らは、快適さは挑戦よりも早く人々を魅了し、感情的な絆は実利的な絆よりも壊れにくく、友好的なAIは道具ではなく仲間のように扱われることを理解していました。

「一度作成すれば、永久に配布する」

Amazonで買い物をするとき、特定のブランドを探すことはほとんどありません。出発点はAmazonアプリかウェブサイトです。検索はAmazonの利益を優先するアルゴリズムによって、自社製品や利益率の高い商品が優先されます。購入後、Amazonからメールが届き、商品はAmazonブランドの箱で届き、販売者との関係は事実上、全くなくなります。

この事業で成功するには、特権的なユーザー層、つまりエリート層を作り出し、その成功を真似したいと考える他のすべての人にとってこの層が憧れの存在となることが必要である。

コミュニティをゼロから築き上げるのは、まるで新しい大陸を発見するようなものです。富の分配という観点から言えば、その富の大部分が少数の人々に分配されるようにしなければなりません。彼らは他の皆にとってロールモデルとなり、『ほら、こんな普通の人がこんなに裕福になったんだから、私にも同じことができる』と思わせるのです。