スタートアップ企業は、スケールアウトを目指して開発していると言い聞かせるのが好きです。「もし一夜にして100万人のユーザーを獲得したらどうなるだろう？」と自問自答する一方で、登録フォームは未だに機能せず、誰もログインしていません。

現実的に考えてみましょう。

ほとんどのスタートアップはスケールする必要はありません。存在し続けることが必要です。自分たちが何を作っているのかさえ理解できるまで生き残る必要があります。

おそらくチェーホフの銃の話を聞いたことがあるでしょう。「第一幕で壁に銃があったら、第三幕までに発砲するべきだ」

これは基本的に、ストーリーで紹介するすべての要素が後で重要になることを意味します。

しかし、それを逆にしたらどうなるでしょうか?

銃が先に発砲したらどうなるでしょうか？

出来事を予告するのではなく、結果から始めて、それがどのように、なぜ起こったのかを逆方向にプロットしていきます。

この手法はスリラーやミステリーで非常に効果的です。

読者は「何が原因か？」を知りたくてたまらなくなり、興味を持ち続けます。

今、私たち何百万人もが恐怖を感じています。

私たちは職を失うのではないかと恐れています。来年ではなく、AGIの後ではなく、今です。

ChatGPTが私たちよりも上手にメールを書くのを目の当たりにしています。Claudeが50ページを数秒で要約するのを目の当たりにしています。スタートアップ企業がLLMを活用して、かつてはチームで1ヶ月かかっていたものを週末でリリースするのを目の当たりにしています。

そして私たちは静かに考えます。私に何が残されているのだろうか？

私たちはテキストや画像が主張する通りのものだと信じています。しかし、その信頼が繰り返し裏切られると、ユーザーは幻滅感を覚えます。感情的に（「どうせ全部偽物なんだ」と）離れ始めたり、極端な場合には参加をやめてしまうかもしれません。結局のところ、友人が自分で書いたのではないかもしれないと疑っているのに、友人の投稿にコメントする意味などあるのでしょうか？

こうして、死のスパイラルが始まります。AI生成コンテンツがフィードを埋め尽くすほど、人々は何が本物か分からなくなるか、あるいは単に試すことへの興味を失ってしまうため、それらに対する真のエンゲージメントは低下していきます。そして、それは次の悪影響、つまり真の人間的表現の価値の低下へと繋がります。

2022年、CGIインスタグラムモデル、リル・ミケーラがカルバン・クラインやプラダといった大手ファッションブランドと契約を結びました。彼女は生身の人間ではありませんが、AIが生み出したこの「インフルエンサー」は、1年間で商品プロモーションで1100万ドル以上の収益を上げました。眠らず、年を取らず、スキャンダルを巻き起こすこともないデジタルアバターと、どうやって競争できるのでしょうか？

たとえ非常に慈悲深い超知能であっても、私たちを子供や動物のように見ているかもしれないことを考えてみてください。愛されているかもしれないが、対等ではないのです。私たちは世話をされ、守られ、労働や苦しみから解放され、金箔で飾られた檻の中で悠々自適な生活を送るかもしれません。私たちのあらゆるニーズは機械によって満たされるかもしれません。しかし、このユートピアでは、主体性の喪失が暗黙のうちに存在します。私たちの意思決定は、（AIによって定義される）私たち自身の利益のために、導かれたり、微妙に制御されたりする可能性が高いのです。