すべての AI クエリには価格が付いています。

・1 回の ChatGPT クエリのコストは、モデルに応じて OpenAI では数分の 1 セントから数セントになります。

・これを数百万のユーザーに実行すると、突然「無料枠」が 1 か月あたり数百万ドルを消費することになります。

推論コストはAWSの新たな請求書だ。初期のスタートアップ企業がクラウドコストの暴走で破滅したように、今日のAIスタートアップ企業は制御不能な端数処理費用で血を流している。

・Perplexityは早い段階でその計算を理解していました。クエリごとに生のGPT呼び出しを実行する代わりに、ハイブリッドな検索レイヤーとLLMを構築しました。まず関連ドキュメントを取得し、次に要約することで、トークン使用量を大幅に削減しました。コスト削減、応答速度向上、そして引用数増加は、UX向上につながります。

・MidjourneyはDiscord上でコミュニティ主導のバイラル性を築き上げました。しかし、その裏には隠された秘密がありました。GPUのコストは天文学的な額でした。画像をレンダリングするたびに、コンピューティングリソースが消費されてしまうのです。だからこそ、彼らはすぐに積極的な有料プランを導入したのです。無料ユーザーを維持するのは不可能だったからです。

・ChatGPTは爆発的な普及を遂げ（2ヶ月で1億ユーザー）、OpenAIのコンピューティング予算をほぼ超過しました。そのため、「ChatGPT Plus」を月額20ドルで提供開始しました。これは収益化だけでなく、コスト抑制策でもあります。