引用ジャングル

最先端の genAI モデルはサイズが拡大し続け、パラメータ数は 2018 年以降に観測された年間 2.8 倍の歴史的な増加率と同程度になると想定しています。2028 年までに、モデルはプロンプトごとに最大 15 兆のパラメータを扱うことができるようになります。これは、今日の平均的な GPT-4 推論よりも 50 倍以上の計算量になります。ただし、すべてのユーザーが最新のモデルをすぐに必要としたり採用したりするわけではないことを認識し、一般的な使用では 2028 年までにプロンプトごとに平均 5 兆のパラメータを想定し、エージェント ワークフローではより小さなモデルを想定しています。