私たちは皆、数十億ものパラメータを持つモデルをローカルマシンで実行しようとした経験があるでしょう。時間をかけて重みをダウンロードし、メモリにロードしたとしても、実際に実行しようとするとマシンが完全にフリーズしてしまうのです。たいていは出力が壊れてしまい、APIキーを使う方がずっと簡単だと気づくことになります。
私たちは皆、数十億ものパラメータを持つモデルをローカルマシンで実行しようとした経験があるでしょう。時間をかけて重みをダウンロードし、メモリにロードしたとしても、実際に実行しようとするとマシンが完全にフリーズしてしまうのです。たいていは出力が壊れてしまい、APIキーを使う方がずっと簡単だと気づくことになります。