GPUは高価で入手が難しく、車よりも早く減価償却されます。たとえ高負荷のコンピューティングがたまに必要になったとしても、クラウドGPU(AWS、Lambda Labs、CoreWeave)をレンタルする方が安価です。
例:ドメイン特化型の13Bモデルをトレーニングするスタートアップ企業は、20万ドル相当のGPUを購入する代わりに、A100を2週間レンタルしました。トレーニングが完了し、GPUが返却され、コストが上限に抑えられました。
もし気に入ったら購読料お願いします
引用ジャングル
もし気に入ったら購読料お願いします
GPUは高価で入手が難しく、車よりも早く減価償却されます。たとえ高負荷のコンピューティングがたまに必要になったとしても、クラウドGPU(AWS、Lambda Labs、CoreWeave)をレンタルする方が安価です。
例:ドメイン特化型の13Bモデルをトレーニングするスタートアップ企業は、20万ドル相当のGPUを購入する代わりに、A100を2週間レンタルしました。トレーニングが完了し、GPUが返却され、コストが上限に抑えられました。
もし気に入ったら購読料お願いします