カスタマーサポートチャットの要約、定型SQLの生成、人事メールの草稿作成。これらにはGPT-4クラスのインテリジェンスは必要ありません。
例:ある物流会社は、ルートサマリーを生成するためにGPT-4を70億の蒸留モデルに置き換えました。精度はわずかに低下しましたが、推論コストは20分の1に削減されました。GPUは不要です。
もし気に入ったら購読料お願いします
引用ジャングル
もし気に入ったら購読料お願いします
カスタマーサポートチャットの要約、定型SQLの生成、人事メールの草稿作成。これらにはGPT-4クラスのインテリジェンスは必要ありません。
例:ある物流会社は、ルートサマリーを生成するためにGPT-4を70億の蒸留モデルに置き換えました。精度はわずかに低下しましたが、推論コストは20分の1に削減されました。GPUは不要です。
もし気に入ったら購読料お願いします