過去3年間、多くの人々はAIが大きければ大きいほど賢くなると信じてきた。彼らは、パラメータが多ければ多いほど性能が向上し、GPUが多ければ多いほど賢くなると考えている。

この一般的な認識は、今週Googleが公開したオープンモデル「Gemma 4」によって完全に覆されました。Gemmaは、Googleがリリースした一連のオープンウェイトモデルです。「オープンウェイト」とは、モデルの重みデータが自由に利用できることを意味します。誰でもダウンロードして、自分のPC、サーバー、またはクラウドで実行できます。

ChatGPTとGemini Advancedはクラウド経由でしか利用できませんが、Gemmaの最大の利点は、ローカル環境に直接インストールして実行できることです。

なぜ突然このようなことが起こったのか？それは、Googleが新たに発表した「TurboQuant」という技術が、LLM（大規模言語モデル）のメモリ消費量を劇的に削減するからである。

メモリ効率を6分の1にまで低減できると言われており、AIの運用コストを大幅に削減できる可能性があり、「ローカルLLMがようやくずっと軽量化される」「これまで実行不可能だった大規模モデルも家庭用GPUで簡単に実行できるようになる」と多くの人が期待していると思います。