引用ジャングル

AppleはLLM妄想の虜になってしまった。これは、ChatGPTのようなLLMは魔法のようで、どんなタスクでも自動化できるという思い込みである。GPT-4oやGemini 2.5 Proを支える1000億以上のパラメータを持つモデルについては、確かにほぼあらゆるタスクを自動化できる。

しかしAppleは、30億パラメータに縮小されたオンデバイスモデルでこれを実現しようとしている。これは良くない考えだ。80億パラメータのLLMでさえ良い結果を得られていないのに、30億パラメータの高度量子化モデルではなおさらだ。