毎月、新たな効率化のトリックが登場し、新しいハードウェアを使わずにモデルを高速化しています。量子化（4ビット）、FlashAttention、投機的デコード、DoRA、LoRA。ソフトウェアがコンピューティングのルールを覆しています。

例： 4ビット量子化により、LLaMA-13Bは16GBのRAMを搭載した単一のコンシューマー向けCPUで動作できるようになりました。これは2年前には考えられなかったことです。