ローカルAIマシンを購入する際に最も重要な数値はメモリ容量であり、チップの世代でも、ベンチマークスコアでも、パッケージに記載されているNPU TOPSでもありません。AppleのMac Mini M4 Proは、最大64GBの統合メモリと273GB/sの帯域幅を備え、30B量子化モデルを毎秒12～18トークンという快適な速度で実行します。Minisforum MS-S1 Maxなどのマシンに搭載されているAMDのRyzen AI Max+ 395プラットフォームは、その上限を128GBのLPDDR5xに倍増させ、Q4量子化で70Bモデルを余裕を持って保持するのに十分な容量です。ただし、その代償として約1,000ドル高くなり、macOSに比べてまだ改善の余地があるLinux環境となります。