Apple のフレームワーク MLX を使って、M1 MacBook Air で Meta の大規模言語モデル LLaMA 3.2 3B（4bit量子化）を動かしました。MLX は Apple Silicon の Unified Memory アーキテクチャに最適化されており、CPU と GPU がメモリを共有するため、外部 GPU なしでも効率的な推論が可能です。

検証環境

• MacBook Air（Apple M1 / 16 GB Unified Memory）
• macOS 26.5.1 / Python 3.14.2
• MLX 0.31.2 / mlx-lm 0.31.3

実測結果

• モデルサイズ: 3.4 GB（4bit量子化）
• モデルロード時間: 3.7 秒
• 推論速度: 15.1 tokens/秒
• メモリ使用量: 1.7 GB

インストールは pip のコマンド一つで完了します。mlx-community が提供する量子化済みモデルを利用することで、HuggingFace からそのままダウンロードして動かせます。詳細は mlx-lm 公式リポジトリを参照してください。

推論速度 15.1 tokens/秒は、チャットで使うには若干遅めですが、バッチ処理や要約タスクには十分実用的な水準です。Unified Memory を活かした設計のため、16GB モデルではメモリ使用量が 1.7 GB と非常に効率的で、他のアプリと同時起動しても余裕があります。

フィジカルAI分野では、ロボットや IoT デバイスの制御に LLM を組み合わせる事例が増えています。M1 Mac はその検証・プロトタイプ環境として手軽に使える選択肢です。