M1 MacBook Air に MLX をインストールし、gemma-2-2b-it-4bit（4bit量子化）を動かしました。MLX は Apple Silicon の Unified Memory アーキテクチャに最適化されており、外部 GPU なしでも効率的な推論が可能です。

検証環境

  • MacBook Air / 16 GB Unified Memory
  • macOS 15.x / Python 3.12
  • MLX 0.31.2 / mlx-lm 0.31.2

実測結果

  • モデルサイズ: 2.8 GB（4bit量子化）
  • モデルロード時間: 39.2 秒
  • 推論速度: 17.4 tokens/秒
  • メモリ使用量: 1.4 GB

インストールは pip のコマンド一つで完了します。mlx-community が提供する量子化済みモデルを利用することで、HuggingFace からそのままダウンロードして動かせます。詳細は mlx-lm 公式リポジトリを参照してください。

推論速度 17.4 tokens/秒は、M1 MacBook Air の Unified Memory を活かした実力値です。メモリ使用量が 1.4 GB と効率的で、他のアプリと並行して動作させる余裕があります。

フィジカルAI分野では、ロボットや IoT デバイスの制御に LLM を組み合わせる事例が増えています。M1 Mac はその検証・プロトタイプ環境として手軽に使える選択肢です。